Intelligence Artificielle et supercalculateurs

La plupart des objets de notre quotidien deviennent progressivement des appareils numériques connectés qui embarquent ou embarquerons dans leurs logiciels de l'intelligence artificielle comme les véhicules automobiles avec leurs divers degrés d’autonomie. Le développement massif de l’IA se manifeste à travers la recherche scientifique, les développements et les applications, dans divers domaines tels que les algorithmes, les logiciels, les données, le calcul, le stockage, le matériel (calculateurs, capteurs) sans oublier l'énergie. L’IA englobe diverses branches, allant de la logique et du raisonnement (donc jusqu’à l’explicabilité) à des approches statistiques, telles que les réseaux neuronaux pour l’apprentissage automatique utilisés dans les approches LLM (large language model) pour les conversations en langage naturel, rendus possibles par d'importants moyens de calcul permettant ces alignements de mots probables.

Les développements actuels de l’IA n’existeraient pas sans l’utilisation de supercalculateurs et de leurs capacités actuelles qui se situent dorénavant à l’échelle de l’exaflops, c’est-à-dire du milliard de milliards d’instructions par seconde (1018). Avec les progrès de la microélectronique les composants multi-processeurs CPU et GPU intègrent des dizaines de milliards de transistors gravés sur silicium à des échelles de quelques nanomètres et permettent aujourd’hui la réalisation du supercalculateur ADASTRA hébergé au CINES (voir encart des références) et inauguré en 2023 d’une capacité de 74 pétaflops avec une technologie HPE-CRAY-AMD identique à celle du calculateur le plus rapide au monde actuellement FRONTIER (Oak Ridge National Laboratory, USA). La nouvelle machine EL CAPITAN (Lawrence Livermore National Laboratory, USA) annoncée en 2024 avec une capacité de calcul de 2 exaflops tirera avantage de nouveaux composants « APU » (du constructeur AMD qui couplent sur un même substrat CPU et GPU) permettant une optimisation des communications internes aux nœuds de calcul, ce qui pourrait conduire à nouveau à des progrès significatifs pour les calculs en IA.    

Les supercalculateurs partagés par la communauté scientifique nationale, Jean ZAY (IDRIS, CNRS) et ADASTRA ont en commun l’exploitation de partitions GPU qui permettent des avancées spectaculaires dans le calcul scientifique et le développement de l’IA. Par exemple la diminution des temps de calcul pour une précision donnée permet l’accélération de la prévision d’évènements météorologiques extrêmes (voir encart des références). De plus les algorithmes d’IA en exploitant les données enregistrées permettrons encore d’accélérer les prévisions (voir encart des références), en intégrant dans certains cas des compléments d’information comme la météo participative.

Cependant, il existe des limites physiques inhérentes aux données et aux calculs nécessaires pour développer de nouvelles applications. Pour des performances de calculs qui varient de quelques dizaines à quelques milliers de pétaflops, les ordres de grandeur de consommation énergétique vont de 1 MW à plus d’une vingtaine de MW. ADASTRA, actuellement classé parmi les trois supercalculateurs les plus sobres au monde en 2023-2024 (selon le classement du Green 500 affiche une consommation à plein régime de 1,2 MWh. En 2024, pour une configuration optimisée HPE-CRAY-AMD/APU l’ordre de grandeur sera de 1 MW pour 100 pétaflops.

Il est impératif de sensibiliser chaque utilisateur d'un supercalculateur à la frugalité de ses usages, en l'informant sur les bilans énergétiques (voir encart des références) et les impacts carbone associés à un calcul spécifique. Cette sensibilisation revêt une importance cruciale, notamment dans le contexte des besoins considérables en puissance de calcul pour le développement de l’IA.

Afin de minimiser l'impact environnemental des calculs, plusieurs approches incontournables sont à considérer :

•  Optimisation de l'efficacité du refroidissement (aujourd’hui par eau tiède), - Récupération de la chaleur générée pour le chauffage des bâtiments,
• Mesure précise des consommations électriques pour optimiser et superviser les calculs, en ajustant les modes turbo, les fréquences, et en plafonnant la puissance,
• Définition d'indicateurs clés pour évaluer les calculs en cours de traitement et détecter les surconsommations d'énergie,
• Fourniture de métriques aux utilisateurs, telles que l'énergie consommée et les émissions de CO2 équivalentes par simulation.

Si l'évolution spectaculaire des supercalculateurs permet les développements actuels de l’IA, une conscientisation accrue des utilisateurs quant à la frugalité de leurs pratiques est nécessaire pour rendre compatibles innovation et préservation de l'environnement.