AMD a réalisé une augmentation estimée à 4 fois de l’efficacité énergétique de l’IA entre 2024 et 2026, ce qui lui permet de progresser vers son objectif pour 2030 de multiplier par 20 l’efficacité à l’échelle du rack pour l’entraînement et l’inférence de l’IA.
AMD prévoit une multiplication par quatre de l’efficacité énergétique de ses solutions d’IA d’ici mi-2026, dépassant ainsi son objectif initial de multiplication par trois et faisant plus du double de la tendance historique observée à la même période. Ces progrès témoignent de la dynamique mise par AMD pour atteindre son objectif 2030 : multiplier par 20 l’efficacité énergétique des serveurs dédiés à l’entraînement et à l’inférence des systèmes d’IA. Ils reflètent également les efforts déployés par AMD au niveau des puces, des systèmes et des logiciels pour aider ses clients à optimiser l’efficacité de leurs charges de travail d’IA.
La puissance de calcul de l’IA s’accélère rapidement, ce qui exige des infrastructures de data centers toujours plus performantes. Pour répondre à cette demande, il est indispensable d’innover à tous les niveaux : processeurs, cartes graphiques, réseau, logiciels, alimentation et refroidissement doivent fonctionner de concert et efficacement, du rack au data center. Améliorer l’efficacité énergétique permet d’accroître les performances de l’IA sans augmenter la consommation d’énergie, de réduire le coût total de possession et d’aider les clients à évoluer plus rapidement.
Quel est le rôle d’AMD ?
« La prochaine étape en matière d’efficacité de l’IA reposera sur une co-optimisation plus poussée des puces de calcul, de la mémoire, des interconnexions, des logiciels et de la conception des systèmes à l’échelle du rack. Notre estimation d’une amélioration de 4x d’ici 2026 témoigne de la pertinence de notre approche et des progrès réalisés par AMD sur l’ensemble du système, ce qui nous place en avance sur notre calendrier prévu pour atteindre l’objectif de 2030. » Sam Naffziger, vice-président senior et membre corporatif d’AMD
Quels gains d’efficacité sont attendus ? Sur la base d’une charge de travail représentative pour l’entraînement de l’IA, les gains d’efficacité énergétique projetés par AMD à l’échelle du rack devraient produire l’un des deux avantages suivants d’ici 2030 :
- Même puissance de calcul, moins de ressources : environ deux racks AMD de 2030 devraient fournir la même puissance de calcul que 570 racks en 2024, permettant une réduction de la consommation d’électricité en phase d’utilisation de 20 fois et de l’intensité carbone de 28 fois.
- Plus de puissance de calcul, même énergie : autrement dit, les gains d’efficacité devraient permettre de multiplier par 20 la puissance de calcul, mesurée en opérations en virgule flottante par seconde (FLOPs) par watt, en utilisant la même quantité d’énergie.
AMD s’efforce d’améliorer l’efficacité de l’ensemble de la chaîne IA grâce à des avancées en matière d’architecture de calcul, de technologie de gravure, de bande passante mémoire, de transfert de données, d’interconnexions, de logiciels et de co-conception au niveau système. L’objectif est d’offrir des performances de calcul nettement supérieures sans que la consommation d’énergie n’augmente au même rythme.
À mesure que l’infrastructure d’IA évolue des nœuds individuels aux racks complets, son efficacité dépend de plus en plus de la synergie entre les processeurs, les cartes graphiques, la mémoire, le réseau, le stockage et les logiciels. AMD met en œuvre une conception conjointe au niveau système, avec des équipes travaillant sur l’ensemble des catégories de produits, afin de réduire les goulots d’étranglement, d’optimiser le transfert de données et d’améliorer les performances par watt sur la plateforme.
Quels sont les fondements des gains d’efficacité ?
Au-delà de l’optimisation logicielle, trois facteurs principaux déterminent les performances des systèmes d’IA : la puissance de calcul, la bande passante mémoire et la bande passante d’interconnexion. Les progrès en matière de procédés de fabrication et d’architecture contribuent à accroître les performances de calcul en virgule flottante par watt. Les architectures avancées et l’intégration de la mémoire améliorent la bande passante, tandis que les interconnexions à haut débit et une intégration plus poussée augmentent la bande passante du réseau. AMD prévoit que ces innovations permettront d’offrir des performances d’IA par watt 20 fois supérieures d’ici 2030 par rapport à 2024.
Pourquoi la mémoire et les interconnexions sont-elles importantes ? Les charges de travail d’IA modernes dépendent du déplacement efficace de grandes quantités de données. Améliorer la bande passante mémoire, sa densité et le rapport bande passante/watt permet d’alimenter les moteurs de calcul tout en réduisant le gaspillage d’énergie. Une mémoire à large bande passante, des caches plus importants et une intégration plus étroite entre la mémoire et le calcul permettent de réduire les transferts de données inutiles, sources de dépenses énergétiques.
L’interconnexion est devenue un élément essentiel des infrastructures d’IA performantes, car la taille des modèles et des charges de travail dépend de plus en plus de l’efficacité du fonctionnement conjoint des GPU, des CPU et des autres composants du système. Les interconnexions à haut débit et à grande échelle permettent aux systèmes de grande envergure de réduire les goulots d’étranglement et de partager les données plus efficacement.
Comment les logiciels contribuent-ils à l’efficacité ?
Le matériel constitue la base, mais les logiciels permettent d’optimiser en continu les performances. La suite logicielle AMD ROCm, les standards ouverts et une étroite collaboration avec les clients aident les développeurs et les entreprises à déployer plus efficacement des charges de travail d’IA sur les plateformes AMD. Les écosystèmes ouverts favorisent également une optimisation plus large des déploiements d’IA et de calcul haute performance (HPC).
Ces optimisations peuvent contribuer à améliorer à la fois les charges de travail d’entraînement et d’inférence de l’IA à grande échelle, où l’amélioration du débit et la réduction de l’énergie consommée par jeton généré sont de plus en plus importantes à mesure que les applications d’IA évoluent.
Les clients ont besoin d’une puissance de calcul accrue pour une énergie consommée plus importante. Les gains d’efficacité projetés à l’échelle du rack, annoncés par AMD, permettent aux clients des secteurs de l’IA et du HPC d’optimiser leur infrastructure de consommation d’énergie et de refroidissement, un facteur limitant souvent l’augmentation des performances de calcul. Une meilleure efficacité énergétique contribue à réduire la consommation d’électricité opérationnelle, à améliorer le coût total de possession et à favoriser une croissance plus durable de l’IA et du HPC.
