Communiqué – Dell Technologies enrichit son portefeuille de solutions d’IA générative avec des mises à jour de la Dell AI Factory conçues spécifiquement pour les environnements AMD. Ces nouvelles solutions offrent aux entreprises des capacités d’IA optimisées, garantissant une évolutivité et une flexibilité accrues, afin de les aider à rester compétitives dans un paysage technologique qui évolue très rapidement.
« En intégrant la technologie AMD dans les derniers serveurs Dell, les solutions d’IA et les services fournis par la Dell AI Factory, offrent les performances et l’efficacité requises par les entreprises aujourd’hui et dans le futur », a déclaré Arthur Lewis, président Infrastructure Solutions Group chez Dell Technologies. « En collaboration avec AMD, nous établissons de nouveaux standards de performance en matière d’IA, en proposant des solutions performantes essentielles pour les environnements modernes pilotés pas les données ».
Dell PowerEdge : charges de travail d’IA haute performance
Ces nouveaux produits de la gamme Dell PowerEdge répondent à un large éventail de cas d’utilisation en matière d’IA et de charges de travail traditionnelles, tout en simplifiant la gestion et la sécurité des serveurs. Ces plateformes proposent des solutions personnalisables et performantes qui facilitent la gestion tout en exécutant des charges de travail à haute performance :
Le serveur Dell PowerEdge XE7745 prend en charge jusqu’à huit GPU PCIe double largeur ou 16 GPU PCIe simple largeur avec des processeurs AMD EPYC de 5ème génération dans un châssis 4U refroidi par air. Développés pour l’inférence IA, l’affinage des modèles et le calcul haute performance, les emplacements GPU internes sont associés à huit emplacements PCIe Gen 5.0 supplémentaires pour la connectivité réseau, créant ainsi des configurations flexibles avec une capacité de GPU PCIe DW multipliée par deux.[1]
Les serveurs PowerEdge R6725 et PowerEdge R7725 sont conçus pour une évolutivité optimale, intégrant des processeurs AMD EPYC de 5ème génération. Le nouveau design du châssis DC-MHS optimise le refroidissement par air et utilise deux CPU de 500 W, ce qui permet de relever des défis thermiques en matière de puissance et d’efficacité.[2] Ces plateformes sont idéales pour l’analyse de données et les opérations d’IA, avec leurs configurations optimisées pour l’évolutivité, et offrent des performances record pour des charges de travail telles que la virtualisation, les bases de données et l’IA.[3] Le R7725 offre jusqu’à 66% d’augmentation des performances et jusqu’à 33% d’augmentation de l’efficacité au sommet de la pile.[4]
Ces trois plates-formes peuvent prendre en charge jusqu’à 37 % de cœurs supplémentaires, avec une augmentation de 58% des performances par cœur, ce qui se traduit par une amélioration de l’efficacité et du coût total de possession.[5] Ces gains permettent ainsi de consolider jusqu’à sept serveurs d’il y a cinq ans en un seul serveur aujourd’hui, ce qui se traduit par une réduction de 65% de la consommation d’énergie.[6]
Les serveurs PowerEdge R6715 et R7715 équipés de processeurs AMD 5th Gen EPYC offrent également des performances accrues, ainsi qu’une capacité de disque augmentée de 37%, permettant une plus grande densité de stockage.[7] Disponibles dans diverses options de configuration, les serveurs à un socket permettent de doubler la mémoire en prenant en charge 24 modules DIMM (2DPC), ils répondent à diverses exigences en matière de charges de travail et maximisent les performances dans des châssis compacts de 1U et 2U.[8] Le R6715 enregistre des performances record pour les tâches d’IA et de virtualisation.[9]
Pour les clients déployant l’IA à grande échelle, Dell Technologies continuera également à prendre en charge les derniers accélérateurs AMD Instinct sur les serveurs Dell PowerEdge XE.
Les équipes informatiques peuvent superviser, gérer et mettre à jour à distance les serveurs Dell PowerEdge grâce à la mise à jour du contrôleur d’accès à distance intégré Dell (iDRAC). Avec un processeur plus rapide, une mémoire accrue et un coprocesseur de sécurité dédié, l’iDRAC simplifie la gestion et la sécurité des serveurs, permettant de répondre avec plus de fiabilité et d’efficacité.
Les optimisations apportées à Dell AI Factory simplifient les déploiements d’IA
La Dell AI Factory est conçue pour répondre à une multitude d’exigences en matière d’IA, grâce à un portefeuille de solutions d’IA parmi les plus vastes du marché. De l’ordinateur de bureau jusqu’au centre de données, en passant par le cloud, cette approche permet aux entreprises de redimensionner efficacement leurs investissements en intelligence artificielle :
Dell Generative AI Solutions with AMD avec le serveur Dell PowerEdge XE9680 et les accélérateurs AMD Instinct™ MI300X pour l’inférence, la génération augmentée de récupération (RAG) et la personnalisation, simplifie le déploiement de l’IA. Cette intégration renforce également la sécurité, offre des architectures évolutives et modulaires et réduit le temps de valorisation jusqu’à 86 %, permettant aux organisations d’optimiser leurs investissements dans l’IA.[10]
Le Dell Enterprise Hub sur Hugging Face supporte désormais le Dell PowerEdge XE9680 avec les accélérateurs AMD Instinct MI300X, proposant des conteneurs et des scripts personnalisés pour un déploiement facile et sécurisé de modèles tels que Llama et Mixtral. Ces modèles conteneurisés sont spécialement optimisés pour augmenter les performances d’inférence en fonction du modèle et du serveur et tirer parti du back-end Hugging Face Text Generation Inference (TGI).
Les services professionnels Dell pour l’IA générative évoluent pour prendre en charge les environnements AMD. Les nouveaux services de Dell pour l’IA générative avec AMD proposent une plateforme opérationnelle sur mesure, intégrant la configuration de Kubernetes, le déploiement de frameworks d’IA avancés et le transfert de connaissances des bonnes pratiques afin de maximiser le retour sur investissement des clients. De l’élaboration de la stratégie à la préparation des données, en passant par la mise en œuvre de la plateforme et du modèle et par la mise à l’échelle de la solution, les experts de Dell accompagnent les clients tout au long du cycle de vie.
Disponibilité
- Le serveur Dell PowerEdge XE7745 sera disponible à partir de janvier 2025.
- Les serveurs Dell PowerEdge R6715, R7715, R6725 et R7725 seront disponibles à partir de novembre 2024.
- Les solutions Dell Generative AI avec AMD seront disponibles à partir du quatrième trimestre 2024.
- Les mises à jour de Dell Enterprise Hub sur Hugging Face sont disponibles dès maintenant.
- Les services de mise en œuvre Dell pour la plateforme d’IA générative sont disponibles dès maintenant.
[1] AMD, le logo AMD Arrow, AMD Instinct, EPYC et leurs combinaisons sont des marques commerciales d’Advanced Micro Devices, Inc. Les autres noms sont donnés à titre d’information uniquement et peuvent être des marques commerciales de leurs propriétaires respectifs.
[2] Basé sur l’analyse Dell comparant le CPU supérieur pris en charge dans un Dell PowerEdge R7725 du CPU AMD EPYC de 5th nen avec 192 cœurs Zen 5c au CPU supérieur pris en charge dans le Dell PowerEdge R7625 du CPU AMD EPYC de 4th gen avec 128 cœurs Zen 4c. En outre, sur la base des données de spécification pour le Dell PowerEdge R7725 montrant la prise en charge de 2 CPU de 500W avec refroidissement par air. Données exactes au 10/2/2024. Les performances réelles peuvent varier.
[3] Basé sur les serveurs Dell PowerEdge ayant atteint des scores records pour VMMark4 (score 2-S matched pair de 5.17@5.8 tiles avec le Dell PowerEdge R7725), SAP-SD (score 2-S de 201 000 utilisateurs avec le Dell PowerEdge R6725), et TPCx-AI (scores de 720.386 @SF3, 864.593@SF10 et 1115.609@SF30 avec le Dell PowerEdge R6715 et R6725) en date du 10/2/2024. Les performances réelles peuvent varier.
[4] Basé sur l’analyse par Dell des scores SPECIntRate du CPU AMD EPYC 5th gen 9965 de 2980 dans le R7725 avec ceux du CPU AMD EPYC 4th gen 9754 de 1790 dans un R7625. Données exactes au 10/2/2024. Les performances réelles peuvent varier.
Basé sur l’analyse par Dell des scores SPECIntRate du CPU AMD EPYC 5th gen 9965 de 2980 qui a un cTDP de 500W dans le R7725 avec celui du CPU AMD EPYC 4th gen 9754 de 1790 qui a un cTDP de 400W dans un R7625. L’efficacité de chaque configuration est calculée en divisant le score SPECInt par le TDP par défaut. Données exactes au 10/2/2024. Les performances réelles peuvent varier.
[5] Basé sur l’analyse Dell comparant le SKU supérieur pris en charge dans un Dell PowerEdge R7725 du CPU AMD EPYC de 5th gen avec 192 cœurs Zen 5c à celui pris en charge dans le Dell PowerEdge R7625 des CPU AMD EPYC de 4th gen avec 128 cœurs zen 4c au SKU supérieur. Données exactes au 10/2/2024. Les performances réelles peuvent varier.
Basé sur l’analyse Dell des scores SPECFPRate du CPU AMD EPYC 5th gen 9755 de 2270 dans le R7725 avec celui du CPU AMD EPYC 4th gen 9754 de 1420 dans un R7625. Données exactes au 10/2/2024. Les performances réelles peuvent varier.
[6] Basé sur l’analyse de Dell comparant les scores SPECint et SPECFP de l’AMD EPYC 5th gen 9965 dans un Dell R7725 (2980 et 2350) avec les mêmes scores pour un Intel Xeon 8280 dans un Dell PowerEdge R740XD (375 et 296). Le rapport des scores montre que 7 serveurs R740xd donneraient un score total similaire à celui d’un seul R7725 tel que configuré ci-dessus. Les CPU d’un seul R7725 auraient un TDP total de 1000W (2x500W). Les CPU de 7x R740XDs auraient un TDP total de 2870W (22057) où chaque Intel Xeon 8280 a un TDP de 205W. Cela représente une réduction de 65 % de la consommation d’énergie du processeur. Données exactes au 10/2/2024. Les performances réelles peuvent varier.
[7] Basé sur l’analyse Dell des spécifications comparant le serveur Dell PowerEdge R67x5 avec jusqu’à 22 emplacements de disque E3.s avec les serveurs Dell PowerEdge R66x5 avec jusqu’à 16 emplacements de disque E3.s. Les données ont été collectées le 2 octobre 2024.
[8] Basé sur l’analyse par Dell des spécifications des serveurs Dell Rx715 qui ont 24 emplacements DIMM par rapport aux serveurs Dell Rx615 qui ont 12 emplacements DIMM chacun. Données exactes au 10/2/2024.
[9] Basé sur des serveurs Dell PowerEdge atteignant des scores records pour SPECVirt (score SAN 1-S 4 nœuds de 3,38 avec le Dell PowerEdge R6715 est un score record pour SPECVirt au niveau 32 cœurs par système), et TPCx-AI (scores de 720,386 @SF3, 864,593@SF10 avec le Dell PowerEdge R6715 sont des records mondiaux pour la performance) à partir du 2 octobre 2024. Les performances réelles peuvent varier.
[10] Estimation basée sur l’analyse de Dell en mai 2024 comparant le temps de configuration d’un cluster Kubernetes à 2 nœuds pour un LLM à usage général à l’aide de scripts automatisés par rapport au déploiement manuel d’une conception commune. Le temps de configuration comprend uniquement l’installation de base. Le temps d’installation réel varie en fonction de la configuration de la solution.
