Amazon.com (NASDAQ:AMZN) et Amazon Web Services (AWS) ont annoncé mercredi qu’ils ont conçu les serveurs Ultra P6e-GB200 pour répondre à la demande croissante de calculs résultant des dernières avancées de l’IA génératrice, y compris des modèles de fondation à un billion de paramètres, des systèmes de raisonnement et une IA orientée.
AWS a conçu un matériel spécifique pour refroidir les GPU Nvidia de nouvelle génération utilisés dans les charges de travail AI.
Reconnaissant les exigences énergétiques élevées des dernières puces de Nvidia, AWS a décidé de ne pas attendre et de construire de nouveaux centres de données refroidis par liquide.
À la place, ses ingénieurs ont développé l’échangeur thermique en rangée (IRHX) – une solution qui s’intègre aux centres de données existants et nouveaux pour gérer la chaleur des configurations de GPU denses, a indiqué CNBC mercredi.
Ces serveurs ultra-compacts intègrent jusqu’à 72 GPU Nvidia Blackwell, tous interconnectés à l’aide du NVLink de cinquième génération de Nvidia, permettant aux GPU de fonctionner comme un système de calcul unique et unifié.
Dave Brown, vice-président du service de calcul et de machine learning d’AWS, a expliqué que les options de refroidissement standard ne pouvaient pas répondre aux exigences des systèmes NVL72 GB200 de Nvidia, qui contiennent 72 GPU Blackwell dans un seul rack. La solution standard de refroidissement par air suffisait pour les générations de GPU précédentes, mais AWS a dû innover pour suivre le rythme de l’intensité de calcul accrue des systèmes d’aujourd’hui.
AWS propose désormais cette infrastructure via ses instances P6e, offrant aux clients les performances nécessaires pour entraîner et déployer des modèles d’IA à grande échelle avec un support thermique avancé.
Microsoft (NASDAQ:MSFT) et CoreWeave (NASDAQ:CRWV) ont précédemment proposé des clusters de calcul basés sur l’architecture NVL72 GB200 de Nvidia.
En mars, Intel (NASDAQ:INTC) a positionné sa technologie de refroidissement SuperFluid comme un concurrent de poids pour gérer la chaleur générée par les puces d’IA de haute puissance GB300 de Nvidia.
SuperFluid, lancé en 2023, aurait réussi aux tests de vérification prouvant qu’il peut gérer des charges thermiques allant jusqu’à 1500 watts, dépassant la consommation de 1400 watts attendue des puces Blackwell Ultra GB300 de Nvidia.
En juin, la société de serveurs d’IA Super Micro Computer (NASDAQ:SMCI) a étendu ses solutions de serveurs d’IA refroidis par liquide pour l’architecture Blackwell de Nvidia aux puces GB200 de Nvidia sur le marché européen.
La société a introduit plus de 30 piles de solutions pour les déploiements Nvidia HGX B200, GB200 NVL72 et RTX PRO 6000 Blackwell, aidant ainsi les entreprises à accélérer le déploiement de leurs usines d’IA.
Supermicro élargit sa gamme de nouveaux systèmes refroidis par liquide, y compris un serveur HGX B200 d’E/S avant de 4U équipé de sa technologie DLC-2. Ces systèmes permettent aux clients d’exécuter des charges de travail IA haute densité tout en conservant des systèmes thermiques efficaces.
En travaillant en étroite collaboration avec Nvidia, Supermicro se prépare également à prendre en charge les nouvelles puces Nvidia Blackwell Ultra de nouvelle génération, telles que les GB300 NVL72 et HGX B300, plus tard cette année.
Titre de l’action: Avant la cloche d’ouverture des marchés, l’action AMZN a perdu 0,34 % pour s’établir à 221,79 $, l’action d’Amazon ayant chuté de 0,34 % à 221,79 $ avant la cloche d’ouverture des marchés jeudi. NVDA est en hausse de 0,85 %.
Lire la suite:
Photo: Shutterstock