La densité des racks a doublé au cours de la dernière décennie, mais aujourd’hui, tirée par la densification des infrastructures, le HPC (calcul) et l’IA (Intelligence Artificielle), elle atteint des puissances déraisonnables…
Il y a un peu plus de dix ans, l’Uptime Institute situait la densité de puissance moyenne par rack (baie informatique) dans la plage de 4 à 5 kW (approximativement la même mesure en kVA). En 2020, cette densité se situait entre 8 et 10 kW.
Comment expliquer ce phénomène ? C’est assez simple : la puissance et la densité des serveurs ne cessent d’augmenter – un processeur moyen consommait moins de 100 watts d’énergie, aujourd’hui il consomme environ 500 watts -, celle des équipements annexes suit, comme la hauteur des racks et la capacité en nombre de ‘U’ embarqués, et donc la consommation énergétique au niveau de la baie explose.
La demande explose dans les gammes de forte puissance
Si l’on regarde maintenant du côté de la demande des clients, de la DSI et des colocataires, aux Etats-Unis deux datacenters sur trois notent un fort accroissement de la demande de pointe dans la gamme des 16 à 20 kW par rack. Mieux encore, en 2022 aux Etats-unis, les exploitants de datacenters signalent une élévation très sensible de la demande :
- 10% des densité de 20 à 29 kW par rack ;
- 7% des densités de 30 à 39 kW par rack ;
- 3% des densités de 40 à 49 kW par rack ;
- 5% des densités de 50 kW et plus par rack.
Le calcul des hyperscalers
Même son de cloche du côté des hyperscalers : Amazon, Google, Meta (Facebook) et Microsoft ont été parmi les premiers à élever la puissance au niveau de leurs racks, suivant le design de leurs infrastructures. Certains ont fait évoluer leurs équipements jusqu’à 50 kW et plus, ce qui leur a demandé d’innover en matière d’alimentation et de refroidissement – si l’on peut parler d’innovation concernant des pratiques, comme le liquid cooling, largement présentes dans l’industrie ou encore dans l’informatique de grand papa !
- Les hypercalers semblent cependant faire preuve de prudence et de modération : aujourd’hui, ils limitent la densité dans leurs datacenters à 30 kW maximum par rack.
Ils ne nous avaient pas habitués à tant de prudence, mais à regarder de plus prêt tout est dans les équations économiques et la mesure du risque : trop élever la densité impose de passer par des équipements à un coût plus/trop élevé, qui se révèlent moins évolutifs, et souvent en disponibilité réduite.
Et plus la puissance augmente, plus la température s’élève, et plus le risque de panne sur le PDU s’amplifie. Sur un rack alimenté en 35 kW, la quantité d’air chaud qui s’accumule à l’arrière des racks entraîne des pannes sur les unités de distribution de l’énergie !
HPC et IA, la haute densité à 100, 200, 300 kW…
Regardons maintenant du côté des marchés de la haute densité, le HPC (High Performance Computing ou calcul), le ML (machine learning) et l’IA (Intelligence Artificielle). Hier réservé à la recherche et à certaines industries, l’usage des infrastructures de haute densité nécessaires pour les faire tourner se démocratise. Et la liste des usages comme des métiers ne cesse de s’agrandir. Les clients demandent de la puissance, donc la capacité de prendre en charge ces infrastructures dans le datacenter, mais également de la latence et de la sécurité, donc de disposer de datacenters de proximité et souverains.
- Si nous n’en sommes qu’au début, concrètement, pour pratiquer IA et HPC, les clients demandent aujourd’hui de pouvoir mettre en oeuvre dans le datacenter des modules de 2 à 12 racks, voire des clusters de plusieurs racks, jusque dans des datacenters Edge (de proximité).
- Ces datacenters doivent être capables d’accepter des densités de 80 kW à 100 kW, parfois 200 kW… Eric Schwartz, PDG de CyrusOne, vient d’annoncé la construction d’un datacenter Intelliscale IA à 300 kW par rack !
Tous les datacenters de colocation et qui hébergent l’hyperscale vont y passer, comme les datacenters privés dont les DSI adoptent l’IA. Mais ce ne sera pas simple, car il faut revoir l’alimentation électrique, le refroidissement, la capacité du faux plancher et du plafond, les équipements et l’organisation des racks, l’urbanisation des salles, les systèmes de détection et de sécurité incendie, la formation des techniciens, et la tarification des offres…
La densité des racks explose, et le datacenter doit se transformer. Et se préparer à affronter la foudre de ses opposants sur sa consommation énergétique…
