Pas de conclusion hâtive…, mais les rapports et analyses sectorielles au quatrième trimestre font apparaître une concentration inattendue de la circulation des données d’IA sur les réseaux et les datacenters entre les néoclouds, les fournisseurs de GPU-as-a-Service. Un phénomène pour le moment limité à la côte Est des Etats-Unis, mais qui annonce un changement structurel majeur du trafic web.
Initialement présentés comme une alternative aux plateformes de cloud hyperscale, les fournisseurs de néocloud – CoreWeave, Crusoe, Nebius et Lambda – se transforment rapidement et commencent à se faire une place au soleil de l’IA. C’est même la vitesse à laquelle le trafic du néocloud progresse qui surprend les analystes.
Les néoclouds sont des fournisseurs spécialisés dans le GPU en tant que service (GPU-as-a-Service). Ils prennent place dans les datacenters de colocation existants, où ils déploient leurs racks de GPU, et bénéficient de la forte demande en IA. Leurs particularités sont de proposer une infrastructure spécialisée, avec un provisionnement rapide (plus que celui les fournisseurs de cloud traditionnels) et des contrats flexibles.
L’analyse du trafic sur la côte Est des Etats-Unis, où sont pour le moment concentrés les fournisseurs de néocloud, révèle un changement structurel majeur du trafic web : une croissance soutenue du trafic entre la couche de stockage et les destinations de calcul néocloud. Ce que confirme le fournisseur de stockage cloud Backblaze.
Cette forte augmentation du trafic a deux conséquences :
- la croissance des charges de travail liées à l’IA est continue ;
- le comportement des réseaux change rapidement, avec des flux concentrés à large bande passante, caractéristiques des charges de travail liées à l’IA.
Les grands ensembles de données d’IA ingèrent et consolident textes, images, vidéos et métadonnées, puis exportent pour l’entraînement et l’inférence. Ce qui nécessite des débits élevés et constants. Quant à la concentration du phénomène sur la côte Est, elle vient rappeler que proximité et latence sont importants pour les transferts de données à haut débit.
C’est un changement structurel majeur du trafic web, qui prend place hors des hyperscalers, et qui pourrait modifier la structure du réseau…
