Que réserve l'année 2025 aux centres de données à l'ère de l'IA ?

2024 a vu de nombreuses organisations faire leurs premiers pas vers l'adoption de l'IA, par le biais de projets pilotes mis en œuvre à grande échelle ou par l'élaboration de stratégies d'IA.

Une étude réalisée au début de l'année par McKinsey a révélé que 65 % des organisations utilisaient désormais régulièrement l'IA générative, soit près du double par rapport à l'étude réalisée dix mois plus tôt. Bien qu'il s'agisse d'une augmentation significative par rapport à l'année précédente, une étude distincte du Boston Consulting Group indique que seulement 22 % des entreprises ont pleinement mis en œuvre leur stratégie d'IA et enregistrent des gains substantiels.

Il est clair que des progrès sont réalisés, mais on s'attend actuellement à ce que 2025 soit un véritable point de basculement pour la technologie. Le débat sur le rôle de l'industrie des centres de données dans la prise en charge de cette augmentation considérable de la demande d'énergie - et dans l'efficacité de cette prise en charge - s'intensifie.

Ce qui est clair, c'est que pour les entreprises qui cherchent à déployer ou à développer leurs capacités d'IA - et pour les opérateurs de centres de données - il y aura des décisions importantes à prendre l'année prochaine. Cela va du choix de la conception aux composants spécialisés qu'ils utilisent pour maximiser l'espace.

Examinons plus en détail certaines de ces considérations.

Des fibres, beaucoup de fibres

Pour dire les choses franchement, l'écosystème de l'IA ne fonctionne pas sans la fibre. Seule la fibre peut fournir la bande passante massive, la densité et les exigences d'adaptabilité que l'IA crée, et elle est nécessaire dans des volumes plus importants pour prendre en charge les architectures qui sont en train d'émerger.

La conception typique d'un réseau en spirale et en feuille, qui est privilégiée pour les performances des réseaux à haut débit dans les centres de données où le trafic est davantage orienté est-ouest, connaît une évolution significative, notamment une augmentation considérable de la fibre optique.

Contrairement aux centres de données traditionnels, les centres de données d'IA ont besoin que la fibre soit acheminée jusqu'au GPU NIC lui-même, à l'aide d'une couche de réseau supplémentaire appelée "Back End Network". Cela a permis d'augmenter la quantité de connectivité d'un appareil à l'autre d'environ 10 fois par rack.

Nous pourrions également voir davantage d'opérateurs s'engager dans différentes méthodes de connectivité pour étendre la capacité du réseau, y compris la connectivité longue distance entre les campus des centres de données. Là encore, cela signifie beaucoup plus de fibre.

L'optimisation de l'espace devient plus critique

Ce besoin de fibre optique s'accompagne d'un impératif d'optimisation de l'espace et d'une capacité de croissance à plus long terme - ce sera probablement l'une des considérations les plus universelles pour les opérateurs de centres de données en 2025.

Heureusement, le secteur des centres de données s'intéresse depuis longtemps à cette question et il existe une myriade d'innovations dans le domaine du câblage et de la connectique pour permettre une plus grande densité dans les centres de données.

Les derniers commutateurs de réseau utilisés pour interconnecter les serveurs d'intelligence artificielle dans un centre de données sont bien équipés pour prendre en charge les interconnexions 800G. Souvent, les ports d'émission-réception de ces commutateurs de réseau fonctionnent en mode breakout, où le circuit 800G est divisé en deux circuits 400 ou plusieurs circuits 100. Cela permet aux opérateurs de centres de données d'augmenter la capacité de connectivité du commutateur et d'interconnecter davantage de serveurs.

Même si les interfaces optiques AI/ML sont censées utiliser la connectivité MPO, la miniaturisation est un impératif pour les centres de données AI, ce qui sera possible en exploitant des connecteurs multifibres à très petit facteur de forme (VSFFC), telle que MMC ou SN-M. Cela permet de réduire l'empreinte du brassage pour les implémentations de câblage structuré, la fibre ayant une faible atténuation et une haute performance de courbure pour mieux gérer la congestion des câbles.

Les premiers utilisateurs passent au 1.6T

L'IA - ainsi que d'autres applications gourmandes en données telles que les services de streaming - entraîne des demandes de bande passante qui finiront par dépasser les vitesses de 40G ou 100G auxquelles de nombreuses entreprises opèrent actuellement.

La date exacte de ce point de basculement reste à déterminer, mais il est possible que nous assistions à une accélération du nombre de centres de données qui effectueront la transition vers le 800G et au-delà en 2025. Les ventes d'émetteurs-récepteurs 400G et 800G sont déjà en hausse et nous pouvons certainement nous attendre à des déploiements précoces de réseaux à 1,6T utilisant des émetteurs-récepteurs combinés 2x800G en 2025.

Là encore, le VSFFC jouera un rôle important. Bien que le choix des connecteurs pour les émetteurs-récepteurs de 1,6T puisse rester celui de connecteurs duplex LC installés ventre à ventre pour FR4, et MPO8 pour les technologies DR4, l'utilisation de VSFFC tels que MMC16 ou SN-MT sera nécessaire. Cela s'explique par la nécessité d'un câblage dorsal pour agréger les 864 fibres ou plus par baie de serveur AI dans les baies des réseaux Spine et Core - ces baies peuvent accueillir plus de 9000 brins de fibres.

La durabilité devient un sujet plus brûlant

L'IA devrait nécessiter le développement de nombreux nouveaux centres de données, qui ont été classés cette année comme infrastructure nationale critique pour la première fois au Royaume-Uni. Les besoins énergétiques accrus des centres de données d'IA suscitent également un examen plus approfondi de l'impact qu'ils auront sur les émissions au niveau mondial.

Des approches telles que l'optique co-packagée, qui consiste à rapprocher l'optique et l'électronique dans un système de commutation ou de traitement, apparaissent comme une solution pour améliorer l'efficacité énergétique.

En 2025, nous pouvons également nous attendre à ce que le refroidissement soit un élément clé. Pendant des années, l'air a été le principal moyen de transfert de la chaleur dans les centres de données, mais les solutions de refroidissement traditionnelles à base d'air sont de plus en plus mal équipées pour gérer les centres de données exigeants de l'IA.

Les agents de transfert de chaleur à base de liquide s'imposent rapidement comme une solution viable dans l'ensemble de l'industrie, la méthode la plus largement déployée consistant à faire circuler de l'eau dans des tuyaux isolés autour des unités centrales de traitement (CPU) et des unités de traitement graphique (GPU) générant de la chaleur, à l'aide de plaques thermoconductrices isolées.

Le chemin à parcourir

Les entreprises, les opérateurs de centres de données et même les dirigeants au niveau international devront prendre un certain nombre de décisions clés au cours de l'année à venir.

Pour les nombreuses parties prenantes qui font avancer le secteur des centres de données, il y a beaucoup de travail à faire pour continuer à concevoir, construire et entretenir une infrastructure résiliente capable de prendre en charge l'IA et de relever les nouveaux défis posés par la technologie.

L'industrie est bien préparée et a anticipé ces développements. Chez Corning, par exemple, nous avons passé les quatre dernières années à réinventer nos solutions de fibre, de câble et de connectivité pour aider nos clients à se préparer aux exigences de densité de la Génération IA.

Pour les opérateurs de centres de données, la priorité en 2025 sera d'apporter les adaptations nécessaires à leur infrastructure pour rester agiles et prêts à faire face à tout ce que l'avenir leur réserve. Il est préférable d'être prêt dès maintenant, plutôt que de devoir procéder à des mises à niveau plus tard, dans des délais encore plus serrés.