À mesure que l'IA mûrit et se développe, les organisations doivent décider : où ces charges de travail à haute densité seront-elles exécutées ?
Pour beaucoup, l'IA a débuté dans le cloud, mais elle n'y restera pas toujours. Les équipes en charge des centres de données et des infrastructures prennent conscience des compromis en matière de latence, de coût et de contrôle qui résultent du transfert de tout le traitement de l'IA vers des installations hyperscale.
Par conséquent, de plus en plus de charges de travail liées à l'IA reviennent dans les environnements d'entreprise et de colocation. Mais ce changement pose un problème : ces environnements ont été construits bien avant l'avènement de l'IA, et leurs profils de consommation et de refroidissement ne peuvent pas supporter ce niveau de densité.
Toutes les organisations n'ont pas les capitaux (ou l'envie) de construire de nouveaux espaces de centres de données à chaque pic de la demande en IA. Et, notamment au sein des entreprises, leurs équipes n'ont ni l'expertise ni le temps de concevoir de nouvelles solutions haute densité pour chaque nouveau projet.
Facteurs à prendre en compte pour décider où l'IA sera installée
Lorsque les entreprises ont commencé à déployer l'IA, il semblait logique au départ de s'appuyer fortement sur les fournisseurs de cloud et d'infrastructures hyperscale. Les capacités étaient disponibles, les ressources pouvaient être rapidement augmentées et l'expérimentation de projets pilotes était rapide et peu risquée.
Avec l'IA passant de petites preuves de concept contenues à des services à grande échelle et toujours disponibles, l'exécution des charges de travail hors site n'est pas toujours la meilleure façon de prendre en charge un accès rapide et fiable.’ C’est pourquoi de plus en plus d’équipes cherchent des moyens de répondre aux exigences de l’IA au sein des centres de données qu’elles exploitent déjà.’
Au moment de décider quelles charges de travail d'IA doivent s'exécuter et où, trois facteurs doivent être pris en compte : la rapidité de réponse requise des services d'IA, le type de données avec lesquelles ils interagissent et la prévisibilité de leurs besoins à long terme en matière de coûts et de capacité.
1. À quelle vitesse l'IA doit-elle réagir ?
De nombreuses applications d'IA sont sensibles à la latence, ce qui signifie qu'elles dépendent de temps de réponse rapides et constants pour être efficaces. Cela inclut des applications telles que :
- Détection des fraudes dans les transactions financières
- Des systèmes de contrôle intelligents pour bâtiments qui ajustent le chauffage, la climatisation et l'éclairage en fonction de l'occupation et des conditions environnementales.
- Personnalisation en temps réel des expériences numériques destinées aux clients
- Opérations de campus intelligent qui coordonnent la consommation d'énergie, l'utilisation de l'espace et les services dans les différents bâtiments
Dans ces cas-là, l'envoi de données à un centre de données distant et l'attente d'une réponse peuvent engendrer des retards que les opérations ne peuvent tolérer.
Rapprocher une partie de la pile d'IA des lieux de génération et de consommation des données critiques permet de réduire la latence et ainsi de maintenir les performances et l'expérience utilisateur.
2. Où est-il financièrement le plus judicieux de déployer l'IA ?
Le coût est un autre facteur qui ramène l'IA dans les entreprises et les installations de colocation . Les clusters de GPU haute densité fonctionnant 24h/24 et 7j/7 peuvent s'avérer coûteux à héberger dans le cloud.
De nombreuses organisations atteignent un point où il est financièrement judicieux de conserver certaines tâches dans des environnements hyperscale tout en transférant les charges de travail critiques vers une infrastructure qu'elles contrôlent. La raison : une planification des coûts et des capacités plus prévisible. Les équipes peuvent ainsi mieux prévoir les dépenses tout au long du cycle de vie du matériel, éviter les pics de consommation imprévus et gérer les budgets et les mises à niveau.
3. De quels types de données l'IA aura-t-elle besoin ?
L'IA s'appuie sur l'apprentissage et l'inférence pour transformer les données brutes en décisions importantes pour l'entreprise. Ces activités impliquent des ensembles de données volumineux et sensibles que les entreprises ne souhaitent pas toujours transférer vers des environnements externes en raison de réglementations, de politiques internes ou même des attentes des clients.
L'exécution de l'IA dans des centres de données d'entreprise ou de colocation aide les organisations à protéger leurs données critiques en les conservant à proximité, en simplifiant la conformité et en réduisant les coûts opérationnels liés aux transferts de données.
Adapter les espaces existants des centres de données à l'IA
Intégrer l'IA en interne signifie demander à des espaces soumis à des contraintes fixes de puissance, de refroidissement et d'espace de répondre à de nouvelles exigences.
Alors que certains centres de données Bien qu'il y ait peut-être de la place pour d'autres racks, ces derniers sont actuellement remplis de GPU, qui consomment plusieurs fois plus d'énergie par rack que ce pour quoi l'espace a été conçu. Trouver un moyen de fournir 20 à 40 kW supplémentaires, voire plus, et d'évacuer la chaleur associée au niveau du rack, c'est une autre histoire. Les systèmes de refroidissement traditionnels dimensionnés pour les charges existantes peinent souvent à maintenir les clusters d'IA haute densité dans des plages de fonctionnement sûres sans surrefroidir le reste de la pièce ni créer de points chauds.
Les clés pour répondre à l'évolution de la demande
Outre la gestion de la densité, les équipes qui internalisent au moins une partie de l'IA doivent également prévoir de la flexibilité. L'IA évolue rapidement, et ses besoins en énergie et en refroidissement évoluent eux aussi très vite.
Les opérateurs de centres de données doivent pouvoir ajouter ou modifier des ressources de calcul haute densité à mesure que la demande augmente, sans avoir à repenser l'ensemble de l'espace à chaque fois.
Cela implique de déployer des solutions capables de :
- Prise en charge d'une densité de rack plus élevée
- Coexister avec les équipements existants
- Gérer des serveurs, des solutions de stockage et de réseau provenant de plusieurs fournisseurs
- Être déployé dans des allées ou des modules spécifiques sans révision mécanique complète
- Raccordez-vous aux infrastructures d'alimentation et de refroidissement existantes lorsque cela est possible.
- Augmentez la capacité par « blocs » modulaires et répétables en fonction des besoins.
Le refroidissement du rack favorise l'IA
À mesure que la densité augmente, il est essentiel d'adopter une approche au niveau des racks pour la gestion de l'alimentation et du refroidissement ; les clusters d'IA concentrent davantage de puissance dans un nombre réduit de racks. Au lieu de demander à toute la pièce d'absorber la charge thermique, le refroidissement au niveau du rack déplace ce point de transfert vers le rack.
Les échangeurs de chaleur de porte arrière s'attaquent au problème à la source. Une porte arrière refroidie capte et évacue la chaleur à sa sortie du rack, au lieu de laisser les gaz d'échappement chauds se répandre dans la pièce.
Pour les projets de rénovation en particulier, c'est un point crucial. Les portes arrière et autres solutions au niveau du rack peuvent souvent être ajoutées aux rangées existantes avec un minimum de perturbations dans un environnement en production. Vous pouvez augmenter la densité exactement là où et quand vous en avez besoin pour prendre en charge les charges de travail critiques.
Belden et OptiCool permettent une infrastructure prête pour l'IA
Pour relever ces défis, Belden et OptiCool s'associent pour créer des solutions intégrées au niveau des racks qui permettent aux entreprises et aux opérateurs de colocation de prendre en charge des charges de travail d'IA haute densité dans leurs installations existantes, ou dans de nouvelles.
En intégrant les échangeurs de chaleur à porte arrière d'OptiCool aux racks et armoires de Belden, un refroidissement avancé peut désormais être apporté directement au rack pour assurer des opérations de centre de données fiables, évolutives et compatibles avec l'IA. Associé au câblage réseau et à la distribution électrique haute vitesse et à faible latence de Belden, le rack complet fonctionne de manière fiable, même dans des environnements IT/OT mixtes.
OptiCool’ Les échangeurs de chaleur situés sur les portes arrière éliminent la chaleur à la source. Son système RDHx actif utilise une technologie de réfrigérant biphasique : des ventilateurs à vitesse variable aspirent l’air chaud à travers les serpentins de l’évaporateur dans la porte, capturant jusqu’à 120 kW de chaleur par rack avant qu’elle ne pénètre dans l’espace blanc. Un circuit de réfrigérant dédié transporte la chaleur vers une unité de rejet externe. Par conséquent, les charges thermiques des unités CRAC/CRAH ou des refroidisseurs existants sont considérablement réduites. réduire la consommation d'énergie et permettant un fonctionnement sûr et à haute densité le long des infrastructures existantes.
Découvrez comment OptiCool simplifie le refroidissement des centres de données haute densité.
Grâce à cette option de refroidissement haute densité au niveau des racks, les équipes peuvent désormais…’ n'ont pas à consacrer du temps ou des compétences à la conception et à l'intégration de leur propre infrastructure compatible avec l'IA— ou investir des capitaux dans la construction d'une nouvelle installation pour faire face à des charges de travail importantes. Ces solutions étant livrées sous forme de package (racks, alimentation, connectivité et refroidissement), elles peuvent être déployées rapidement, sans la complexité associée à la conception et à l'intégration traditionnelles.
Ensemble, nous pouvons vous aider à déterminer quelles charges de travail d'IA doivent être rapprochées des données et des utilisateurs.— et les meilleurs moyens de les soutenir. Retrouvez-nous au Data Center World, stand n° 437, en 2026, pour découvrir une baie Belden équipée d'un échangeur de chaleur OptiCool de 60 kW pour porte arrière, ainsi que d'autres solutions pour centres de données.
Découvrez comment nous pouvons vous aider.
Liens associés
Les centres de données basés sur l’IA constituent l’épine dorsale de notre avenir numérique
Pourquoi la création d’une base de données est importante dans l’IA pour la fabrication
La résilience d’un centre de données consiste à évaluer les risques et à adapter les pratiques