L'avenir des datacenters : la convergence de l'intelligence artificielle et du refroidissement liquide

L’essor rapide de l’intelligence artificielle (IA) générative met en évidence le rythme alarmant auquel les entreprises adoptent l’IA. Selon un récent rapport d'Accenture, 98 % des chefs d'entreprise affirment que l'intelligence artificielle jouera un rôle important dans leur stratégie au cours des trois à cinq prochaines années. Les analystes de McKinsey ont découvert que près de 65 % des entreprises prévoient d'augmenter leurs investissements dans l'intelligence artificielle au cours des trois prochaines années

NVIDIA, AMD et Intel lancent de nouvelles puces conçues pour l'intelligence artificielle générative et le calcul haute performance (HPC). ne fait que commencer. Les fournisseurs de cloud public et les sociétés émergentes de puces électroniques sont également en concurrence. Les analystes d'IDC prédisent que les dépenses mondiales en logiciels, matériel et services d'IA atteindront 300 milliards de dollars, dépassant les 154 milliards de dollars attendus cette année

Cependant, des défis subsistent dans la mise à l'échelle de l'IA, dont le moindre implique la prise en charge de ces charges de travail. Défis requis en matière d'infrastructure de centre de données .

Les centres de données deviennent de plus en plus « chauds »

Le GPU est la puce la plus courante dans l'intelligence artificielle et l'apprentissage automatique, qui peut accélérer le processus informatique des applications d'intelligence artificielle. Par exemple, le GPU H100 de NVIDIA possède 80 milliards de transistors, il génère donc beaucoup de chaleur et nécessite un refroidissement efficace

Traditionnellement, les configurations atteignant 10 kilowatts dans un seul rack de centre de données sont considérées comme haute densité, mais le refroidissement par air reste un moyen efficace de refroidissez ces serveurs. Bien que l'Uptime Institute ait constaté que peu de centres de données disposent de racks dépassant 30 kilowatts, des densités extrêmes apparaissent. La banalisation du calcul haute performance et l’essor de l’intelligence artificielle générative augmentent la demande d’énergie et mettent à rude épreuve les méthodes traditionnelles de refroidissement par air.

Par exemple, la consommation d’énergie maximale du dernier GPU de NVIDIA est 160 % supérieure à celle de la puce de la génération précédente. Les configurations de rack peuvent facilement dépasser la plage de 40 kW, ce qui est difficile à gérer avec les méthodes traditionnelles de refroidissement par air. Les centres de données d'aujourd'hui doivent continuer à évoluer pour gérer efficacement ces charges thermiques accrues

La technologie de refroidissement est de plus en plus importante

Heureusement, nous disposons d'une variété de technologies de refroidissement liquide pour relever ce défi, notamment la technologie de commutation thermique par porte dérobée et la technologie de puce directe, de plus en plus populaires. Il existe également différents types de technologies émergentes de refroidissement par immersion, qui consistent essentiellement à immerger des composants informatiques dans un récipient rempli de liquide de refroidissement.

Bien que le refroidissement par immersion en soit encore à ses premiers stades d'adoption, les analystes prédisent que la technologie deviendra courante dans ce domaine. année, et la taille du marché passera de 251 millions de dollars américains en 2021 à plus de 1,6 milliard de dollars américains en 2027. Cela aura un impact significatif sur les besoins en infrastructure des centres de données, et les chefs d'entreprise doivent savoir si leurs opérateurs de centres de données sont prêts à réaliser les investissements nécessaires à court terme pour soutenir ce changement.

Avantages et inconvénients du refroidissement liquide

Le liquide est 1 000 fois plus efficace en tant que conducteur de chaleur que l'air et nécessite moins d'infrastructures. Les systèmes de refroidissement par air nécessitent des équipements de réfrigération complexes, notamment des refroidisseurs, des pompes à air, des câbles, des systèmes de contrôle de l'humidité et de filtration, ainsi que des systèmes de secours redondants pour garantir que les serveurs ne perdent pas de refroidissement lors d'une panne de courant.

En revanche, les systèmes de refroidissement par liquide sont relativement C'est simple, mais sa mise en œuvre dans l'infrastructure actuelle des centres de données peut présenter des défis importants, notamment en termes d'investissement initial et de complexité. La configuration d'un système de refroidissement liquide peut être compliquée et nécessiter une maintenance spécialisée. De plus, la conception des serveurs devra peut-être être ajustée, l'adoption d'une approche par immersion peut annuler la garantie OEM et les fuites du système de refroidissement peuvent entraîner des dommages à l'équipement et des temps d'arrêt. Les opérateurs de centres de données doivent également prendre en compte les nouvelles réglementations et normes environnementales liées à l'utilisation de systèmes de refroidissement liquide

Cela dit, les systèmes de refroidissement liquide ou par immersion ne nécessitent pas beaucoup de sauvegarde ni de stratégies spéciales d'étanchéité du sol ou des allées. L’impact global sur la consommation d’énergie et les coûts peut être important. Les résultats d'une étude récente ont révélé que la mise en œuvre du refroidissement liquide peut réduire la consommation d'énergie des installations de près de 20 % et la puissance totale du centre de données de plus de 10 %. L'efficacité totale d'utilisation (TUE), une nouvelle mesure conçue pour comparer l'efficacité du refroidissement liquide au refroidissement par air dans les environnements informatiques hautes performances, montre que le refroidissement liquide est plus de 15 % plus économe en énergie.

La transition vers le refroidissement liquide présente d'autres avantages durables. Les systèmes de refroidissement liquide nécessitent moins d’eau que les systèmes de refroidissement par air. La modernisation des centres de données peut faire appel à de nouvelles façons de penser pour réduire leur empreinte physique et carbone. Les stratégies de réutilisation thermique peuvent fournir de l’énergie aux entreprises et aux communautés environnantes. Les possibilités sont passionnantes et pourraient être aussi transformatrices que l’IA générative elle-même.

Ce qu'il faut savoir maintenant

La transition vers un centre de données sur site peut s'avérer trop complexe et coûteuse pour la plupart des entreprises. D’un autre côté, une grande partie de l’infrastructure de cloud public actuelle n’est pas conçue pour exécuter des applications d’IA à grande échelle, et le coût croissant de l’hébergement de charges de travail à volume élevé dans le cloud pousse de nombreuses organisations à rechercher d’autres options

Compte tenu de ces défis et opportunités, un fournisseur de centre de données de colocation possédant une expérience en matière d'infrastructure et gérant d'innombrables cas d'utilisation par les clients constituera probablement la meilleure solution pour de nombreuses entreprises. Les leaders dans ce domaine peuvent apporter leur expertise et leur soutien pour guider les organisations dans leur transformation. Nous avons également développé des relations clés avec un certain nombre de constructeurs OEM de matériel et de fournisseurs de systèmes de refroidissement liquide qui stimuleront la croissance des centres de données, en proposant diverses options pour répondre aux besoins uniques de nos clients.

Les organisations doivent désormais savoir si leurs opérateurs de centres de données planifient déjà et, peut-être plus important encore, s'ils disposent de la capacité physique disponible ou de la technologie nécessaire pour s'adapter au développement de centres de données de nouvelle génération. Les centres de données sont déjà confrontés au défi complexe de déplacer les charges de travail vers les serveurs les mieux adaptés à leurs besoins. À mesure que les exigences en matière d’intelligence artificielle et de charges de travail de calcul haute performance continuent d’augmenter, ces obstacles seront certainement aggravés par le défi supplémentaire lié à l’ajout de systèmes de refroidissement fondamentalement différents.

Les opérateurs de centres de données qui investissent actuellement dans ces stratégies seront bien placés pour aider leurs clients à relever ces défis de manière proactive. L’intelligence artificielle change tout, y compris les centres de données. Il est maintenant temps de démarrer cette conversation

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!