Article vedette｜La demande de puissance de calcul explose sous le boom des grands modèles d'IA : Lingang veut construire une industrie de plusieurs dizaines de milliards, et SenseTime sera le « maître de la chaîne »

SenseTime a lancé l'exploitation du centre de calcul d'intelligence artificielle AIDC dans la nouvelle zone de Lingang de la zone de libre-échange de Shanghai le 24 janvier 2022. À ce moment-là, la société d’intelligence artificielle ne sera peut-être pas en mesure de prédire avec précision que 2022 deviendra la première année de ce qu’on appelle l’AIGC (AI Generated Content).

« Aujourd'hui, notre Lingang AIDC dispose de près de 30 000 GPU (unités de traitement graphique), et notre puissance de calcul actuelle a atteint 5 000 PetaFLOPS (1 PetaFLOPS équivaut à 1 petaFLOPS). En plus de cela, nous pensons que nous pouvons avoir une meilleure efficacité des développeurs à l'avenir et peut prendre en charge une formation à la puissance de calcul de modèles à plus grande échelle, à l'échelle de centaines de milliards. » Le 2 juin, « L'IA mène l'ère, la puissance de calcul conduit l'avenir. » —— Xu Li, président et PDG de SenseTime Technology, a déclaré lors de la conférence Lingang New Area Intelligent Computing.

SenseTime a déclaré aux journalistes de The Paper (www.thepaper.cn) qu'il y avait encore de nombreuses demandes en attente d'être traitées. Selon Yang Fan, co-fondateur de SenseTime et président du groupe d’entreprises de grands appareils, la quête par l’intelligence artificielle de données plus volumineuses, d’une plus grande échelle et d’une plus grande puissance de calcul n’a pas « commencé aujourd’hui « toute l’itération technologique de l’intelligence artificielle, l’histoire ». Le progrès peut être vu comme une poursuite de « l’esthétique de la violence » et un processus d’itération technologique dans lequel les trois éléments que sont l’algorithme, la puissance de calcul et les données passent de changements quantitatifs à des changements qualitatifs. »

Lingang New Area, qui se concentre sur les industries de pointe, a répondu rapidement à ce nouvel engouement. Le 2 juin, Wu Xiaohua, secrétaire adjoint du Comité de travail du Parti de la nouvelle zone de Lingang, a publié le « Plan d'action pour accélérer la construction de l'écosystème de l'industrie informatique dans la nouvelle zone de Lingang » lors de la conférence mentionnée ci-dessus. Selon le plan du « Plan », d'ici 2025, Lingang deviendra un cluster industriel de l'énergie de calcul avec une influence nationale, et la taille globale de l'industrie de l'énergie de calcul, y compris le matériel, les logiciels, les applications, les services, etc., dépassera 10 milliards de yuans.

Wu Xiaohua, secrétaire adjoint du comité de travail du Parti de la nouvelle zone de Lingang, a publié le « Plan d'action pour accélérer la construction de l'écosystème de l'industrie informatique dans la nouvelle zone de Lingang ».

« Nous constatons que l'ère de l'explosion de l'IA est arrivée. L'IA est entrée dans tous les domaines de notre production et de notre vie, elle a en fait entraîné une explosion de la demande de puissance de calcul. » Introduction du « Plan » mentionné ci-dessus, Lu Yu, directeur de la division de haute technologie du comité de gestion de la nouvelle zone de Lingang, a déclaré aux médias, dont The Paper (www.thepaper.cn), que Lingang avait déjà de bons avantages au début. , "C'est-à-dire que nos ressources en puissance de calcul sont très abondantes."

Plus important encore, lorsque les entreprises d'intelligence artificielle choisissent de s'implanter ou non à Lingang, les ressources informatiques sont devenues un facteur décisionnel particulièrement important.

La puissance informatique est l'énergie de la nouvelle ère, et le succès ne réside pas seulement dans « l'esthétique violente »

Qu'est-ce que la puissance de calcul ? Xu Li estime que la puissance de calcul est en fait une expression des capacités de l'ensemble du modèle. « La puissance de calcul est égale aux paramètres de l'algorithme ou du grand modèle, multipliés par la quantité de données qu'il traite. paramètres, plus la quantité de données est multipliée, plus la puissance de calcul requise est grande. "La puissance de calcul est devenue l'énergie de la nouvelle ère. "Dans une certaine mesure, la puissance de calcul détermine la compétitivité du marché."

Yang Fan a également mentionné que depuis l'année dernière jusqu'à cette année, un concept très populaire dans le domaine de l'intelligence artificielle est appelé génération de contenu. En même temps, tout le monde connaît le terme appelé grand modèle. Pour faire simple, il s'agit d'une « esthétique violente ». Par exemple, le modèle GPT-3 utilise plus de 175 milliards de paramètres et nécessite un processeur performant pour prendre en charge l'entraînement. La formation V100 consomme 10 000 cartes pendant 14,8 jours. la puissance de calcul globale requise est d’environ 625 PetaFLOPS.

Yang Fan estime que cette « esthétique de la violence » peut également être comprise comme des changements quantitatifs conduisant à des changements qualitatifs. « En fait, depuis le premier jour de sa naissance jusqu'à aujourd'hui, l'intelligence artificielle a recherché une plus grande intelligence à travers l'échelle. " Il a mentionné qu'en fait, dans le domaine de l'intelligence artificielle, au cours des 5 à 6 dernières années, la consommation de puissance de calcul des principaux modèles d'intelligence artificielle de l'industrie a doublé tous les 4 à 6 mois. fois, ce qui signifie qu'elle a augmenté de près 300 000 fois ces dernières années.

Bien sûr, « violence » et « intelligence » ne sont pas tout à fait proportionnelles. « Disposer de plus grandes ressources et d'une plus grande échelle n'est qu'une condition nécessaire mais pas suffisante. » Yang Fan a souligné que ce qui compte vraiment, c'est la « violence » ". L'esthétique" est précisément l'optimisation et l'amélioration continue de chaque maillon qui supporte les innovations et réalisations technologiques majeures.

En prenant les données comme exemple : « Les données utilisées par GPT-4 ne représentent en réalité que 1 % de toutes les données collectées par OpenAI, car il a découvert que lorsque davantage de données sont introduites dans le robot, celui-ci peut devenir moins intelligent. , des données plus efficaces et de plus grande valeur devraient être fournies à cet algorithme, et un cerveau plus intelligent pourra alors être créé

.

Il estime que, au moins aujourd'hui, la validité des données est bien plus importante que la quantité totale de données. Quant à la manière de définir des données efficaces, "Cela nécessite en fait beaucoup d'efforts de la part des data scientists. OpenAI laisse en fait ses meilleurs scientifiques s'occuper des données, pas des algorithmes comme tout le monde le pense

."

Ce type d'optimisation de chaque lien inclut également la puissance de calcul. Lorsque NVIDIA est en rupture de stock, pourquoi personne n'utilise de puces nationales pour la formation commerciale à grande échelle ? Pourquoi Nvidia a-t-il gagné tout l’argent immédiatement après l’arrivée de la dernière vague ? L'explication derrière ces questions est la suivante : « Nous ne pouvons pas générer la valeur finale en empilant la puissance de calcul à une certaine valeur. Rassembler 1 000 cartes et 100 serveurs pour exécuter la même tâche nécessite beaucoup de logiciels et de communications de support. est une série d'optimisations conjointes de logiciels et de matériels. Nous n'avons pas fait ce genre de travail dans le passé, et nous devons nous rattraper aujourd'hui »

.

Suivez la tendance, Lingang accélère la formation d'un système d'alimentation informatique diversifié

Selon Wu Xiaohua, l'industrie de la puissance informatique dans la nouvelle zone de Lingang a réalisé des configurations correspondantes dans les logiciels et le matériel en amont, les centres de données intermédiaires, les plates-formes de planification et les applications en aval. Actuellement, la puissance de calcul totale de Lingang dépasse 3EFLOPS (FP32, 1 EFLOPS). est égal à 100 par seconde) pétaflops), dont la puissance de calcul intelligente représente près de 80 %, et la puissance de calcul totale représente près de 20 % de Shanghai.

Le « Plan » susmentionné propose que d'ici 2025, la nouvelle zone formera un système d'alimentation en énergie de calcul diversifié qui se concentrera sur la puissance de calcul intelligente et coordonnera la puissance de calcul de base et la puissance de calcul de supercalcul. La puissance de calcul totale dépassera 5EFLOPS (FP32), et la puissance de calcul totale dépassera 5EFLOPS (FP32). La puissance de calcul de l'IA La proportion de la puissance de calcul a atteint 80 % et l'échelle globale de l'industrie de la puissance de calcul (y compris le matériel, les logiciels, les applications, les services associés) a dépassé 10 milliards de yuans. La plate-forme a été construite, le mécanisme d'échange de puissance de calcul a été standardisé, la répartition régionale de la puissance de calcul a été réalisée et une plate-forme publique de services de puissance de calcul a été créée. Un cluster industriel de puissance de calcul d'influence nationale et un certain nombre de références d'applications de démonstration de puissance de calcul. des scénarios seront construits.

« La puissance de calcul intelligente est ce dont les entreprises d'IA les plus populaires ont actuellement besoin. Nous avons également constaté que lorsque les entreprises d'IA viennent à Lingang, elles ne se concentrent plus uniquement sur le niveau de soutien politique et de subventions qu'elles peuvent leur accorder, mais également sur le montant des subventions. " " Lu Yu a mentionné ce changement important.

SenseTime a déclaré qu'en mai de cette année, les gros appareils de SenseTime fournissaient des services à plus de 40 clients principaux. "Surtout sous la vague des grands modèles, nous aidons désormais plus de 10 institutions à former leurs grands modèles dans le centre informatique intelligent de Lingang", a également mentionné Yang Fan.

Shenshi Technology, créée en 2018, est l'un des demandeurs de puissance de calcul. L'équipe principale de l'entreprise est dirigée par E Weinan, académicien de l'Académie chinoise des sciences, et d'autres. Elle est un pionnier du paradigme de recherche scientifique « IA+Science » et son premier « modélisation multi-échelle + apprentissage automatique + haute technologie ». Le paradigme du calcul de performance" a réalisé une percée en unifiant la précision et l'efficacité dans les simulations moléculaires multi-échelles.

Selon des rapports précédents de journalistes de The Paper (www.thepaper.cn), Shenzhen Technology a lancé la plateforme de calcul scientifique Lebesgue, la plateforme de conception de médicaments Hermite et la plateforme de calcul et de conception microscopique Bohrium. Par exemple, dans le domaine de la médecine, Shenzhen Technology s'est associé à de nombreux clients pour intégrer le paradigme informatique de modélisation physique + IA avec la recherche et le développement de médicaments précliniques via Hermite Uni-FEP, Uni-Fold, RiD et d'autres modules. énergie libre La théorie des perturbations, la dynamique moléculaire, les algorithmes d'échantillonnage améliorés et le calcul haute performance sont combinés pour prédire avec précision la structure des protéines et les changements conformationnels, et évaluer efficacement l'énergie libre de liaison des protéines et des ligands avec une précision chimique, fournissant ainsi des théories efficaces et précises aux développeurs de médicaments. Fournir des conseils pour améliorer l’efficacité de la conception et de l’optimisation des médicaments.

Le 29 décembre de l'année dernière, Shenzhen Technology, basée à Pékin, a enregistré et créé Shenzhen Energy Biotechnology (Shanghai) Co., Ltd. à Lingang. Dans une interview avec The Paper (www.thepaper.cn), Liu Huishi, vice-président des affaires gouvernementales et des entreprises de Shenzhen Technology, a déclaré que le déploiement par l'entreprise d'un centre de recherche et de développement d'algorithmes de simulation moléculaire de nouvelle génération et d'un médicament assisté par l'IA Le centre d'affaires de conception de Lingang est principalement dû au fait que Da Lingang développe vigoureusement sa puissance de calcul. « Nous avons une demande en puissance de calcul pendant la formation du modèle. De plus, Lingang développe particulièrement vigoureusement sa puissance de calcul localisée. Nous souhaitons également y contribuer. à cet aspect."

Nous menons principalement la recherche et le développement de médicaments à Lingang, y compris la recherche et le développement de notre propre pipeline de médicaments. « Liu Huishi a mentionné que les activités de Shenzhen Technology entretiennent des relations de coopération positives et directes avec des industries de pointe telles que l'intelligence artificielle et la biomédecine à Lingang et même à Shanghai. « Nous sommes disposés à intégrer notre R&D et nos produits dans le Lingang à grande échelle. l’écosystème. »

Le « Plan » mentionné ci-dessus mentionne également que la nouvelle zone de Lingang a également formulé une série de mesures de sauvegarde, notamment le renforcement de la protection des talents, l'amélioration des politiques de soutien et la promotion d'une coopération ouverte. Selon Lu Yu, si les entreprises d'IA viennent à Lingang, elles donneront la priorité à la puissance de calcul intelligente de Lingang, et en même temps, grâce à l'émission de coupons de puissance de calcul et d'autres formes, les entreprises pourront utiliser la puissance de calcul à un prix préférentiel. "Même pour les principales entreprises d'IA, le gouvernement le fera. Le coût de la puissance de calcul ne peut être directement subventionné que à hauteur de 30 %, et nous proposerons ces politiques."

Lors de cette conférence, la plate-forme de services informatiques intelligents publics Lingang de China Telecom et la base d'innovation conjointe GPU nationale ont également été officiellement lancées, ce qui mérite d'être noté. China Telecom a créé Lingang Computing Power (Shanghai) Technology Co., Ltd., qui réalisera la construction du Lingang Computing Power Park et lancera par lots 40 000 racks haute puissance adaptés à l'informatique intelligente et au supercalcul.

Tang Wenkan, directeur adjoint de la Commission municipale de l'économie et de l'information de Shanghai, a déclaré le même jour qu'actuellement, la nouvelle génération d'infrastructures d'information avec « le réseau comme base, les données comme noyau, la puissance de calcul comme clé et la sécurité comme "le résultat net" est devenu un support de base important pour la construction d'industries modernes. Shanghai a proposé de construire une structure industrielle moderne de type « 2+(3+6)+(4+5) », ce qui a mis en avant des exigences plus élevées pour la construction d'une nouvelle infrastructure d'information représentée par la puissance de calcul.

Le 16 mai, la Commission municipale de l'économie et des technologies de l'information de Shanghai a annoncé la liste des projets de centres de données qui ont réussi l'évaluation de conformité des « Lignes directrices pour la construction des centres de données de Shanghai », soutenant un total de 16 projets, dont le projet situé à Lingang. Il y en a 2. "Jusqu'à présent, notre comité a soutenu 8 projets dans la nouvelle zone, dont SenseTime AIDC, Youfu Networks et Information Feiyu, avec un total de 28 000 armoires standard de 6 kW, soit près d'un cinquième des armoires approuvées par la ville

."

Tang Wenkan a suggéré d'utiliser pleinement les ressources informatiques de Lingang et d'établir des services informatiques publics. « À l'heure actuelle, SenseTime AIDC de Lingang est connecté à la plate-forme de services informatiques publics. J'espère également que toutes les unités participant à la réunion d'aujourd'hui, en particulier les opérateurs de télécommunications, construiront activement une informatique extrêmement rapide à Lingang sur la base des caractéristiques du réseau de Lingang. Le réseau de transport d’énergie aide à réaliser le réseau omniprésent, la puissance de calcul omniprésente et l’intelligence omniprésente, et favorise la puissance de calcul pour devenir un service public comme l’eau et l’électricité

.

Création de l'Intelligent Computing Industry Alliance, avec SenseTime comme leader de la chaîne industrielle

L'objectif de Lingang est de créer une alliance industrielle de puissance de calcul qui intègre l'amont, le milieu et l'aval, qui puisse répondre aux besoins actuels et futurs de manière collaborative et systématique, et tirer parti des avantages existants pour réaliser le développement.

Lu Yu considère l'alimentation en énergie de calcul de Lingang comme la « section médiane » de l'ensemble de la chaîne industrielle. Une extrémité fournit des garanties de puissance de calcul aux entreprises d'IA qui se sont installées à Lingang, et l'autre extrémité implique « la clé de la puissance de calcul ». logiciels, systèmes." "Nous espérons qu'avec le côté demande et un tel côté plate-forme, nous rassemblerons ici les sociétés de puces informatiques, les sociétés de logiciels et les sociétés de systèmes pour les permettre de participer profondément à la construction d'un tel système dans le processus. »

Yang Fan a également souligné : « Le développement de toutes les réalisations des grands modèles observés aujourd'hui n'est pas seulement le miracle de la violence, l'amélioration de la valeur technique provoquée par l'augmentation continue de l'échelle des trois éléments de l'intelligence artificielle, mais aussi " Les capacités et les systèmes de R&D de base. L'intégration approfondie des capacités d'ingénierie, l'optimisation des algorithmes, le tri et la sélection des données et l'optimisation de la puissance de calcul de la plate-forme sont souvent interconnectées, et il est difficile de les transformer en liens séparés et de le faire seul. "

Il a déclaré que la valeur importante de la chaîne industrielle de l'énergie de calcul intelligente est que « ce n'est que lorsqu'il y aura plus d'entreprises dans la chaîne, et que chacun favorisera les échanges et la réflexion les uns avec les autres, et mènera une coopération plus approfondie, que nous pourrons être en mesure pour être compétitif dans un moment aussi nouveau et critique. Dans la vague technologique, nous devons réaliser de meilleurs progrès et un meilleur soutien technologique.

Sur le site de la conférence, la New Area Intelligent Computing Industry Alliance a été officiellement créée et China Unicom a été nommé première unité de présidence tournante de l'alliance. Il est rapporté que China Unicom établira à l'avenir l'Institut de recherche sur l'innovation du delta du fleuve Yangtze dans la nouvelle zone afin de contribuer davantage au développement de l'industrie de l'informatique intelligente dans la nouvelle zone.

Les membres de l'Intelligent Computing Industry Alliance dans la nouvelle zone sont représentés par des entreprises fournissant une puissance de calcul telle que la puissance de calcul intelligente, la puissance de calcul de base et les centres de puissance de calcul intensif, des sociétés de puces de puissance de calcul telles que GPU, FPGA et ASIC, ainsi que des entreprises de puissance de calcul telles que les grands modèles et l'IA pour la science. Il se compose d'un total de 25 entreprises en demande, ainsi que d'un total de 3 universités et instituts de recherche, dont la branche de la Chine orientale de l'Académie chinoise des technologies de l'information et des communications, Xi'. une Université des sciences et technologies électroniques de Chine et une Université des sciences et technologies électroniques de Chine Le partage des ressources, les échanges techniques et la coopération en matière de projets seront réalisés à l'avenir. SenseTime a reçu le titre de « Leader de la chaîne de l'industrie de l'informatique intelligente dans le nouveau domaine ».

Le fabricant de puces GPU Muxi a déclaré le même jour que trois types de produits GPU qui répondent aux besoins du calcul d'inférence de l'IA, de la formation de l'IA/calcul général et des fonctions de rendu hautes performances peuvent être utilisés dans l'inférence de l'IA, la formation de l'IA, les centres de données, le métaverse, le cloud. les jeux et d'autres domaines, permettront la transformation et le développement de divers domaines.

Tang Wenkan fonde également de grands espoirs sur la création de l'Alliance de l'industrie de l'informatique intelligente dans la nouvelle zone de Lingang : « En nous appuyant sur des propriétaires de chaînes tels que SenseTime, combinés à ses propres avantages, nous explorerons la collaboration de tous les facteurs en amont et en aval de la chaîne industrielle pour former un nouveau point chaud de l’économie numérique »

.

12 entreprises ont signé conjointement un accord d'approvisionnement collaboratif pour les entreprises en amont et en aval de l'industrie de l'informatique intelligente dans le nouveau domaine lors de la conférence ce jour-là. Lu Yu a mentionné que la nouvelle zone publiera également une liste positive d'approvisionnement collaboratif : « Si les entreprises achètent des produits en amont tels que des GPU nationaux pendant le processus de construction d'une plate-forme informatique localisée, nous accorderons des subventions. Cela encouragera également les entreprises en amont et en aval. à mettre à niveau. C'est génial de travailler avec. »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!