Maison > Article > Périphériques technologiques > Utilisez des palettes volantes pour gérer la production de grands modèles en un seul arrêt. Le kit de développement de grands modèles PaddleFleetX est le premier du secteur.
Le 30 novembre, le WAVE SUMMIT+2022 Deep Learning Developer Summit, organisé par le Centre national de recherche en ingénierie pour les technologies et applications d'apprentissage profond et hébergé par Baidu Fei Paddle, s'est tenu comme prévu. Lors du sommet, Ma Yanjun, directeur général de Baidu AI Technology Ecosystem, a publié les dernières avancées technologiques et écologiques de la plate-forme Paddle Deep Learning. La nouvelle version 2.4 de Paddle Open Source Framework a apporté le premier kit de développement de grands modèles de bout en bout de l'industrie, PaddleFleetX. réunissant 12 entreprises. Les partenaires écologiques du matériel ont publié la version écologique Flying Paddle, et la communauté d'apprentissage et de formation AI Studio a été mise à niveau pour lancer des formations d'entreprise et des centres de calcul écologiques hétérogènes, etc. Cette série de mesures marque que Feipiao continue de consolider sa base technologique d'IA et d'approfondir l'intégration industrielle et l'innovation.
Photo : Ma Yanjun, directeur général de Baidu AI Technology Ecosystem, a partagé la dernière version de la plateforme Flying Paddle
La version 2.4 de la mise à niveau Flying Paddle, le développement du cadre est plus flexible et plus pratique, la formation distribuée sur modèles à grande échelle continue de diriger et le déploiement d'inférences hautes performances dans tous les scénarios est réalisé.
En termes de développement, la version 2.4 du framework open source Flying Paddle a ajouté plus de 160 API pour des scénarios importants tels que le calcul clairsemé et l'apprentissage des graphes, et le seuil et le coût de développement des API ont été considérablement réduits, de sorte que 1/2 des API nouvellement ajoutées cette fois 3 contributions des développeurs de l'écosystème. En réponse aux besoins des scénarios AI for Science, la version 2.4 implémente une fonction générale de différenciation automatique d'ordre élevé pour mieux prendre en charge les applications liées au calcul scientifique. Dans le même temps, Flying Paddle a considérablement amélioré l'évolutivité et la flexibilité de déploiement de la technologie dynamique-statique de base. Le taux de réussite dynamique-statique du nouveau modèle atteint 92 %, permettant ainsi de tirer pleinement parti des avantages respectifs de la dynamique et de la statique. images.
En termes de formation, la version 2.4 a été récemment mise à niveau et a lancé le moteur de formation de modèles graphiques à très grande échelle basé sur GPU, PGLBox, qui est le premier du secteur à mettre en œuvre une solution d'apprentissage graphique intégrée pouvant prendre en charge simultanément des algorithmes complexes. , des graphiques ultra-larges et des modèles discrets ultra-larges. De plus, les performances de formation distribuée de communication collective de Fei Paddle ont également été optimisées à l'extrême, fournissant un système complet et riche d'optimisation des performances de formation distribuée pour la formation de grands modèles. Sur cette base, Fei Paddle a remporté à deux reprises le test de référence de formation en IA faisant autorité au niveau international. une rangée cette année n°1 sur la liste MLPerf Training.
En tant que « dernier kilomètre » de la mise en œuvre de l'IA dans l'industrie, le processus d'inférence et de déploiement du modèle est très critique. Tout d'abord, pour le raisonnement de grands modèles, la version 2.4 du framework open source Flying Paddle prend en charge des fonctions telles que la segmentation adaptative des modèles et le raisonnement distribué. S'appuyant sur les capacités dynamiques et statiques du framework Flying Paddle, il peut réaliser une fusion profonde automatique. et une optimisation hautes performances, prenant entièrement en charge les applications de grands modèles Landed. Dans le même temps, afin de résoudre fondamentalement les trois problèmes majeurs de fragmentation des scènes, de coûts de développement élevés et de lenteur de raisonnement rencontrés par la mise en œuvre des applications d'IA, Feipiao a récemment lancé FastDeploy, un outil de déploiement d'IA hautes performances pour tous les scénarios, qui fournit une solution unique pour les exigences de déploiement multi-scénarios, multi-framework et multi-matériel en bout, en périphérie et dans le Cloud. Non seulement elle a une conception d'API unifiée et est simple et facile à utiliser, mais elle prend également en charge un lien profond entre la compression automatisée. et des moteurs d'inférence hautes performances, qui peuvent tirer pleinement parti des avantages des logiciels et du matériel intégrés, et avoir des performances d'inférence de pointe, offrant des solutions optimales pour la mise en œuvre d'applications industrielles d'IA.
L'application de grands modèles peut abaisser le seuil des applications d'IA, mais les processus de développement, de formation, d'inférence et de déploiement de grands modèles posent encore de grands défis. Afin de mieux prendre en charge la mise en œuvre d'applications de grands modèles, PaddleFleet a récemment publié PaddleFleetX, un kit de développement de grands modèles de bout en bout. Paddle Fleet Formation et débogage d'environnements multi-cloud. Parallèlement, déploiement quantitatif de Paddle Fleet.
Lors de ce sommet, le nombre d'algorithmes open source dans la bibliothèque de modèles open source de niveau industriel Flying Paddle a été augmenté à plus de 600, couvrant des scénarios de tâches courants tels que la vision, le langage naturel et la modélisation temporelle ; équilibre de précision et de performance Le PP a été poli par la pratique industrielle. Le nombre de modèles spéciaux de la série est passé à 42, le nombre d'exemples pratiques de l'industrie des pagaies volantes est passé à 68, couvrant dix scénarios industriels clés tels que la finance, l'industrie, le transport, Internet, sécurité et éducation ; un accès unique à la bibliothèque de modèles de l'industrie des pagaies volantes a été publié. Des connaissances globales sur les modèles et des ensembles d'outils pour connecter l'ensemble du processus de sélection de modèles, d'expérience rapide, de développement et d'utilisation de modèles et de déploiement de modèles. . Fei Paddle a accumulé de la force grâce aux aspects des modèles industriels open source et des exemples de référence pour fournir un soutien pratique aux entreprises pour appliquer la technologie de l'IA et résoudre conjointement les problèmes et les difficultés de l'industrie.
La promotion de l'application de l'intelligence artificielle dans l'industrie est indissociable de la collaboration avec des partenaires écologiques du matériel pour aller de l'avant. En mai de cette année, Flying Paddle et ses partenaires de l'écosystème matériel ont lancé le « Plan de co-création de l'écosystème matériel » pour coopérer pleinement dans de multiples dimensions telles que la recherche et le développement conjoints, le partage de ressources, les licences conjointes et l'autonomisation de la formation. Depuis novembre, le nombre de membres du « Plan de co-création de l’écosystème matériel » de Fei Paddle est passé de 13 à 28. Dans le même temps, Flying Paddle s'est associé à 12 fabricants, dont Nvidia, Arm, Cambrian, Kunlun Core, Tianshu Intelligent Core, Graphcore et Suiyuan, pour publier conjointement la version écologique Flying Paddle afin d'offrir aux développeurs une meilleure expérience logicielle et matérielle intégrée. Dans le même temps, nous travaillerons ensemble pour construire un écosystème matériel prospère.
Afin d'accélérer encore la mise à niveau intelligente de l'industrie de l'IA, Flying Paddle s'est approfondi sur la scène industrielle et a coopéré avec des entreprises leaders du secteur telles que le National Energy Group, la Banque industrielle et commerciale de Chine, China Unicom, PetroChina, l'Académie chinoise des sciences ferroviaires, China Mobile et China FAW ont publié un plan de collecte d'exemples de pratiques industrielles, ont mis en relation des entreprises et des développeurs, ont résolu des problèmes clés dans des scénarios industriels réels dans diverses industries et ont aidé à la mise en œuvre de l'IA. industrie.
La communauté d'apprentissage et de formation AI Studio créée par Feipiao s'engage à faciliter l'apprentissage et l'application de l'IA et est désormais devenue la plus grande communauté de développeurs d'IA en Chine. Lors de ce sommet, AI Studio a mis à niveau et ajouté deux nouvelles sections : la formation en entreprise et le centre de puissance informatique hétérogène écologique.
La formation d'entreprise fournit une plate-forme de formation pratique permettant aux entreprises d'appliquer l'apprentissage profond. Jusqu'à présent, Feipiao a organisé conjointement des événements avec plus de 20 entreprises renommées pour explorer conjointement les solutions d'application de l'IA et former les talents de l'IA. Pendant longtemps, AI Studio a fourni aux développeurs de riches ressources informatiques, notamment CPU et GPU, et a été connecté à la puissance de calcul Sugon DCU pour fournir aux développeurs un centre d'expérience en ligne et un environnement d'expérience pratique pour l'infrastructure matérielle et l'écologie. Power Center accueille davantage de fabricants de matériel informatique.
La plate-forme open source open source d'apprentissage profond Baidu Flying Paddle dérivée de la pratique industrielle est une plate-forme de production d'IA à grande échelle permettant à Baidu de pratiquer l'innovation intégrée et d'abaisser le seuil. À l'avenir, à mesure que la technologie de base de l'apprentissage profond continue de se développer, Fei Paddle prendra mieux en charge l'application de l'IA et des grands modèles, continuera à construire un écosystème d'IA plus prospère, encouragera l'industrie à accélérer la mise à niveau intelligente et fera bénéficier l'IA. des milliers d'industries.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!