Jusqu'où ChatGPT peut-il mettre en œuvre des services médicaux ? Les performances du professeur de Harvard aux tests personnels sont proches de celles des médecins, Yun Zhisheng est exposé pour créer une version industrielle

Cet article est réimprimé avec l'autorisation d'AI New Media Qubit (ID de compte public : QbitAI). Veuillez contacter la source pour la réimpression.

Les acteurs nationaux entrent dans ChatGPT en plein essor et leur succès dans divers secteurs est évident pour tous.

Mais on ne sait pas encore exactement quand vous pourrez commencer à travailler, en particulier dans certains secteurs difficiles et à barrières élevées, comme les soins médicaux.

Maintenant, un professeur de la Harvard Medical School a personnellement testé les performances de ChatGPT.

Les résultats ont montré qu'il a correctement diagnostiqué 39 cas sur 45, avec un taux de précision de 87% (dépassant le taux de diagnostic de 51% des machines existantes) et a fourni des recommandations de triage appropriées pour 30 cas.

Il a déclaré que les performances du diagnostic auxiliaire de ChatGPT sont proches de celles des médecins. Dans ce cas, quand puis-je commencer à travailler ?

En fait, c'est aussi le problème rencontré par la plupart des joueurs nationaux : Le bonus est là, comment le prendre en premier ?

Nous avons également systématiquement réglé les difficultés techniques et écologiques liées à la réplication de la version chinoise de ChatGPT auparavant, et ce n'est évidemment pas quelque chose de réalisable à court terme.

Maintenant, une nouvelle idée a émergé : Créez directement une version verticale industrielle de ChatGPT.

Cette méthode est-elle réalisable ?

Est-il possible de créer une version industrielle de ChatGPT ?

La création de ChatGPT, la technologie de base, ne peut contourner les trois éléments que sont la puissance de calcul, les données et l'algorithme.

En termes de puissance de calcul, OpenAI s'appuie sur la vache Microsoft - il dispose de 285 000 cœurs de processeur et de 10 000 GPU NVIDIA V100. La simple formation d'un GPT-3 coûte jusqu'à 4,6 millions de dollars américains DataUp, la série GPT en a. a été optimisé de manière itérative. GPT-3, qui a autrefois étonné tout le monde, compte 175 milliards de paramètres, tandis que la version précédente GPT-2 n'a que 1,5 milliard de paramètres L'algorithme a naturellement de nombreuses années d'accumulation profonde, sinon il ne sera pas « humain » ; -like" Il possède des caractéristiques d'apprentissage autonome et démontre en outre la capacité de s'adapter rapidement à plusieurs domaines et scénarios.

Couplée à la technologie de feedback écologique, une boucle fermée itérative se forme. OpenAI a construit son propre "GPT Ecosystem" sous forme d'interfaces ouvertes depuis GPT-3. Selon les statistiques du site Web gpt3demo, il existe actuellement 656 applications développées à l'aide des modèles de la série GPT-3.

De telles barrières techniques et écologiques déterminent qu'il n'est pas si facile de forger ChatGPT. Dans ce cas, l'idée de solution d'une version verticale de ChatGPT a également commencé à être discutée dans l'industrie.

Tout d'abord, d'un point de vue technique, leur principal défi est d'atteindre ou de dépasser les effets de ChatGPT dans des tâches dans des domaines verticaux avec moins de paramètres, comme des dizaines de milliards de paramètres.

Cela peut être plus difficile que de reproduire ChatGPT, car le nombre de paramètres est beaucoup plus petit et vous ne pouvez pas simplement compter sur une « esthétique violente », mais également nécessiter de superbes compétences en matière de conception de modèle et de compression.

Un autre défi est la différence entre les

sources de données.

Comme Google et Microsoft, ils disposent effectivement de sources de données générales naturelles, mais leur accumulation de données dédiée ne peut être comparée à celle des acteurs verticaux.

Surtout dans les secteurs de subsistance tels que les soins médicaux, qui sont hautement professionnels et ont une large couverture, les données de haute qualité requises ne peuvent pas être inférieures à ChatGPT, et la plupart des données ne peuvent pas être capturées en ligne.

Mais pour les acteurs verticaux qui sont profondément enracinés dans ce domaine depuis de nombreuses années, ils ont déjà construit leur propre écologie industrielle et disposent d'une riche accumulation de données industrielles et de connaissances, jetant les bases nécessaires à la reproduction de ChatGPT.

Et du point de vue de la

demande de valeur, la valeur représentée par les industries verticales est réelle. Par exemple, la demande de soins médicaux elle-même n’est pas minime. Une fois que ChatGPT sera mis en œuvre dans les soins médicaux, il représentera une grande valeur sociale.

Dans le passé, les utilisateurs utilisaient habituellement la recherche et l'application pour diagnostiquer leurs maladies, mais les résultats étaient souvent minimes.

Le professeur Ateev Mehrotra de la Harvard Medical School a testé un jour que le taux de précision moyen des diagnostics en ligne existants n'est que de 51 %, alors que ChatGPT en a 87 %, il estime donc que ChatGPT a le potentiel de changer la donne dans le diagnostic médical.

Afin d'accélérer la mise en œuvre des applications ChatGPT, il est possible de créer une version verticale de ChatGPT du point de vue des difficultés techniques et de la demande de valeur.

Maintenant, il y a des acteurs de l'IA en Chine qui le font déjà.

Yunzhisheng ChatGPT Industry Edition

Les derniers progrès révélés, la licorne intelligente à piste vocale Yunzhisheng promeut la construction de ChatGPT Industry Edition -

Utiliser les soins médicaux comme point d'entrée pour créer ChatGPT Medical Industry Edition, et en même temps basé sur la version industrielle de ChatGPT, la plateforme est rapidement étendue à d'autres domaines, puis le modèle de domaine est intégré à la technologie MoE (Mixture of Experts) pour former un modèle ChatGPT général.

Et cette idée du spécial au général. En fait, c'est l'approche cohérente « U+X » de Yun Zhisheng. Ici, « U » fait référence au développement d'algorithmes universels de grand modèle et à la plate-forme de base de formation efficace ; « X » fait référence à la version dédiée de grand modèle utilisée dans plusieurs domaines industriels ;

En fait, cela devient également l'idée pour de nombreuses entreprises d'entrer dans ChatGPT. De cette manière, elles peuvent profiter des données dédiées existantes.

Cependant, ce n'est pas si simple, sans compter que Yunzhisheng a choisi comme point d'entrée l'industrie médicale, qui a des exigences plus élevées en matière de qualité du contenu généré.

Le problème le plus important est d’améliorer la fiabilité des connaissances médicales. Ce que ChatGPT fait le mieux, c'est de dire des bêtises sérieusement. En fait, ce n’est pas un gros problème de mettre désormais la recherche de chat et la production de contenu sur Bing, et les utilisateurs l’apprécient.

Mais lorsqu'il est appliqué dans l'industrie, il est souvent difficile pour les non-professionnels de le détecter, ce qui peut entraîner divers risques. Par conséquent, la version industrielle de ChatGPT doit mettre fin à toutes les absurdités, en particulier dans les secteurs tels que les soins médicaux, l'éducation, l'industrie, etc., qui ont des exigences de génération de contenu extrêmement élevées et de faibles taux de tolérance aux pannes, et qui ont également des exigences de qualité de données plus élevées. .

Deuxièmement, il s'agit d'atteindre la « rentabilité » dans l'industrie. Pour qu’une technologie soit mise en œuvre à grande échelle, elle doit résoudre le problème de « comment maximiser l’effet avec des ressources limitées ».

C'est également le seul moyen de mettre en œuvre l'industrie ChatGPT - Le modèle peut obtenir le même effet que ChatGPT avec une échelle de paramètres plus petite. Cela pose également de nombreux problèmes à ces entreprises.

En fait, Yunzhisheng a également admis que les paramètres de la version industrielle de ChatGPT pourraient également devoir atteindre des dizaines de milliards d'échelle, et qu'il n'est pas petit pour obtenir des résultats efficaces et réaliser une application à grande échelle.

Dans une certaine mesure, créer une version industrielle de ChatGPT est plus difficile que l'actuel ChatGPT universel, mais lorsque l'industrie ChatGPT est véritablement implémentée, ces problèmes doivent être résolus. En résumé, il s'agit de réaliser les capacités d'ingénierie de ChatGPT.

C'est un chemin que tous ceux qui entrent dans le jeu ne peuvent pas éviter mais doivent passer.

Sur cette base, il ne fait aucun doute que le choix de Yunzhisheng est plus difficile - les soins médicaux comme point d'entrée. Il s'agit d'un domaine qui a toujours été considéré comme un domaine caractérisé par des barrières industrielles élevées, un fort professionnalisme et des difficultés techniques. C'est également la raison pour laquelle il y a très peu d'acteurs de l'IA médicale par rapport à la prospérité d'autres secteurs.

Mais une fois la version médicale de ChatGPT ouverte, la mise en œuvre d'autres champs, y compris le grand modèle final à usage général, se fera avec deux fois le résultat et la moitié de l'effort.

En tant que société d'IA fondée en 2012, elle a accordé une attention particulière à la technologie d'IA de pointe et a activement promu l'application industrielle de la technologie, y compris la mise à niveau et l'application industrielle d'algorithmes d'apprentissage profond en 2012, sur la plateforme de supercalcul Atlas et graphe de connaissances en 2016 et applications technologiques d'IA full-stack, jusqu'à la mise à niveau actuelle de la technologie cognitive AGI basée sur le framework ChatGPT.

Dans le même temps, il est profondément impliqué dans l'industrie médicale depuis près de 10 ans et a accumulé des connaissances, des données et des applications industrielles. Il a également remporté le premier prix du Beijing Science and Technology Progress Award en 2019.

En réponse à la question de savoir s'il est confiant dans la création d'une version industrielle de ChatGPT, Yunzhisheng a déclaré : Complètement confiant.

Comme résumé précédemment, la création de ChatGPT est indissociable de données de haute qualité, d'algorithmes de pointe et d'une puissance de calcul suffisante. La version verticale de ChatGPT nécessite également des capacités d'ingénierie plus approfondies.

De ces aspects, Yunzhisheng est effectivement une référence de l'industrie.

En termes de données, au cours des 10 dernières années, Yunzhisheng a accumulé une gamme complète de données industrielles, notamment des systèmes d'orientation, de pré-consultation, d'éducation et de suivi des patients orientés patient, ainsi que des systèmes vocaux orientés clinique. dossiers médicaux, contrôle qualité des dossiers médicaux, unique Le système de contrôle qualité des maladies et de gestion des risques médicaux a été mis en place dans près de 400 hôpitaux. On dit que l'échelle des données a atteint 5T, fournissant une base de données pour les grands modèles de langage dans l'industrie médicale.

L'algorithme et l'intelligence cognitive représentée par ChatGPT sont en eux-mêmes le principal avantage technologique de Yunzhisheng. Ils ont construit l’un des plus grands graphes de connaissances médicales du pays. De 2019 à 2022, la technologie d'intelligence cognitive de Yunzhisheng a remporté 7 championnats et 5 prix de deuxième place lors d'évaluations nationales et étrangères pertinentes. Son modèle de langage de pré-formation médicale auto-développé, CirBERTa, était autrefois en tête de la liste des défis chinois en matière de traitement de l'information médicale.

En termes de puissance de calcul, la puissance de calcul en virgule flottante de la plate-forme de supercalcul Yunzhisheng peut atteindre 8 milliards de fois par seconde, ce qui peut fournir une garantie de puissance de calcul pour les modèles avec des centaines de milliards de paramètres.

En termes d'ingénierie des grands modèles, Yunzhisheng a développé le modèle CirBERTa, reproduit le modèle GPT-2 et utilisé des mécanismes de compression de modèles et de distillation des connaissances pour atteindre une accélération près de cent fois de l'efficacité du raisonnement en ligne, à condition qu'il jette les bases pour une large application de grands modèles.

De plus, en tant que version industrielle de ChatGPT, l'Assurance qualité du contenu est également un élément clé.

La solution proposée par Yunzhisheng consiste à utiliser la technologie d'apprentissage continu et d'intégration des connaissances appliquée dans CirBERTa pour optimiser le mécanisme d'acquisition et de mise à jour des connaissances du modèle ChatGPT basé sur l'accumulation de graphiques de connaissances existants.

Selon les rapports, cela peut garantir l'exactitude des connaissances dans les réponses ChatGPT, et en même temps, cela peut également fournir des informations de traçabilité des connaissances.

De plus, en utilisant la technologie de contrôle de qualité des dossiers médicaux de pointe de Yunzhisheng, vous pouvez découvrir automatiquement les problèmes dans les dossiers médicaux générés, puis générer automatiquement un apprentissage par renforcement basé sur les commentaires humains en tant que technologie de base de ChatGPT (RLHF, Reinforcement Learning from Human Commentaires) Données de commentaires des utilisateurs requises pour accélérer l'optimisation du modèle.

Qui consommera le bonus ChatGPT en premier ?

Enfin, revenons à l'incident lui-même, les discussions précédentes sur la valeur de ChatGPT pour l'industrie étaient toutes du point de vue de l'écologie industrielle au niveau macro et de l'innovation de modèles, tels que l'interaction homme-machine, la distribution d'informations, la production de contenu, etc.

Aujourd'hui, alors que de plus en plus d'entreprises verticales entrent dans l'industrie, l'importance de ChatGPT pour les entreprises apparaît également - un nouveau choix de paradigme technologique AGI : Industries basées sur "un modèle de base universel à grande échelle + une optimisation d'applications industrielles légères" Intégration des connaissances et les méthodes de résolution de problèmes.

Dans le passé, les joueurs de ces scénarios étaient peut-être dans un état d'ignorance lorsqu'il s'agissait d'explorer l'IA, "Voir une montagne comme une montagne, voir une montagne comme n'est pas une montagne", mais il existe désormais un "plus petit montagne, et sachant qu'il y aura une route".

L'« intelligence » démontrée par ChatGPT leur a apporté une direction technique claire.

Le PDG de Yunzhisheng, Huang Wei, a également une compréhension profonde. Même comparé à AlphaGo, il estime que l'impact de ChatGPT est beaucoup plus profond, équivalent à une nouvelle « Révolution industrielle ».

Le plus grand avantage de cette révolution est que grâce au mécanisme d'attention auto-supervisé, elle peut utiliser pleinement des données massives non supervisées pour former des modèles de base généraux et utiliser un cadre unifié pour réaliser une intégration « de bout en bout » de la perception. , cognition et génération. Présentez l’intelligence artificielle directement à partir de résultats générés de haute qualité. La méthode d'apprentissage artificiellement guidée et basée sur les données adoptée par la machine est complètement différente du mode de pensée logique des humains. Elle est similaire au mécanisme « aérodynamique » des avions, qui est complètement différent de la méthode du « battement d'ailes » adoptée par. des oiseaux.

Que ce soit pour l'ensemble du secteur ou pour une entreprise individuelle, la valeur qu'apporte ChatGPT les rend vraiment incapables de le suivre.

Surtout pour les joueurs dans certains scénarios, ils restent le groupe de personnes le plus susceptible de consommer les bonus ChatGPT.

Ils disposent de scénarios, de données et de barrières industrielles profondes. Une fois qu'ils disposent des capacités ChatGPT, ils peuvent être les premiers à les mettre en œuvre dans l'industrie. Il s’agit d’un avantage de premier arrivé que les autres joueurs ne peuvent pas obtenir.

Lorsque la dernière vague d'IA a frappé, ce sont les joueurs de scène qui ont été les premiers à profiter du bonus IA. C'est juste que désormais ChatGPT apparaît directement via un chemin technique, et la vitesse de mise en œuvre est naturellement beaucoup plus rapide qu'avant.

Le PDG de Yunzhisheng, Huang Wei, a également donné un moment précis :

Un plan de candidature réussi sera mis en œuvre au cours de l'année.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!