Maison > Article > Périphériques technologiques > C’est ce qui se passe derrière ChatGPT, c’est incroyable !
Je m'appelle ChatGPT, il est si populaire récemment.
Beaucoup de gens pensent que je suis très puissant, mais ce n'est pas le cas. Par exemple, si vous me demandez :
Quel temps fait-il à Pékin aujourd'hui ?
Désolé, je ne sais pas, je n'arrive pas à obtenir d'informations en temps réel car ma connaissance du modèle GPT4 est bloquée en septembre 2021. Si vous souhaitez obtenir des informations en temps réel, vous devez utiliser d'autres méthodes (comme des plug-ins).
C'est juste que beaucoup de mes réponses ressemblent un peu à l'IA générale. Il me semble que je comprends vraiment vos questions et y réponds de manière ciblée.
C'est complètement différent de l'IA précédente, qui a choqué beaucoup de gens.
Mais j’ai honte, je ne comprends pas le sens de ma réponse. Là où je suis, tout est probabilité.
Je génère des réponses basées sur la probabilité et j'ai joué au solitaire de mots avec vous.
Cela semble incroyable, mais c'est vrai. Ces réponses apparemment logiques reposent sur des probabilités.
Je ne comprends pas le concept, mais je dois trouver la relation entre ces mots pour que la réponse puisse être sortie. Cette relation est représentée par "vecteur".
Par exemple, j'ai un très petit vocabulaire, comprenant les quatre mots suivants : "miaou", "woof", "cat", "dog", leurs vecteurs peuvent être comme ceci :
miaou : [0.9, 0.1 ] " Miaou. " et " chat " ont des représentations vectorielles similaires car ils sont relativement proches l'un de l'autre.
Les vecteurs « écorce » et « chien » sont également similaires, et la distance qui les sépare est relativement proche.
Cela signifie que j'ai réussi à capturer la relation sémantique entre ces quatre mots, qui pourra être utilisée à l'avenir.
Je ne comprends pas ce qu'est « chat » et ce que « chien » signifie, mais je sais que « chat » et « miaou » sont étroitement liés, et « chien » et « aboiement » sont étroitement liés.
Le vecteur ici est bidimensionnel et peut être vu intuitivement dans le plan. Dans les applications réelles, afin de mieux capturer des informations sémantiques riches, le vecteur peut avoir des centaines ou des milliers de dimensions ! J'ai bien peur que ton cerveau ne puisse pas l'imaginer.
Ensuite, vous devez vous demander comment ces vecteurs sont-ils générés ?
Vous devez me soumettre l'ensemble de données pour la formation !Lorsque vous demandez « Qu'est-ce que les chats aiment manger ? », je convertirai les mots de la question en vecteurs.
"chat": [0.9, 0.3]
"j'aime": [0.5, 0.2]
"manger": [0.4, 0.7]
"quoi": [0.3, 0.8]
"?": [0.1, 0.1]
Ensuite, j'entre ce vecteur dans le réseau neuronal, et après plusieurs couches de calculs et de fonctions d'activation, je génère un vecteur de sortie. Ensuite, convertissez le vecteur de sortie en une distribution de probabilité : "poisson": 0,6"os": 0,2"nourriture pour chien": 0,1"chocolat": 0,05"fruit": 0,05Dans cette distribution de probabilité, « poisson » a la probabilité la plus élevée, je choisirai donc « poisson » dans ma réponse. La réponse générée pourrait être : "Les chats aiment manger du poisson." C'est aussi simple que cela ! Bien sûr, c'est une réponse simple. Généralement, les réponses sont très longues et vous devez constamment choisir le mot suivant par probabilité, comme le mot solitaire. Par exemple : « Pourquoi les chats aiment-ils être actifs la nuit ? » La réponse à cette question peut être générée comme ceci :
Vous devez vous demander : comment cela peut-il générer une bonne réponse "logiquement" ?
Par exemple, ces articles écrits par l'ancien codeur Liu :
La chose la plus choquante à propos de GPT-4
GPT-4 est un maître en programmation, je l'admire vraiment !
ChatGPT commence à menacer les capacités fondamentales des programmeurs !
Cela commence à menacer les compétences de base des programmeurs, n'est-ce pas génial ?
Tout ce que je peux dire, c'est : "La force peut produire des miracles". Lorsque le modèle est suffisamment grand, quelque chose émerge.
Vous fermez les yeux et imaginez que l'intégralité du texte Internet est placé devant moi. J'extrait tous les mots et les transforme en vecteurs. J'exécute des opérations folles dans le réseau neuronal pour capturer des mots, des expressions et des phrases dans différents contextes. relation de cooccurrence. Cette relation de cooccurrence inclut la connexion entre les concepts, les structures grammaticales et les expressions communes.
Ces distributions de probabilité peuvent me guider pour générer des réponses plus proches de vos expressions en langage naturel humain.
Juste parce que les connaissances que j'ai acquises sont de nature statistique, je peux parfois faire des erreurs et « sérieusement des conneries ».
En fait, dans les jeux de probabilités, il existe deux directions, l'une s'appelle BERT et l'autre s'appelle GPT.
BERT, c'est comme remplir les blancs, deviner le mot au milieu.
GPT, c'est comme écrire un essai et deviner le mot suivant.
Google a lancé BERT en 2018, ce qui a fait sensation dans le domaine de la PNL. BERT a obtenu de très bonnes performances dans des tâches telles que la réponse aux questions, la classification de textes, l'analyse des sentiments et la traduction automatique.
Mais mon maître croyait fermement au potentiel de GPT, a investi une énorme quantité de ressources informatiques et de stockage, et avait une foi ferme lorsque l'avenir était trouble. Finalement, il a fait une percée majeure dans GPT3.0, et moi, ChatGPT. , appelé Renren. Les applications disponibles sont géniales.
Tout ce que je peux dire, c'est que les choses changent.
Lorsqu'une nouvelle chose est au stade explosif, tout le monde pensera qu'elle peut tout faire et aura de nombreux fantasmes irréalistes à son sujet, tels que la curiosité, l'excitation, la confusion et l'anxiété.
Au bout d'un moment, lorsque la marée baissera, vous constaterez que ce n'est pas si génial et que ses capacités sont limitées dans de nombreux endroits.
Ensuite, quelqu'un l'appliquera dans des scénarios appropriés, développera des produits vraiment utiles et libérera sa vraie valeur.
ChatGPT suivra également cette voie, alors commencez à explorer tôt et saisissez l'opportunité.
Le codeur Qianfen a récemment créé une planète de connaissances « ChatGPT Base » pour faire de telles choses :
Il s'agit d'une planète très verticale, dédiée au service des programmeurs, avec un objectif très simple :
1. Aider les programmeurs à maîtriser ChatGPT le plus rapidement possible. Trouvez la meilleure façon d’utiliser cet excellent outil et la meilleure façon d’améliorer l’efficacité du travail.
ChatGPT a eu un impact fondamental sur les programmeurs :
D'un petit point de vue, si vous ne savez pas comment utiliser ChatGPT, vous ne pourrez certainement pas rivaliser avec les programmeurs maîtrisant ChatGPT. D'autres utilisent le langage naturel pour générer du code, mais vous tapez toujours ligne par ligne et l'efficacité est dix fois, voire cent fois pire. Cela affectera directement le rendement au travail d'une personne, ses opportunités d'emploi, ses salaires et ses primes.
Un programmeur junior qui utilise bien ChatGPT peut être en mesure de rivaliser avec des programmeurs intermédiaires ou même avancés.
Lors des futurs recrutements, il est très probable qu'un élément supplémentaire soit ajouté : ceux qui maîtrisent ChatGPT seront prioritaires.
Dans un sens large, cela peut conduire à « sauter d'un arbre à un autre » et à « courir d'une forêt sombre à une autre forêt sombre ».
2. Explorez les opportunités que ChatGPT offre aux programmeurs Si l'émergence de l'iPhone entraîne le développement d'applications, faites de votre activité secondaire votre activité principale.
ChatGPT va certainement restructurer de nombreuses industries, comme diverses formations. Si ChatGPT est packagé comme un « tuteur socratique », il est tout à fait possible de vous faire accompagner 24h/24 par des tuteurs de qualité, couvrant diverses matières dans les écoles primaires et secondaires. En plus des formations informatiques pour adultes, il existe certainement de nombreuses opportunités ici.
Bien sûr, ce sont les deux objectifs principaux. Après avoir rejoint la planète, vous pouvez également consulter les informations de pointe de ChatGPT, les ressources et les projets de haute qualité, le gameplay geek de ChatGPT, etc.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!