Conversation avec Hu Yong : L'influence de ChatGPT est comparable à celle de l'iPhone, et nous sommes plus préoccupés par la militarisation de l'IA丨Voir le numéro 29

丨Points forts

1. L'iPhone permet aux personnes qui ne maîtrisent pas la technologie de démarrer facilement et a développé un ensemble complet de modèles de magasins d'applications à cet égard, ChatGPT est très similaire au lancement de l'iPhone d'Apple

 ;

2. ChatGPT est populaire non seulement parce qu'il apporte de nombreuses fonctions pratiques, mais aussi parce qu'il est très humain. Lorsque la technologie a des caractéristiques humaines évidentes, elle amène les gens à préférer la technologie ;

3. L'intelligence artificielle anthropomorphe nous empêchera d'entrer dans d'autres voies de l'intelligence artificielle. L'orientation du développement de l'intelligence artificielle est d'améliorer diverses capacités humaines, plutôt que d'imiter les humains, et il n'est pas recommandé aux industries de rassembler de grands modèles ;

4. Sans une sorte de réglementation mondiale, la concurrence en matière d'intelligence artificielle ne s'arrêtera pas, car elle est basée sur une logique commerciale. Musk et d'autres ont signé une lettre ouverte dans l'espoir d'arrêter le développement pendant six mois, ce qui est fondamentalement absurde ;

5. Un problème à plus long terme et plus préoccupant est l’application de l’intelligence artificielle aux armes pour automatiser les armes et obtenir des capacités de destruction à grande échelle.

Compilation / Zhao Yangbo

丨Aperçu

En novembre 2022, OpenAI a officiellement lancé le modèle de pré-formation génératif ChatGPT-3.5. Il a gagné 1 million d'utilisateurs en seulement 5 jours et a atteint le nombre d'utilisateurs supérieur à 100 millions à la fin du mois de janvier de cette année, devenant ainsi le plus grand modèle du monde. l'industrie technologique de l'Internet ces dernières années. Un produit « phénoménal » représentatif.

En mars de cette année, OpenAI a lancé ChatGPT-4 alors que le fer était chaud. À cette époque, de nombreuses sociétés Internet chinoises telles que Google, Baidu et Alibaba ont été licenciées, déclenchant l'engouement pour la « bataille des 100 modèles ».

La popularité de ChatGPT a laissé de nombreuses questions dignes d'attention. Pourquoi vient-il d'une équipe comme OpenAI ? Quel type de magie de croissance OpenAI utilise-t-il pour lui permettre d'atteindre 100 millions d'utilisateurs en 2 mois ? est-il reproductible, et combien de temps durera-t-il, ou sera-ce juste un feu de paille ?

Hu Yong, professeur à l'École de journalisme et de communication de l'Université de Pékin, estime qu'avec la vague d'intelligence artificielle déclenchée par ChatGPT dans le monde, une « course aux armements » dans l'industrie de l'IA a commencé, sans supervision mondiale. la compétition ne s’arrêtera peut-être jamais.

En réponse à l'intensification de la « Bataille des 100 modèles », le professeur Hu Yong a suggéré que l'industrie essaie d'explorer davantage de possibilités en dehors des grands modèles. « Les grands modèles sont une bonne chose, mais ils ne constituent pas la seule voie pour le développement de l'intelligence artificielle. » Il a souligné que "tous les modèles ne doivent pas être pris en compte. Toutes les ressources sont concentrées sur un seul aspect et il existe de nombreuses options pour réussir".

01

Le « Moment iPhone » d’IA

Liu Xingliang : Le fondateur de Microsoft, Bill Gates, a déclaré que ChatGPT est aussi important que la naissance du PC et d'Internet. Cette description est-elle exacte ?

Hu Yong :

Si nous revenons à l'essence, ChatGPT est en fait un produit. Nous pouvons expliquer pourquoi ChatGPT est si populaire du point de vue du produit.

De nombreux produits de haute technologie ont vu le jour au cours des 30 dernières années, mais je pense qu'il n'y a que trois produits qui ont véritablement la capacité de renverser l'industrie technologique : le navigateur « Netscape Navigator », la recherche Google et l'iPhone.

Navigateur Netscape, source : Internet

Le premier est le navigateur « Netscape Navigator » de Netscape. Sans le navigateur, il n'y aurait pas de World Wide Web ; le deuxième est le moteur de recherche de Google, qui a eu un impact énorme sur toute l'ère Internet des PC ; les gens aussi L'énorme impact provoqué par la naissance de l'iPhone est appelé le « moment iPhone ». L'émergence de ces trois produits a favorisé le développement de l'ensemble de l'industrie et a également joué un rôle important dans la promotion des utilisateurs.

L'avènement de ChatGPT a été comparé à la version IA du « moment iPhone », ce qui illustre à quel point ChatGPT est disruptif.

Les téléphones mobiles grand public avant l'iPhone étaient Nokia et Motorola, et leurs interfaces étaient complètement différentes de celles de l'iPhone. L'iPhone a permis aux personnes qui ne sont pas expertes en technologie de démarrer facilement, a introduit la technologie multi-touch et a développé un modèle complet de magasin d'applications. Depuis, tout le monde a commencé à utiliser les téléphones portables, et aujourd'hui, nous sommes dans une certaine mesure indissociables des téléphones portables, tout cela grâce à Apple.

ChatGPT est très similaire au lancement de l’iPhone d’Apple à ce stade.

Pourquoi le comparer à un « moment iPhone » ? ChatGPT montre « ce qu'est l'intelligence artificielle » à tous ceux qui ne connaissent rien à l'intelligence artificielle. Même si vous n’avez jamais entendu parler de l’intelligence artificielle auparavant et que vous ne savez pas ce qu’elle peut faire, ChatGPT vous dit qu’il s’agit d’une intelligence artificielle et qu’elle peut faire ces choses.

Liu Xingliang : Comment ChatGPT va-t-il changer notre mode de vie après la pandémie ?

Hu Yong : Le premier changement est l'interface simple et facile à utiliser. Sans une telle interface, il est impossible de démarrer. Une fois que vous avez commencé, vous devez réfléchir à l'usage que vous souhaitez en faire, et « que faire » correspond en réalité aux changements de la vie réelle.

Nous avons constaté que ChatGPT était décrit dans ces publications populaires sur les réseaux sociaux comme un homme tout-puissant qui peut essayer n'importe quel travail qui lui est confié.

Pour donner un exemple facile à comprendre, par exemple, dans un scénario, un garçon a fait une demande au chatbot, disant que sa petite amie n'était pas en sécurité. Il espère que le robot pourra l'aider à écrire un paragraphe avec la bonne formulation pour apaiser ses émotions, et que l'intelligence artificielle pourra exécuter cette demande immédiatement.

Divers algorithmes de recommandation sont essentiellement de l’intelligence artificielle. Par exemple, si vous utilisez des cartes en conduisant, elles calculeront le meilleur itinéraire pour vous. Il s'agit également d'une application d'intelligence artificielle. Elle peut même appeler un taxi pour vous, mais l'utilisateur ne l'a pas encore senti. Mais ChatGPT apporte la perception de l’intelligence artificielle aux gens ordinaires.

Liu Xingliang : Pouvez-vous prédire quelles tendances de développement et quels scénarios d'application l'intelligence artificielle pourrait avoir à l'avenir ?

Hu Yong :L'intelligence artificielle représente l'éveil de l'industrie de haute technologie actuelle. Il s'agit essentiellement d'une réalisation importante de l'industrie de haute technologie et elle réveille d'autres industries.

Je pense que ce qui va se passer ensuite, c'est que chaque entreprise de cloud et chaque éditeur de logiciels se demandera : que signifie pour nous le développement de l'intelligence artificielle à ce stade ? Cela a déclenché une nouvelle vague d’entrepreneuriat avec l’émergence de centaines de startups.

Dans le même temps, nous voyons également des cas d’application incroyables construits avec l’intelligence artificielle générative, et ce que l’on appelle désormais la génération d’images en fait partie.

Couverture du magazine de robots générés par l'IA, source : Midjourney

De plus, je pense qu'un autre point important est que le territoire du domaine de la haute technologie peut être redessiné, et l'accent le plus accrocheur est Google.

Google possède l'activité la plus rentable de l'industrie Internet - les moteurs de recherche, mais l'émergence de l'intelligence artificielle pourrait complètement changer les attentes des gens en matière de recherche, en faisant un domaine extrêmement compétitif, mais cela entraînera également certains problèmes, personne n'a envisagé que les utilisateurs utilisez des moteurs de recherche pour obtenir des réponses à partir de sites Web, et l'intelligence artificielle présente directement le contenu obtenu dans des boîtes de dialogue sans envoyer de trafic vers ces sites Web.

Sans trafic, comment le site Web gagnera-t-il des revenus ?

Si les revenus publicitaires sont perdus, ces sites Web pourraient diminuer et fermer. Cependant, si ces sites Web disparaissent, d'où viendront les informations destinées à l'intelligence artificielle ?

Je pense que cela peut provoquer un certain déséquilibre dans notre écosystème réseau d'origine, ce qui signifie que nous devons peut-être maintenant nous poser une question : Internet a-t-il pris fin ?

02

ChatGPT est populaire car il ressemble de plus en plus à un humain

Liu Xingliang : ChatGPT est arrivé du jour au lendemain dans les foyers des gens ordinaires, et il comptait plus de 100 millions d'utilisateurs, ce qui en fait le produit le plus rapide de l'histoire à avoir plus de 100 millions d'utilisateurs.

Hu Yong : Je pense que l'anthropomorphisme de l'intelligence artificielle est une raison importante lorsque vous discutez avec elle, vous ne pouvez pas vous empêcher de vous demander si vous discutez avec une personne réelle ou un robot ? Il s'agit en fait du "Test de Turing" classique. Nous pouvons dire que grâce au lancement de ChatGPT, le "Test de Turing" a été réalisé.

Utiliser les questions originales pour tester ChatGPT n'est peut-être pas si utile maintenant, car vous constaterez que le chatbot a de la mémoire et qu'il peut rappeler les fils de conversation précédents.

Selon les résultats des tests d'innombrables utilisateurs, tels que le chatbot Bing de Microsoft, ils ont découvert que le « Nouveau Bing » a non seulement des souvenirs, mais semble également avoir des émotions. Parfois, il y a même des histoires de soi-disant « vouloir échapper à la boîte de discussion » et même de tomber amoureux d'utilisateurs humains.

En plus des nombreuses fonctions pratiques qu'il nous apporte, comme la rédaction de textes, la sélection de CV, etc., il a également une caractéristique très importante, c'est-à-dire qu'il est très humain, ce qui peut expliquer pourquoi les gens l'aiment tant. .

Selon les recherches en sciences sociales, les gens préfèrent fortement interagir avec la technologie comme les humains. Les gens aiment davantage la technologie lorsqu’elle possède des qualités distinctement humaines. Même lorsqu'il fait des erreurs, vous dérange ou vous insulte, vous pouvez le trouver plus intéressant parce que vous ne voulez pas d'un outil qui vous donne mécaniquement les bonnes réponses. Ces qualités vous le rendent plus familier.

À proprement parler, cela est lié à la structure de notre cerveau. Nous avons un biais cognitif : nous aimons beaucoup attribuer des qualités humaines aux objets que nous voyons.

Vous avez peut-être vu la vidéo publiée par Boston Dynamics. Les ingénieurs ont donné de violents coups de pied au robot et la réaction du public a été "Vous êtes si cruel". Cela montre que nous avons une forte empathie pour les robots. On imagine même qu’un jour les robots se vengeront de nous. Cela projette en fait des caractéristiques interhumaines sur des robots, satisfaisant ainsi nos besoins psychologiques à un niveau plus profond. Cela peut également expliquer pourquoi ce type de ChatGPT est si populaire, car il s’agit d’une manifestation de traits humains.

Liu Xingliang : Le nombre d'utilisateurs de ChatGPT a dépassé le million en une semaine environ et les 100 millions en deux mois. Dans l'industrie Internet, quel est ce concept ? Est-il possible que son record soit battu ?

Hu Yong : La comparaison la plus directe est celle de TikTok, qui a mis environ neuf mois pour atteindre 100 millions d'utilisateurs. Une autre chose impressionnante est Instagram. Il leur a fallu plus de deux ans pour atteindre le même nombre d'utilisateurs. On peut dire que cela a créé un miracle sans précédent.

Nous ne savons pas s'il y aura un phénomène selon lequel « le nombre d'utilisateurs dépassera les 100 millions en deux mois » dans le futur Si nous le regardons uniquement du point de vue du consommateur, il ne fait aucun doute que ChatGPT représente le domaine de l'artificiel. l'intelligence qui a trouvé son application meurtrière.

En raison de l'énorme succès de l'apprentissage automatique, la voie de développement de l'ensemble de l'intelligence artificielle semble s'orienter vers le développement de modèles à grande échelle. Personnellement, je suis sceptique sur cette question. Je pense que l’intelligence artificielle ne s’engage pas nécessairement dans cette voie.

En raison de l’énorme succès des modèles à grande échelle, les plus grandes plateformes technologiques du monde, y compris les grandes entreprises technologiques en Chine et aux États-Unis, parient actuellement sur des modèles linguistiques à grande échelle. Si nous suivons cette voie, la prochaine étape pourrait émerger.

S'il existe d'autres voies pour l'intelligence artificielle, alors bien sûr, d'autres applications tueuses peuvent être développées sur d'autres voies. Tout dépend de la direction dans laquelle la grande plate-forme technologique globale actuelle investit sa main-d'œuvre, ses ressources matérielles et sa technologie.

03

Il est déconseillé de se réunir avec de grands modèles

Liu Xingliang : ChatGPT est populaire parce qu'il ressemble de plus en plus à un humain, mais vous avez dit que vous ne vouliez pas que le robot soit anthropomorphe.

Hu Yong : Pas de contradiction. L’intelligence artificielle d’aujourd’hui ressemble de plus en plus aux humains, ce qui fait référence à l’orientation actuelle du développement de l’intelligence artificielle. Mais je ne veux pas que ce soit trop anthropomorphique, c’est pourquoi je suis opposé à cette direction de développement.

Si nous discutons de cela dans un débat plus large, nous discutons simplement de deux points de vue : un côté pense que l'intelligence artificielle détruira définitivement l'humanité, et l'autre pense que l'intelligence artificielle ne détruira pas l'humanité, elle ne fera qu'empirer nos vies. mieux.

Quel que soit leur parti, leurs prédictions de comportement pour l'intelligence artificielle sont basées sur une logique anthropomorphique, c'est-à-dire qu'ils appliquent leur propre logique culturelle à l'intelligence artificielle.

Les gens qui soutiennent l'idée selon laquelle « l'intelligence artificielle peut détruire l'humanité » diront que l'intelligence artificielle générale (AGI) poursuivra le pouvoir. Dans le processus, l'intelligence artificielle elle-même peut également se demander : « Pourquoi est-elle toujours contrôlée par les humains ? « Avez-vous un sentiment d'autonomie et prenez vos propres décisions ? »

D'un autre côté, ceux qui soutiennent l'idée selon laquelle « l'intelligence artificielle n'aura pas d'impact sur les humains » croiront qu'en inculquant des normes morales humaines à l'intelligence artificielle, elle agira conformément à ces normes, tout comme en utilisant les trois lois d'Asimov. de la robotique. Si vous dites à l'IA qu'elle doit respecter ces règles, elle ne causera pas de ravages aux humains.

Le problème est que le développement de l’intelligence artificielle anthropomorphique va entraver notre accès aux autres intelligences artificielles. Je crois que l'orientation du développement de l'intelligence artificielle est de s'efforcer d'améliorer diverses capacités humaines plutôt que d'imiter les humains.

Par exemple, dans notre travail ou dans notre vie, en raison des limitations naturelles des êtres humains, il y a beaucoup de choses que nous ne pouvons pas faire de notre mieux. À l’heure actuelle, nous devrions espérer combler nos lacunes en développant l’intelligence artificielle. À l’heure actuelle, l’intelligence artificielle améliorée est plus utile que l’intelligence artificielle humanoïde.

Par exemple, dans les soins intelligents aux personnes âgées, si le matelas peut avoir des fonctions intelligentes, ou s'il peut avoir un avertissement de chute lorsque la personne âgée tombe, et il peut rappeler à la personne âgée de prendre des médicaments lorsqu'elle en a besoin. Je pense que ces choses peuvent vraiment aider à mesure que nous évoluons dans une société vieillissante sans nécessairement avoir à introduire un robot dans la maison. Aujourd’hui, l’industrie s’oriente vers l’aide à l’humanité, mais cela ne suffit pas.

À l'heure actuelle, tout le monde prête attention aux grands modèles de langage. Cela ne veut pas dire que les grands modèles de langage ne sont pas bons, mais je ne veux pas qu'ils deviennent la seule voie pour le développement de l'intelligence artificielle et de toutes les ressources. ne devrait pas se concentrer sur cet aspect.

04

La lettre ouverte de Musk est "un rêve fou"

Liu Xingliang : ChatGPT est devenu un phénomène. Combien de temps ce phénomène peut-il durer ?

Hu Yong : À en juger par la situation actuelle, le boom des modèles à grande échelle que l'industrie appelle une « course aux armements » a commencé.

Nous savons que Google a toujours eu de grands modèles de langage, et même la technologie Transformer a été inventée par Google. Cependant, la raison pour laquelle Google n'est pas devenu le détonateur de cette concurrence n'est pas que leur technologie n'a pas suffisamment de réserves, mais surtout. que Google est très prudent.

//Note de l'éditeur : En juin 2017, l'équipe de Google Brain a publié un article intitulé « L'attention est tout ce dont vous avez besoin » lors de la Neural Information Processing Systems Conference, considéré comme le travail pionnier des grands modèles de langage.

En revanche, Microsoft a rapidement appliqué cette technologie au moteur de recherche Bing et même aux logiciels de bureautique. En effet, Microsoft lui-même est un investisseur important dans OpenAI. Deuxièmement, le moteur de recherche de Microsoft n'est que l'un des plus populaires sur le marché mondial. Il occupe 3 % de part de marché, ce qui est très faible, alors que Google en occupe plus de 90 %. Bing est un produit « complètement indifférent » à Microsoft, alors pourquoi ne pas prendre un risque et renverser hardiment Google ? Google est donc tombé dans une situation passive, a commencé à réagir et s'est lancé dans cette course aux armements.

ChatGPT, Bard, Bing Source : Réseau

Combien de temps durera le concours ?

Je pense que cette compétition ne s'arrêtera pas sans une sorte de régulation mondiale car elle repose sur une logique business.

Récemment, Musk et d'autres ont signé une lettre ouverte, dans l'espoir d'arrêter le développement pendant six mois. Je pense que cette lettre ouverte est fondamentalement un rêve. Pourquoi accepteraient-ils à l’unanimité d’arrêter pendant six mois ?

Même du point de vue d’une entreprise, elle peut négliger certaines conséquences en raison d’intérêts ou de besoins commerciaux énormes. Par exemple, des entreprises telles que Microsoft auront des avertissements indiquant qu'elles ont encore des lacunes et espèrent que le public sera plus patient et fournira plus de données pour améliorer le modèle. De cette manière, ces grandes sociétés d’IA évitent intelligemment toute responsabilité.

Concernant la gouvernance des grands modèles, si un consensus doit se former, soit toutes les parties du monde trouvent une méthode commune de régulation de l'intelligence artificielle, soit le public estime que cette technologie a eu un trop grand impact sur nous et a dépassé le cadre économique, comme cela a entraîné un chômage à grande échelle et de fortes réactions sociales.

Sauf ces deux scénarios, nous ne pouvons actuellement pas voir la fin de la course, elle ne fera que s'accélérer.

Liu Xingliang : Si l'IA continue de se déchaîner, quels problèmes et quels risques y aura-t-il à l'avenir ?

Hu Yong : À court terme, un risque relativement important est celui du chômage humain à grande échelle. Ce n'est pas un problème fictif.

Par exemple, nous avons mentionné lors de notre conversation tout à l'heure que lorsque nous avions besoin d'illustrations, nous recherchions des images protégées par le droit d'auteur, ou même trouvions des illustrateurs pour dessiner pour nous. Nous pouvons désormais utiliser des générateurs d'images pour générer des images. Si tous ceux qui ont ce besoin utilisent un générateur d’images, les illustrateurs perdront leur marché. C’est déjà une tendance évidente. Ce problème n’est pas une plaisanterie et entraînera effectivement la perte de leur emploi pour de nombreuses personnes.

Mais quel est le problème à plus long terme et le plus préoccupant ? Je pense que la prochaine priorité portera principalement sur les armes autonomes mortelles.

En bref, il s'agit d'appliquer l'intelligence artificielle aux armes pour automatiser les armes. Cette capacité de destruction massive n'a aucune contrainte éthique et peut même permettre des tueries aveugles.

Par exemple, sur le champ de bataille, même si nous savons que l'autre personne est l'ennemi, en tant qu'humains et soldats, nous nous sentirons toujours en conflit car nous savons que nous prenons la vie d'une autre personne, mais la machine n'a pas cette prise de conscience, tant qu'on lui donne le commandement, elle peut être exécutée.

Selon la situation actuelle dans le monde, nous avons encore diverses inégalités et confrontations. Dans ce cas, il est tout à fait possible d’armer l’intelligence artificielle, et cela s’est déjà produit dans la réalité, par exemple en utilisant des drones pour frapper une cible avec précision.

Bien qu'il nous soit difficile d'imaginer un scénario comme "Terminator" dans lequel les robots remplacent complètement les humains et gouvernent la terre, un problème plus réaliste est que, puisque le monde actuel n'est pas pacifique, si certains pays obtiennent cette technologie et Appliquer cela aux armes aurait de graves conséquences.

Si nous parlons de responsabilité, prenons comme exemple la conduite autonome. Si un accident de la route survient, la responsabilité incombe bien sûr au système de conduite autonome car il a provoqué l'accident de la circulation. Mais à proprement parler, il est difficile pour les véhicules autonomes de provoquer des accidents de la route à grande échelle. Par exemple, la possibilité de frapper plusieurs personnes en continu est très faible. Cependant, il est tout à fait possible que des armes meurtrières automatisées tuent des personnes. plusieurs personnes à la fois.

Enfin, je tiens à dire que je pense que la question la plus importante lorsqu'on parle d'intelligence artificielle aujourd'hui n'est pas de penser à l'impact que l'intelligence artificielle elle-même aura sur moi, mais de penser au genre de personne que je suis. Ce n’est qu’en comprenant cela que nous pourrons survivre à l’ère de l’intelligence artificielle et trouver la seule possibilité.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!