GPT-4 a tellement évolué que près de dix mille personnes ont signé une pétition pour le bloquer ! La Maison Blanche a tenu une réunion d'urgence et les stocks du concept ChatGPT ont chuté

La menace du GPT-5 est devenue écrasante.

Après la naissance du GPT-4, l’impact perturbateur que l’IA pourrait avoir sur la société humaine a déjà effrayé de nombreux leaders de l’industrie.

Récemment, il semble que le monde entier attaque ChatGPT.

Une lettre ouverte visant à suspendre la recherche et le développement avancés en matière d'IA a été lancée conjointement par Musk, Bengio, lauréat du prix Turing, et d'autres grands noms. Aujourd'hui, le nombre de signatures est passé à plus de 9 000.

Immédiatement après, l'organisation américaine à but non lucratif Center for Artificial Intelligence and Digital Policy (CAIDP) a également demandé à la Federal Trade Commission (FTC) d'enquêter si OpenAI avait violé les règles de protection des consommateurs et de lui interdire de publier davantage de GPT. -4.

Et l'Italie a directement interdit ChatGPT dans tout le pays et n'a accordé à OpenAI qu'un délai d'adaptation de 20 jours. S'il ne parvient pas à trouver une solution qualifiée, il devra payer une amende pouvant aller jusqu'à 20 millions d'euros.

La frénésie d'interdiction de ChatGPT déferle sur le monde

Ce qui est intéressant, c'est que depuis que l'Italie a pris cette initiative, d'autres pays sont également impatients d'essayer et de se préparer à agir sur ChatGPT.

Les régulateurs de la vie privée en France et en Irlande ont contacté leurs homologues italiens pour obtenir plus de détails sur l'enquête.

Le commissaire fédéral allemand à la protection des données, Ulrich Kelber, a déclaré : "En principe, il est possible pour l'Allemagne d'adopter des procédures similaires.

De plus, l'Union européenne a également proposé un projet de plan visant à traiter ChatGPT comme un niveau élevé." -Système d'IA de surveillance des risques.

Les États-Unis ont également pris des mesures

Et aujourd'hui encore, le président américain Biden a également tenu une réunion avec des conseillers technologiques à la Maison Blanche pour discuter des risques et des opportunités que l'IA apporte aux êtres humains et à la société. et la sécurité nationale.

Selon Reuters, lors d'une réunion du Conseil présidentiel des conseillers en science et technologie (PCAST), Biden a souligné : « À mon avis, les entreprises technologiques ont la responsabilité de garantir que leurs produits sont sûrs avant qu'ils ne soient rendus publics. ."

Quand on lui a demandé si l'IA était dangereuse, il a répondu : "Cela reste à voir, il existe une telle possibilité."

Biden a répondu : quel mal une technologie puissante causera-t-elle sans mesures de protection ? C'est déjà évident dans les médias.

"En raison du manque de garanties, nous constatons que la technologie affecte la santé mentale des gens, les faisant avoir une faible estime d'eux-mêmes et le désespoir quant à leur image d'eux-mêmes. Cet impact est particulièrement évident chez les jeunes

."

Il a renouvelé son appel au Congrès pour qu'il adopte une législation bipartite sur la confidentialité qui limiterait les données personnelles collectées par les entreprises technologiques, interdirait la publicité destinée aux adolescents et donnerait la priorité à la santé et à la sécurité dans le développement de produits.

Affectés par cette nouvelle, les cours des actions des sociétés d'IA ont fortement chuté avant que Biden ne convoque cette réunion.

Le cours de l'action ChatGPT concept stock C3.ai a continué de baisser, clôturant en baisse de 26,34 % à 24,95 $ US, avec une valeur marchande de 2,8 milliards de dollars US, la plus forte baisse intrajournalière depuis la cotation de l'action.

Auparavant, depuis que Microsoft a annoncé un partenariat de plusieurs milliards de dollars avec OpenAI, C3.ai, comme de nombreuses entreprises dans le domaine de l'IA, est devenue récemment l'une des entreprises les plus en vogue à Wall Street. , le cours de l'action C3.ai .ai a augmenté de plus de 130 %.

Gates : Suspendre la R&D sur l'IA ne « résoudra pas le défi »

Le 3 avril, heure locale, Gates a publiquement discuté d'une lettre ouverte signée par des milliers d'experts dans une interview avec Reuters,

appelant à un moratoire sur l'IA Le développement ne permettra pas de « résoudre le défi », il est préférable de se concentrer sur la meilleure façon d'utiliser le développement de l'intelligence artificielle. Il est difficile de comprendre comment un moratoire mondial sur la recherche et le développement de l'IA sera obtenu.

Il a poursuivi : « Je ne pense pas que demander à un groupe spécifique de faire une pause résoudra le défi. De toute évidence, ces choses présentent d’énormes avantages… Ce que nous devons faire, c’est identifier les domaines délicats.

Gates est un fervent partisan de l'intelligence artificielle.

Le 21 mars, la veille du lancement de la lettre ouverte commune, Gates a publié un article de blog disant "L'ère de l'intelligence artificielle a commencé".

Il mentionne que l’intelligence artificielle devrait être utilisée pour contribuer à réduire certaines des pires inégalités au monde.

Il a fait l'éloge de l'intelligence artificielle dans son blog : « L'ère de l'IA a commencé, et la révolution de l'intelligence artificielle est aussi importante que la naissance des téléphones mobiles et d'Internet. Ce sont les deux seules avancées technologiques révolutionnaires. dans sa vie."

Jusqu'à présent, Microsoft a investi des milliards de dollars dans OpenAI. OpenAI développe une technologie d'IA pour Microsoft Bing, Edge, Microsoft 365 et d'autres produits.

Dans une interview, Gates a remis en question la faisabilité d'un moratoire sur le développement de l'IA et a voulu savoir comment le mettre en œuvre.

"Les détails de tout moratoire seront compliqués et difficiles à appliquer. Je ne comprends pas très bien de qui ils parlent, qui pourrait arrêter, si tous les pays du monde accepteront d'arrêter, et pourquoi, il y aura beaucoup dans ce domaine Opinions différentes. "

GPT-4 apprend "l'auto-réflexion" et ses performances augmentent de 30%

Cependant, même si le monde entier fait face à un ennemi puissant contre la super IA, cela peut être le cas. trop tard pour arrêter la situation rapidement.

Parce que l’IA d’aujourd’hui a appris à évoluer toute seule !

Il y a des preuves : GPT-4 s'améliore !

Il y a quelque temps, Eric Jang, ancien ingénieur de recherche chez Google Brain, a découvert quelque chose de fou : GPT-4 peut critiquer ses propres résultats de manière raisonnable.

Au lieu de chercher l'indice parfait pour un grand modèle de langage (LLM) (pensons-y étape par étape), laissez le LLM évaluer son propre résultat et corriger immédiatement ses propres erreurs.

Même l'ancien directeur de Tesla AI et chercheur scientifique chez OpenAI, Andrej Karpathy, l'a salué comme un bon exemple du fait que nous n'avons pas encore vu toutes les capacités de GPT-4.

Dans l'exemple donné par Eric Jang, j'ai vu un chercheur de Microsoft tweeter que GPT-4 était tout simplement incapable d'écrire de la poésie « sans rimes ».

Cependant, lorsqu'on lui demande à nouveau si GPT-4 a terminé la tâche. A ce moment-là, après s'être excusé, cela a généré un poème sans rimes ! On peut dire que c'est la note maximale.

Cela prouve simplement que GPT-4 a la capacité de « réfléchir ».

Récemment, des chercheurs de la Northeastern University, du MIT et d'autres institutions aux États-Unis ont proposé Reflexion. Cette méthode donne à l'agent une mémoire dynamique et la capacité d'auto-réflexion.

Adresse papier : https://arxiv.org/abs/2303.11366

Afin de vérifier l'efficacité de la méthode, les chercheurs ont évalué la capacité de l'agent à accomplir des tâches de prise de décision dans l'environnement AlfWorld et la possibilité d'effectuer des tâches de questions et réponses à forte intensité de connaissances et basées sur la recherche dans l'environnement HotPotQA.

Les taux de réussite dans ces deux tâches sont respectivement de 97% et 51%.

L'architecture globale de l'agent Reflexion

Certains internautes ont dit que vous pouvez demander à GPT-4 de réfléchir à "Pourquoi vous trompez-vous ?" Cette cause d'erreur est prise en compte jusqu'à ce que le résultat soit correct, améliorant ainsi les performances de GPT-4 d'un étonnant 30 %.

De plus, le document souligne que lors du test de la capacité du modèle à écrire du code, Reflexion+GPT-4 est également nettement meilleur que le GPT-4 conventionnel.

Il semble qu'Eric Jang ait dit :

Nous pouvons désormais envisager un "projet d'indice de suffixe" au lieu d'un "projet d'indice de préfixe" intelligent. Cela encouragera LLM à trouver des corrections et des incohérences dans les solutions générées précédemment.

Concernant la capacité de GPT-4 à se rendre plus intelligent grâce à l'auto-amélioration, un internaute a réalisé un résumé vidéo.

Les méta-chercheurs ont publié un nouvel article Toolformer en février, ciblant directement la « faiblesse » de ChatGPT, permettant aux grands modèles de langage d'apprendre à utiliser les outils par eux-mêmes.

Adresse papier : https://arxiv.org/abs/2302.04761

Selon la pensée de Meta, les grands modèles de langage comme ChatGPT peuvent compenser tout ce qui leur manque.

Par exemple, si vous ne savez pas faire des mathématiques, sortez simplement une calculatrice ; si vous avez besoin des dernières informations, connectez-vous simplement au moteur de recherche pour rechercher, vous pouvez même lancer directement le contenu que vous souhaitez ; traduisez-le.

Cet article est devenu un succès instantané. De nombreux chercheurs en IA ont déclaré que cet article avait ouvert l'esprit des gens et permis à de grands modèles de langage de devenir le point de départ de tout dans le futur.

De même, le récent article « Jarvis » HuggingGPT publié par l'Université du Zhejiang et Microsoft Research Asia a attiré une grande attention dans l'industrie.

Adresse papier : https://arxiv.org/abs/2303.17580

Dans le document, le HuggingGPT proposé par le chercheur utilise ChatGPT comme contrôleur pour connecter divers modèles d'IA de la communauté HuggingFace à Effectuer diverses tâches complexes telles que la multimodalité.

Certains internautes ont dit que je soupçonnais fortement que la première intelligence artificielle générale (AGI) apparaîtrait plus tôt que prévu. Il s’appuiera sur une IA « collée » capable de coller intelligemment une série d’intelligence artificielle étroite et d’outils pratiques.

Écrire automatiquement du code

Récemment, un développeur a réalisé un projet qui permet à GPT-4 de générer automatiquement du code - Auto-GPT.

Vous pouvez même exécuter du code. Dans les améliorations ultérieures, Auto-GPT peut utiliser GPT-4 pour écrire du code et exécuter des scripts Python. Cela lui permet de déboguer, de développer et de s'améliorer de manière récursive...

Auto-GPT permet aux gens de mieux comprendre les puissantes capacités de GPT-4, et certains internautes ont même créé un mème :

Andrej Karpathy a déclaré qu'à mon avis, la prochaine frontière de l'ingénierie rapide est "AutoGPT". Un appel GPT est comme une instruction sur l’ordinateur. Ils peuvent être concaténés en programmes. Utilisez des invites pour définir les spécifications des périphériques et des outils d'E/S, définir des boucles cognitives, paginer contextuellement les entrées et sorties de données, puis exécuter.

Internaute : La singularité arrive

Certains internautes ont dit que c'était fondamentalement la définition de la singularité.

Une IA qui s'améliore d'elle-même, il ne reste plus qu'à pouvoir modifier le code du modèle, et s'entraîner de manière autonome (en naviguant sur internet et en étiquetant tout tout seul).

Certains internautes pensent même que les progrès rapides de la technologie nous ont amenés à un point de non-retour. D’ici 2025, le monde aura radicalement changé, pour le meilleur et pour le pire.

Apprendre de ses erreurs est le fondement de l'intelligence.

Il semble que GPT-4 se bat et veuille devenir une super IA.

Selon les dernières nouvelles d'un certain grand patron, OpenAI est très clair sur le fait que la récente itération rapide de ses produits d'IA a provoqué des réactions extrêmement vives, et ils accueillent également favorablement la supervision publique.

Le responsable a déclaré que le risque actuel par jeton n'a pas atteint le point critique, donc l'abus de GPT ne causera pas beaucoup de dommages. La feuille de route pour l’alignement de l’IA sera publiée d’ici quelques mois.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!