Le Dr Andrew McAfee du MIT révèle une nouvelle approche de la réglementation de l'IA

Depuis la naissance de l'intelligence artificielle, la discussion sur la manière de réguler l'intelligence artificielle ne s'est jamais arrêtée

Mais en fait, la manière de réglementer l’IA est un sujet très complexe. Différents pays et régions ont également des politiques et des cadres réglementaires différents, tels que la loi sur l’intelligence artificielle de l’UE, la consultation sur la politique de responsabilité en matière d’intelligence artificielle aux États-Unis et les « mesures provisoires » en Chine. pour la gestion des services d'intelligence artificielle générative" et d'autres ont proposé des normes et des exigences pour la définition, la classification, la classification des risques, la répartition des responsabilités, etc. de l'IA.

Lors du Web Summit 2023 récemment organisé à Lisbonne, au Portugal, Andrew McAfee, chercheur scientifique en chef à la MIT Sloan School of Management, nous a présenté une toute nouvelle idée : « l'innovation sans autorisation ». Ce concept est en nette opposition avec de nombreux projets précédemment proposés pour la réglementation de l'intelligence artificielle

Dr Andrew McAfee, MIT

« Aucune autorisation requise » n'apportera vraiment pas un désastre ?

Dans ce discours très suivi, il a évoqué deux concepts : la gouvernance en amont et l'innovation sans permission. Parmi eux, la gouvernance en amont signifie une surveillance préventive et un contrôle des risques et des impacts qu'elle peut engendrer avant l'innovation technologique

Le contraire est l'innovation sans autorisation, qui fait référence à la liberté d'expérimenter et d'explorer de nouvelles technologies et de nouveaux modèles commerciaux sans obtenir l'autorisation préalable du gouvernement ou d'autres agences

Andrew McAfee soutient clairement l'innovation gratuite pour trois raisons :

Tout d’abord, innovation libre ne signifie pas absence de réglementation et d’encadrement.

Andrew estime que cette question est fondamentalement une question de calendrier réglementaire, c'est-à-dire qu'il ne devrait pas y avoir de « gouvernance préventive » mais une réglementation ciblée. Par exemple, lorsque les smartphones équipés d'appareils photo sont apparus, certaines personnes les utilisaient pour prendre secrètement des photos de jupes de femmes. À cette époque, les appareils photo des téléphones portables étant encore une nouveauté, il n'existait aucune disposition juridique pertinente pour protéger les droits des femmes.

Plus tard, les organes législatifs concernés ont rapidement introduit des réglementations juridiques pertinentes pour réglementer l'utilisation de la technologie après son développement. En d’autres termes, si quelqu’un blesse quelqu’un avec un couteau de cuisine, la direction devrait être renforcée pour rendre le couteau de cuisine plus sûr, plutôt que d’adopter des réglementations pour faire perdre au couteau de cuisine son tranchant

Dans ce que l'on dit souvent, il est dit : « Les problèmes de développement doivent être résolus par le développement ». Il en va de même pour l'IA. Ce que nous devons faire, c'est résoudre de manière dynamique les problèmes qui surviennent au cours du processus de développement de l'IA. Nous ne pouvons pas nous arrêter en raison de certains dangers qui peuvent découler du développement de l'IA. Nous espérons éviter les dangers en limitant le développement. Selon les mots originaux d'Andrew, il est nécessaire de « faciliter la correction des erreurs » plutôt que de « garantir qu'aucune erreur ne soit commise », afin que le contrôle puisse véritablement jouer son rôle.

Deuxièmement, Andrew pense que nous avons peut-être surestimé les méfaits de l’IA.

Depuis la naissance de l'IA, diverses nouvelles sur la catastrophe qu'elle entraînera n'ont jamais disparu. Beaucoup de gens l'énumèrent même avec la guerre nucléaire, les pandémies et d'autres choses, pensant que l'IA est comme "Pandora". Elle existe comme une boîte magique, atteignant. un niveau sensationnel.

Mais le Dr Andrew pense que nous sommes peut-être trop concentrés sur l’IA et ignorons de nombreuses autres technologies plus dangereuses. Prenons par exemple la biotechnologie, où chacun a accès aux connaissances et aux équipements pertinents sans avoir besoin d’un examen ou d’une autorisation. Si vous travaillez dans le domaine de la biotechnologie, vous pouvez faire beaucoup de choses sans examen ni autorisation, ce qui constitue un équilibre déraisonnable.

Enfin, et peut-être plus important encore, cette « innovation sans autorisation » inspire la créativité et l’imagination

Nous avons le bon sens fondamental selon lequel l'innovation est une activité imprévisible et décentralisée. C'est son attribut principal. Il nous est difficile de prédire l'orientation future du développement, d'autant plus que l'IA devient aujourd'hui de plus en plus puissante. peut apparaître de plus en plus dans des endroits que nous ne remarquons pas.

Au début du discours, il a également mentionné un logiciel d'apprentissage des langues - Duolingo APP, pensant que cela peut illustrer les avantages de l'innovation sans permission. Cette application utilise la dernière technologie d'IA pour évaluer la maîtrise de l'anglais de manière plus pratique, plus rapide et à faible coût. Cependant, si elle doit répondre à une série d'exigences telles que la protection des données, la transparence des algorithmes, la supervision humaine, etc. avant que la technologie ne soit mise sur le marché, elle limitera l'espace et la vitesse de l'innovation, manquant ainsi de bonnes opportunités. pour l'innovation.

L'innovation sans autorisation n'est pas seulement utilisée dans le domaine technologique

En fait, cet avantage de l'innovation sans autorisation ne se reflète pas seulement dans le domaine de l'intelligence artificielle. Dans son discours au Web Summit 2023, Andrew a également mentionné deux exemples, respectivement, sur l'ARNm et le dialogue de Churchill, nous montrant le rôle des concepts innovants sans autorisation dans d'autres. champs

Katalin Kariko, qui a remporté le prix Nobel de médecine et de biologie cette année, avait quitté le monde universitaire depuis dix ans. L'orientation de la recherche sur l'ARNm n'était généralement pas optimiste à l'époque. de "gouvernance en amont" intervient, alors la recherche en direction de l'ARNm est susceptible d'être "prospectivement" abandonnée en raison du financement, des projets et de bien d'autres raisons. C'est sans aucun doute très important pour l'ensemble de la race humaine.

En fait, la base d'une « gouvernance prospective » réside dans un jugement précis de l'avenir. Cependant, il est clair que personne ne peut prédire dans quelle direction la cassure se produira. Si vous portez un mauvais jugement, vous perdrez de nombreuses opportunités d'excellente innovation, ce qui reflète l'importance des idées innovantes sans autorisation

Un autre exemple s'est produit en 1938, à la veille du déclenchement de la Seconde Guerre mondiale. L'ombre de la guerre enveloppa l'Europe. Le Premier ministre britannique de l'époque, Chamberlain, signa le fameux « Accord de Munich », chef-d'œuvre de « politique d'apaisement » après avoir contacté Hitler. croyant qu'il pourrait apporter la paix en signant un accord de paix avec Hitler. Mais après son retour en Angleterre, Churchill révéla la vérité et rompit avec Chamberlain et la tendance populaire à l’apaisement de l’époque.

Il a déclaré : « Vous pensez que vous pouvez faire un choix entre la guerre et la honte (en référence à la signature d'un contrat avec les nazis), alors vous choisissez la honte, mais la guerre est toujours inévitable. » On voit que M. Andrew croit en l'IA. La crise à venir ne pourra peut-être pas être évitée grâce à une « gouvernance préventive ». En d’autres termes, l’humanité n’est pas confrontée à deux choix : « améliorer la microgestion » et « le chaos », mais quel que soit le choix, le chaos provoqué par l’IA peut être inévitable.

Bien sûr, ce principe a aussi un nom chinois bien connu : abandonner l'essentiel et chasser les faibles. À l’heure où l’intelligence artificielle est devenue une tendance en plein essor, il serait peut-être préférable de se concentrer activement sur la manière d’affronter la nouvelle vague

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!