Ce qu’il faut savoir sur l’intelligence artificielle générale

Récemment, les discussions se sont intensifiées sur les outils d'intelligence artificielle générative, notamment après la sortie de plusieurs modèles de langage et générateurs d'images à grande échelle tels que DALL-E ou Midjourney.

Ces inventions ont une fois de plus mis l'intelligence artificielle générale (GPAI) sous le feu des projecteurs et soulevé une fois de plus des questions hypothétiques telles que celle de savoir si la GPAI devrait être réglementée.

Avant d'explorer davantage les possibilités, comprenez d'abord le concept de GPAI, ce qu'il signifie, quand a-t-il été introduit, etc.

Qu'est-ce que l'intelligence artificielle générale ?

Il y a deux ans, en avril 2021, la Commission européenne lançait l'intelligence artificielle générale. La proposition initiale du projet de loi sur l’IA exemptait les créateurs d’intelligence artificielle générale du respect d’un certain nombre d’instruments juridiques et d’autres normes de responsabilité.

La raison est qu'elle ne s'applique qu'aux IA à haut risque, qui sont clairement mentionnées et expliquées dans le projet de loi en fonction de leur finalité et de leur contexte.

Un autre règlement, l'article 28, soutient cette affirmation et recommande que les développeurs d'AGI ne soient responsables de la conformité que s'ils adaptent ou développent de manière significative des systèmes d'IA pour des utilisations à haut risque.

Mais selon des rapports récents, le Parlement européen envisage également certaines « obligations » pour les fournisseurs d'AGI d'origine.

L'objectif fondamental de la loi européenne sur l'intelligence artificielle est de classer et de classer les différentes chaînes d'acteurs impliqués dans le développement et le déploiement de systèmes utilisant l'intelligence artificielle.

Voici 5 considérations pour guider la réglementation de l’intelligence artificielle générale

L’approche de la loi sur l’intelligence artificielle en matière d’intelligence artificielle générale est idéale pour établir un ton réglementaire pour lutter contre les méfaits de l’intelligence artificielle mondiale. Avec le récent regain d’intérêt du public pour l’IA générative, il existe également le risque que les positions réglementaires soient trop adaptées aux enjeux actuels.

Étonnamment, les innovations les plus récentes comme ChatGPT, dall-e2 et Bard ne sont même pas vraiment un problème, en fait, elles ne sont que la pointe de l'iceberg ;

Recommandé : IA responsable - Comment adopter un modèle éthique dans un environnement réglementaire

L'intelligence artificielle générale est une catégorie énorme

La première chose à comprendre est que l'intelligence artificielle générale est une catégorie énorme, donc appliquez-la C'est logique se concentrer sur un large éventail de domaines technologiques, plutôt que de se limiter aux chatbots et aux LL.M.

Pour garantir que le projet de loi européen sur l’intelligence artificielle soit de nature futuriste, il doit aborder une échelle beaucoup plus grande. Premièrement, une description appropriée du GPAI devrait inclure de nombreuses techniques (« tâches ») qui peuvent servir de base à d’autres systèmes d’intelligence artificielle.

Le Conseil de l'UE le définit comme suit :

« Le fournisseur a l'intention d'exécuter des fonctions d'application générale telles que la reconnaissance d'images et de parole, la génération audio et vidéo, la détection de modèles, la réponse aux questions, la traduction, etc. ; les systèmes généraux d'intelligence artificielle peuvent exécuter des fonctions ; dans plusieurs scénarios et peut être intégré à plusieurs autres systèmes d'IA. "

L'intelligence artificielle générale peut causer des dommages généralisés

Bien que ces risques ne puissent pas être complètement surmontés dans la couche application, nous pouvons nier qu'ils puissent être nocifs pour une variété d'entre eux. des candidatures et le fait que les participants ont un impact. Nous devrions tenir compte de l’état actuel de la technologie de l’IA, de ses applications et de son fonctionnement tout en développant une approche générale de la réglementation de l’IA.

Par exemple, les modèles généraux d’IA courent le risque de générer des discours antidémocratiques, tels que des discours de haine ciblant les minorités sexuelles, raciales et religieuses. Le risque de ces modèles est qu’ils enracinent des points de vue contraints ou déformés dans les données qui les sous-tendent.

L'IA générale doit être gouvernée tout au long du cycle de vie du produit

Pour que l'intelligence artificielle générale prenne en compte la diversité des parties prenantes, elle doit être gouvernée tout au long du cycle du produit, et pas seulement au niveau de l'application. Les premières étapes de développement sont cruciales et les entreprises qui créent ces modèles doivent assumer la responsabilité des informations qu'elles exploitent et des décisions architecturales qu'elles prennent. L'architecture existante du réseau d'approvisionnement en IA permet effectivement aux participants de profiter d'applications distantes en aval tout en évitant toute responsabilité consécutive due à un manque de surveillance au niveau de la couche de développement. Cela inclut le processus de collecte, de nettoyage et d'annotation des données, ainsi que le processus de création, de test et d'évaluation des modèles.

Une clause de non-responsabilité légale standard ne suffit pas

Il est impossible pour les créateurs d'AGI d'utiliser des clauses de non-responsabilité légales de base pour se dégager de toute responsabilité. Cette approche peut conduire à une vulnérabilité dangereuse qui dégage toute responsabilité du développeur d'origine et rejette la responsabilité sur les acteurs en aval qui n'ont pas la capacité de gérer tous les risques. Le Conseil prévoit une exception à l'approche générale, qui permettrait aux développeurs d'AGI de s'exonérer de toute responsabilité à condition d'exclure toutes les utilisations à haut risque dans leurs instructions et de garantir que le système ne puisse pas faire l'objet d'abus.

Recommandé : Découvrir, traiter et démystifier les préjugés cachés de l'IA

Engager les acteurs non industriels, la société et les chercheurs dans une consultation plus large

Une pratique de documentation de base et unifiée pour évaluer les modèles généraux d'IA, en particulier la génération de modèles d'intelligence artificielle à travers les dangers est un domaine de recherche en cours. Pour éviter des exercices superficiels de cases à cocher, la réglementation devrait éviter les méthodes d’évaluation étroites.

Les systèmes généraux d'intelligence artificielle doivent faire l'objet d'une vigilance, d'une vérification et d'une inspection méticuleuses avant d'être mis en œuvre ou mis à la disposition du public. Des propositions récentes visant à intégrer les modèles généraux d'intelligence artificielle dans le champ d'application du projet de loi sur l'IA soit reportent l'élaboration de futures normes spécifiques (à décider par la Commission), soit tentent de le faire dans le libellé du projet de loi sur l'IA.

Par exemple, dans une société de consensus, la répartition des impacts possibles peut différer selon qu'un prototype est construit et utilisé par l'ensemble de la communauté, ou par une petite communauté.

La loi européenne sur l’intelligence artificielle est sur le point de devenir la première loi générale sur l’IA et deviendra un jour une norme unifiée pour tous les pays. C’est pourquoi il est crucial de prendre le domaine de l’intelligence artificielle et de le traduire en un modèle global que tout le monde peut suivre.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!