Quels sont les principes éthiques de la technologie de reconnaissance faciale ?

L'énorme potentiel de la technologie de reconnaissance faciale dans divers domaines est presque inimaginable. Cependant, certains pièges courants liés à sa fonctionnalité et certaines considérations éthiques doivent être résolus avant que ses applications les plus complexes puissent être mises en œuvre.

Un système de reconnaissance faciale précis utilise la technologie biométrique pour cartographier les traits du visage à partir de photos ou de vidéos. Il compare les informations à une base de données de visages connus pour trouver une correspondance. La reconnaissance faciale peut aider à vérifier l'identité d'une personne, mais elle soulève également des problèmes de confidentialité.

Il y a plusieurs décennies, nous n'aurions pas pu prédire que la reconnaissance faciale ferait presque partie intégrante de nos vies à l'avenir. Du déverrouillage des smartphones à la réalisation de transactions en ligne ou hors ligne, cette technologie est aujourd’hui profondément ancrée dans notre quotidien.

Un système de reconnaissance faciale est une application des composants de vision par ordinateur et d'apprentissage automatique de l'intelligence artificielle, et il fonctionne comme ceci : un algorithme est entraîné pour déterminer différents détails du visage d'une personne, tels que le nombre de pixels ou la courbure. entre leurs yeux, et d'autres détails qui sont logiquement interprétés pour reconstruire le visage dans le système. Cette recréation est ensuite comparée à un grand nombre de visages stockés dans la base de données du système. Par exemple, si l'algorithme détecte une correspondance avec un visage présent dans la base de données, le système le « reconnaît » et exécute la tâche de l'utilisateur.

En plus de terminer l’ensemble du processus en quelques secondes, les systèmes de reconnaissance faciale actuels sont capables de faire leur travail même dans des conditions d’éclairage, de résolution d’image et d’angles de vision médiocres. Comme d’autres technologies d’intelligence artificielle, les systèmes de reconnaissance faciale doivent respecter certains principes éthiques lorsqu’ils sont utilisés à diverses fins.

Ces réglementations comprennent :

1. L'équité dans la reconnaissance faciale

Premièrement, le développement des dispositifs de reconnaissance faciale doit empêcher complètement, ou au moins minimiser, la discrimination de toute personne basée sur la race, le sexe, les caractéristiques du visage, la déformation ou autre. aspects préjugés d’une personne ou d’un groupe. Il existe désormais de nombreuses preuves qu’il est peu probable que les systèmes de reconnaissance faciale fonctionnent de manière équitable à 100 %. En conséquence, les entreprises qui construisent des systèmes prenant en charge cette technologie passent souvent des centaines d’heures à éliminer toute trace de biais trouvée dans leurs systèmes.

Des entreprises réputées comme Microsoft embauchent souvent des experts qualifiés issus du plus grand nombre de communautés ethniques possible. Au cours des phases de recherche, de développement, de test et de conception de leur système de reconnaissance faciale, la diversité leur a permis de créer des ensembles de données massifs pour entraîner des modèles de données d'IA. Si les grands ensembles de données réduisent les biais, la diversité est également symbolique. La sélection d'individus du monde entier contribue à refléter la diversité trouvée dans le monde réel.

Pour éliminer les biais des systèmes de reconnaissance faciale, les entreprises doivent déployer des efforts supplémentaires. Pour y parvenir, les ensembles de données utilisés pour l’apprentissage automatique et l’étiquetage doivent être diversifiés. Plus important encore, la qualité de sortie d’un système de reconnaissance faciale équitable sera très élevée, car il fonctionnera de manière transparente partout dans le monde, sans aucun élément de parti pris.

Pour garantir l'équité des systèmes de reconnaissance faciale, les développeurs peuvent également impliquer les clients finaux lors de la phase de test bêta. La possibilité de tester un tel système dans des scénarios réels ne fera qu’améliorer la qualité de ses fonctionnalités.

2. Ouverture sur le fonctionnement interne de l'IA

Les entreprises utilisant des systèmes de reconnaissance faciale sur le lieu de travail et des systèmes de cybersécurité doivent connaître tous les détails de l'endroit où les informations d'apprentissage automatique sont stockées. Ces entreprises doivent comprendre les limites et les capacités de la technologie avant de la mettre en œuvre dans leurs opérations quotidiennes. Les entreprises fournissant des technologies d’IA doivent être totalement transparentes avec leurs clients sur ces détails. De plus, les fournisseurs de services doivent garantir que les clients peuvent utiliser leurs systèmes de reconnaissance faciale n'importe où. Toute mise à jour du système doit être valablement approuvée par le client avant de continuer.

3. Enjeux de responsabilité d'entreprise

En résumé, les systèmes de reconnaissance faciale sont déployés dans de nombreux domaines. Les entreprises qui fabriquent de tels systèmes doivent être tenues responsables, en particulier lorsque la technologie est susceptible d'avoir un impact direct sur l'application de la loi et la surveillance par toute personne ou groupe. La responsabilité dans de tels systèmes signifie inclure des cas d'utilisation pour prévenir les dommages physiques ou liés à la santé, le détournement financier ou d'autres problèmes pouvant découler du système. Pour introduire un élément de contrôle dans le processus, une personne qualifiée prend en charge les systèmes de l'entreprise pour prendre des décisions mesurées et logiques. Au-delà de cela, les entreprises qui intègrent des systèmes de reconnaissance faciale dans leurs opérations quotidiennes doivent immédiatement répondre au mécontentement des clients à l’égard de cette technologie.

4. Consentement et notification avant la surveillance

Dans des circonstances normales, les systèmes de reconnaissance faciale ne doivent pas être utilisés pour espionner des individus, des groupes ou d'autres comportements sans le consentement de l'individu ou du groupe. Certaines institutions, comme l'Union européenne, disposent d'un ensemble de lois standardisées pour empêcher les entreprises non autorisées d'espionner les personnes relevant de la juridiction de l'instance dirigeante. Les entreprises disposant de tels systèmes doivent se conformer à toutes les lois américaines sur la protection des données et la confidentialité.

5. Surveillance juridique pour éviter les violations des droits de l'homme

Sauf autorisation du gouvernement national ou d'un organisme de réglementation décisif à des fins liées à la sécurité nationale ou à d'autres situations importantes, les entreprises ne peuvent pas utiliser de systèmes de reconnaissance faciale pour surveiller une personne ou un groupe. Fondamentalement, il est strictement interdit d’utiliser cette technologie pour violer les droits humains et les libertés des victimes.

Bien que programmés pour suivre ces réglementations sans exception, les systèmes de reconnaissance faciale peuvent causer des problèmes en raison d'erreurs opérationnelles.

Certains des problèmes majeurs liés à cette technologie sont :

1. Erreurs de vérification lors de l'achat

Comme mentionné ci-dessus, des systèmes de reconnaissance faciale sont intégrés aux applications de paiement numérique afin que les utilisateurs puissent vérifier les transactions utilisant cette technologie. En raison de l’existence de cette technologie, des activités criminelles telles que le vol d’identité faciale et la fraude par carte de débit sont très possibles. Les clients choisissent les systèmes de reconnaissance faciale en raison de la grande commodité qu’ils offrent aux utilisateurs. Malgré les protocoles de sécurité en place dans les systèmes de reconnaissance faciale, la copie faciale peut conduire à un détournement de fonds.

2. Inexactitude dans les applications des forces de l'ordre

Les systèmes de reconnaissance faciale sont utilisés pour identifier les criminels publics avant qu'ils ne soient capturés. Même si la technologie en tant que concept est sans aucun doute utile aux forces de l’ordre, son fonctionnement pose des problèmes évidents. Les criminels peuvent abuser de cette technologie de diverses manières. Par exemple, le concept d’IA biaisée fournit des résultats inexacts aux agents chargés de l’application des lois, car les systèmes ne parviennent parfois pas à faire la distinction entre les personnes de couleur. Généralement, ces systèmes sont formés sur des ensembles de données contenant des images d’hommes blancs. La façon dont le système fonctionne est donc erronée lorsqu’il s’agit d’identifier des personnes appartenant à d’autres races.

Il existe plusieurs exemples où des entreprises ou des institutions publiques ont été accusées d'utiliser des systèmes avancés de reconnaissance faciale pour espionner illégalement des civils. Les données vidéo collectées grâce à la surveillance continue des individus peuvent être utilisées à diverses fins néfastes. L’un des plus gros inconvénients des systèmes de reconnaissance faciale est que les résultats qu’ils fournissent sont trop généraux.

Par exemple, si une personne est soupçonnée d'avoir commis un crime, sa photo sera prise et accompagnée de plusieurs photos du criminel pour vérifier si la personne a un casier judiciaire. Cependant, l’empilement de ces données signifie que la base de données de reconnaissance faciale conservera des photos de l’homme et des criminels expérimentés. Ainsi, malgré l'innocence de l'individu, sa vie privée a été violée. Deuxièmement, cette personne peut être perçue comme une mauvaise personne même si elle est innocente à tous points de vue.

Nous pouvons constater que les principaux problèmes et erreurs liés à la technologie de reconnaissance faciale proviennent du manque d'avancement de la technologie, du manque de diversité des ensembles de données et de la gestion inefficace du système par les entreprises. À mon avis, la portée de l’IA et de ses applications dans les besoins du monde réel est illimitée, et les risques liés à la technologie de reconnaissance faciale surviennent généralement lorsque la technologie fonctionne différemment des besoins réels.

Avec le développement futur de la technologie, les problèmes liés à la technologie seront résolus. Les problèmes liés aux biais dans les algorithmes d’IA seront éventuellement résolus. Cependant, pour que la technologie fonctionne parfaitement sans violer aucune norme éthique, les entreprises doivent maintenir un niveau strict de gouvernance sur ces systèmes. Avec une meilleure gouvernance, les bugs du système de reconnaissance faciale pourraient être résolus à l’avenir. Par conséquent, la recherche, le développement et la conception de tels systèmes doivent être améliorés pour parvenir à des solutions positives.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!