Principes éthiques de la technologie de reconnaissance faciale

L'énorme potentiel de la technologie de reconnaissance faciale dans divers domaines est presque inimaginable. Cependant, certains pièges courants liés à sa fonctionnalité et certaines considérations éthiques doivent être résolus avant que ses applications les plus complexes puissent être mises en œuvre.

Un système de reconnaissance faciale précis utilise la technologie biométrique pour dessiner les traits du visage à partir de photos ou de vidéos. Il compare ces informations à une base de données de visages connus pour trouver une correspondance. La reconnaissance faciale peut aider à vérifier l'identité d'une personne, mais elle soulève également des problèmes de confidentialité.

Il y a quelques décennies, nous n'aurions pas pu prédire que la reconnaissance faciale deviendrait un élément presque indispensable de nos vies à l'avenir. Du déverrouillage des smartphones à la réalisation de transactions en ligne (ou hors ligne), cette technologie est profondément ancrée dans notre quotidien. Il s’agit d’une application incroyable des composants de vision par ordinateur et d’apprentissage automatique de l’intelligence artificielle.

Les systèmes de reconnaissance faciale fonctionnent comme ceci :

des algorithmes entraînés déterminent divers détails uniques du visage d'une personne, tels que le nombre de pixels entre les yeux ou la courbure des lèvres, les interprétant logiquement, entre autres détails, pour les reconstruire. le visage au sein du système. Ces visages reconstruits sont ensuite comparés à un large ensemble de visages stockés dans la base de données du système. Si l'algorithme détecte que le visage reproduit correspond mathématiquement à un visage présent dans la base de données, le système le « reconnaît » et exécute la tâche de l'utilisateur.

En plus de terminer l'ensemble du processus en quelques nanosecondes, les systèmes de reconnaissance faciale actuels sont capables de fonctionner même dans des conditions de faible luminosité, avec une résolution d'image et des angles de vision médiocres.

Comme d'autres technologies d'intelligence artificielle, les systèmes de reconnaissance faciale doivent suivre certains principes éthiques lorsqu'ils sont utilisés à diverses fins. Ces réglementations comprennent :

1. L'équité dans la reconnaissance faciale

Tout d'abord, les dispositifs de reconnaissance faciale doivent être développés de telle manière que le système empêche complètement, ou du moins minimise, la discrimination fondée sur la race, le sexe, les caractéristiques du visage ou la difformité. ou tout autre préjugé contre toute personne ou groupe. Il existe désormais de nombreuses preuves qu’il est peu probable que les systèmes de reconnaissance faciale fonctionnent de manière équitable à 100 %. En conséquence, les entreprises qui construisent des systèmes prenant en charge cette technologie passent souvent des centaines d’heures à éliminer toute trace de biais trouvée dans leurs systèmes.

Des organisations réputées comme Microsoft embauchent souvent des experts qualifiés issus du plus grand nombre de communautés ethniques possible. Au cours des phases de recherche, de développement, de test et de conception de leur système de reconnaissance faciale, la diversité leur a permis de créer des ensembles de données massifs pour entraîner des modèles de données d'IA. Si les grands ensembles de données réduisent le quotient de biais, la diversité est également symbolique. La sélection d’individus du monde entier contribue à refléter la diversité du monde réel.

Pour éliminer les biais des systèmes de reconnaissance faciale, les organisations doivent déployer des efforts supplémentaires. Pour y parvenir, les ensembles de données utilisés pour l’apprentissage automatique et l’étiquetage doivent être diversifiés. Plus important encore, la qualité de sortie d’un système de reconnaissance faciale équitable sera incroyablement élevée, car il fonctionnera de manière transparente partout dans le monde, sans aucun élément de parti pris.

Pour garantir l'équité du système de reconnaissance faciale, les développeurs peuvent également impliquer les clients finaux lors de la phase de test bêta. La possibilité de tester un tel système dans des scénarios réels ne fera qu’améliorer la qualité de ses fonctionnalités.

2. Ouverture dans le fonctionnement interne de l'intelligence artificielle

Les organisations utilisant des systèmes de reconnaissance faciale sur le lieu de travail et des systèmes de cybersécurité doivent connaître tous les détails de l'endroit où les informations d'apprentissage automatique sont stockées. Ces organisations doivent comprendre les limites et les capacités de la technologie avant de la mettre en œuvre dans leurs opérations quotidiennes. Les entreprises fournissant des technologies d’IA doivent être totalement transparentes avec leurs clients sur ces détails. De plus, les prestataires de services doivent s’assurer que leurs systèmes de reconnaissance faciale peuvent être utilisés par les clients depuis n’importe quel endroit, en fonction de leur convenance. Toute mise à jour du système doit être valablement approuvée par le client avant de continuer.

3. Responsabilité envers les parties prenantes

Comme mentionné précédemment, les systèmes de reconnaissance faciale sont déployés dans plusieurs départements. Les organisations qui fabriquent de tels systèmes doivent en être tenues responsables, en particulier lorsque la technologie peut avoir un impact direct sur une personne ou un groupe (application de la loi, surveillance). La responsabilité dans un tel système signifie inclure des cas d'utilisation pour prévenir les dommages physiques ou liés à la santé, le détournement financier ou d'autres problèmes pouvant découler du système. Pour introduire un élément de contrôle dans le processus, une personne qualifiée prend en charge les systèmes de l'organisation pour prendre des décisions mesurées et logiques. Au-delà de cela, les organisations qui intègrent des systèmes de reconnaissance faciale dans leurs opérations quotidiennes doivent immédiatement répondre au mécontentement des clients à l’égard de cette technologie.

4. Consentement et notification avant la surveillance

Dans des circonstances normales, le système de reconnaissance faciale ne doit pas être utilisé pour espionner des individus, des groupes ou d'autres comportements sans le consentement de l'individu ou du groupe. Certaines institutions, comme l'Union européenne (UE), disposent d'un ensemble de lois standardisées (RGPD) pour empêcher les organisations non autorisées d'espionner les individus relevant de la juridiction de l'organe directeur. Les organisations disposant de tels systèmes doivent se conformer à toutes les lois américaines sur la protection des données et la confidentialité.

5. Surveillance légale pour éviter les violations des droits de l'homme

Une organisation ne peut pas utiliser un système de reconnaissance faciale à moins d'être autorisée par le gouvernement national ou un organisme de réglementation décisif à des fins liées à la sécurité nationale ou à d'autres situations très médiatisées pour surveiller toute personne ou groupe. Fondamentalement, il est strictement interdit d’utiliser cette technologie pour violer les droits humains et les libertés des victimes.

Bien que les systèmes de reconnaissance faciale soient programmés pour se conformer à ces réglementations sans exception, ils peuvent causer des problèmes en raison d'erreurs de fonctionnement. Certains des problèmes majeurs associés à cette technologie sont :

6. Erreurs de vérification au moment de l'achat

Comme mentionné précédemment, les systèmes de reconnaissance faciale sont inclus dans les applications de paiement numérique grâce auxquelles les utilisateurs peuvent vérifier les transactions. En raison de l’existence de cette technologie, des activités criminelles à des fins de paiement telles que le vol d’identité faciale et la fraude par carte de débit sont très possibles. Les clients choisissent les systèmes de reconnaissance faciale car ils offrent aux utilisateurs une grande commodité. Cependant, une erreur peut survenir dans un tel système lorsque de vrais jumeaux les utilisent pour effectuer des paiements non autorisés à partir des comptes bancaires de chacun. Le problème est que malgré les protocoles de sécurité en place dans les systèmes de reconnaissance faciale, la copie faciale peut conduire à un détournement de fonds.

7. Inexactitudes dans les applications des forces de l'ordre

Les systèmes de reconnaissance faciale sont utilisés pour identifier les criminels publics avant qu'ils ne soient capturés. Même si la technologie en tant que concept est sans aucun doute utile aux forces de l’ordre, son fonctionnement pose des problèmes évidents. Les criminels peuvent abuser de cette technologie de plusieurs manières. Par exemple, le concept d’IA biaisée fournit des résultats inexacts aux agents chargés de l’application des lois, car les systèmes ne parviennent parfois pas à faire la distinction entre les personnes de couleur. Généralement, ces systèmes sont formés sur des ensembles de données contenant des images d’hommes blancs. La façon dont le système fonctionne est donc erronée lorsqu’il s’agit d’identifier des personnes appartenant à d’autres races.

Il y a eu plusieurs cas d'organisations ou d'institutions publiques accusées d'utiliser des systèmes avancés de reconnaissance faciale pour espionner illégalement des civils. Les données vidéo collectées par des individus sous surveillance constante peuvent être utilisées à diverses fins néfastes. L’un des plus gros inconvénients des systèmes de reconnaissance faciale est que les résultats qu’ils fournissent sont trop généraux. Par exemple, si une personne est soupçonnée d'avoir commis un crime, sa photo sera prise et accompagnée de photos de plusieurs criminels pour vérifier si la personne a un casier judiciaire. Cependant, l’empilement de ces données signifie que la base de données de reconnaissance faciale conservera des photos de l’homme et des criminels expérimentés. Ainsi, même si l’individu est relativement innocent, sa vie privée est violée. Deuxièmement, la personne peut être considérée sous un mauvais jour même si elle est innocente à tous égards.

Comme mentionné, les principaux problèmes et erreurs associés à la technologie de reconnaissance faciale proviennent d'un manque d'avancée technologique, d'un manque de diversité dans les ensembles de données et d'une gestion inefficace du système par les organisations. Cependant, le champ d’application de l’intelligence artificielle et ses applications aux besoins réels devraient être illimités. Les risques liés à la technologie de reconnaissance faciale surviennent souvent lorsque la technologie ne fonctionne pas de la même manière que celle réellement requise.

Mais il est prévisible qu'avec les progrès continus de la technologie à l'avenir, les problèmes liés à la technologie seront résolus. Les problèmes liés aux biais dans les algorithmes d’IA seront finalement éliminés. Cependant, pour que cette technologie fonctionne parfaitement sans violer aucune norme éthique, les organisations doivent maintenir un niveau strict de gouvernance pour ces systèmes. Avec une meilleure gouvernance, les bugs du système de reconnaissance faciale pourraient être résolus à l’avenir. Par conséquent, la recherche, le développement et la conception de tels systèmes doivent être améliorés pour parvenir à des solutions positives.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!