Principes éthiques pour la technologie de reconnaissance faciale

L'énorme potentiel de la technologie de reconnaissance faciale dans divers domaines est presque inimaginable.

Cependant, il existe certains bugs courants dans sa fonctionnalité et certains problèmes éthiques qui doivent être résolus avant utilisation.

Les systèmes de reconnaissance faciale utilisent la technologie biométrique pour cartographier les traits du visage à partir de photos ou de vidéos, puis comparer ces informations à une base de données de visages connus pour trouver une correspondance. La reconnaissance faciale peut aider à vérifier l'identité d'une personne, mais elle soulève également des problèmes de confidentialité.

Comme pour les autres technologies d’intelligence artificielle, certains principes éthiques doivent être suivis lors de l’utilisation des systèmes de reconnaissance faciale. Ces principes comprennent :

1. L'équité de la reconnaissance faciale

Premièrement, le développement de la technologie de reconnaissance faciale doit garantir que le système peut empêcher complètement ou au moins minimiser la discrimination de tout individu ou groupe basée sur la race, le sexe, les caractéristiques du visage, déformation ou autres aspects préjugés. Il existe désormais de nombreuses preuves qu’il est peu probable que les systèmes de reconnaissance faciale fonctionnent de manière équitable à 100 %. En conséquence, les entreprises développant la technologie passent souvent des centaines d’heures à éliminer toute trace de biais qui s’y trouve.

Les organisations doivent redoubler d'efforts pour éliminer les biais dans les systèmes de reconnaissance faciale, et pour ce faire, les ensembles de données utilisés pour l'apprentissage automatique et l'étiquetage doivent être diversifiés. Plus important encore, la qualité de sortie d’un système de reconnaissance faciale équitable sera très élevée, car il peut fonctionner de manière transparente partout dans le monde, sans aucun biais.

Pour garantir l'équité des systèmes de reconnaissance faciale, les développeurs peuvent également impliquer les clients finaux pendant la phase de test.

2. Ouverture dans le fonctionnement de l'IA

Les organisations intégrant des systèmes de reconnaissance faciale dans les systèmes de travail et de cybersécurité doivent tout savoir sur l'endroit où les données d'apprentissage automatique sont stockées. Ces organisations doivent comprendre les limites et les capacités de la technologie avant de la mettre en œuvre. Les entreprises fournissant des technologies d’IA doivent être totalement transparentes avec leurs clients sur ces détails. De plus, les fournisseurs de services doivent garantir que leurs systèmes de reconnaissance faciale peuvent être utilisés par les clients depuis n'importe quel endroit, en fonction de leur convenance. Et toute mise à jour du système doit être effectuée après avoir reçu l’approbation valide du client.

3. Responsabilités des parties prenantes

Comme mentionné précédemment, les systèmes de reconnaissance faciale sont déployés dans de multiples domaines. Les organisations développant de tels systèmes doivent en être tenues responsables, en particulier lorsque la technologie peut avoir un impact direct sur un individu ou un groupe (application de la loi, surveillance). La responsabilité dans de tels systèmes vise à prévenir les dommages physiques ou sanitaires, les détournements financiers ou autres problèmes causés par le système qui pourraient en résulter. Afin d’introduire un élément de contrôle dans le processus, une personne qualifiée doit être chargée des systèmes de l’organisation afin de prendre des décisions judicieuses. Au-delà de cela, les organisations qui intègrent des systèmes de reconnaissance faciale dans leurs opérations quotidiennes doivent immédiatement répondre au mécontentement des clients lié à cette technologie.

4. Consentement et notification avant surveillance

Dans des circonstances normales, les systèmes de reconnaissance faciale ne peuvent pas être utilisés pour espionner des individus, des groupes ou autres sans leur consentement. Certaines institutions, comme l'Union européenne, disposent d'un ensemble de lois standardisées (RGPD) pour empêcher les organisations non autorisées de surveiller les individus. Les organisations disposant de tels systèmes doivent se conformer à toutes les réglementations en matière de protection des données et de confidentialité en vigueur dans le pays.

5. Surveillance légale pour éviter les violations des droits de l'homme

Les organisations ne peuvent pas utiliser les systèmes de reconnaissance faciale pour surveiller un individu ou un groupe, sauf autorisation de l'État ou de l'agence gouvernementale de gestion décisionnelle à des fins liées à la sécurité nationale ou à d'autres situations importantes. Fondamentalement, l’utilisation de cette technologie pour violer les droits humains et les libertés des victimes est strictement interdite.

6. Erreurs de vérification lors des achats

Comme mentionné précédemment, les systèmes de reconnaissance faciale sont intégrés aux applications de paiement numérique afin que les utilisateurs puissent vérifier les transactions à l'aide de la technologie. L’utilisation de cette technologie pour payer rend probables des activités criminelles telles que le vol d’identité faciale et la fraude par carte de débit. Les clients choisissent les systèmes de reconnaissance faciale en raison de la grande commodité qu’ils offrent aux utilisateurs. Cependant, une erreur qui peut survenir dans un tel système est que de vrais jumeaux peuvent utiliser les comptes bancaires de chacun pour effectuer des paiements non autorisés.

7. Applications inexactes des forces de l'ordre

Les systèmes de reconnaissance faciale sont utilisés pour identifier les criminels avant qu'ils ne soient capturés. Bien que la technologie en tant que concept soit sans aucun doute utile aux forces de l’ordre, son travail présente des problèmes flagrants, tels que l’intelligence artificielle biaisée qui fournit des résultats inexacts aux agents chargés de l’application de la loi, car les systèmes ne parviennent parfois pas à différencier les personnes de couleur. En règle générale, ces systèmes sont formés sur des ensembles de données contenant des images de personnes blanches. En conséquence, le travail du système est truffé d’erreurs lorsqu’il s’agit d’identifier des personnes d’autres races.

Comme nous pouvons le constater, les principaux problèmes et erreurs associés à la technologie de reconnaissance faciale proviennent d'un manque d'avancée technologique, d'un manque de diversité dans les ensembles de données et d'une gestion inefficace du système par les organisations.

Il est prévisible qu'avec les progrès futurs de la technologie, les problèmes liés à la technologie seront résolus ; les problèmes liés aux biais dans les algorithmes d'intelligence artificielle seront finalement éliminés. Cependant, pour que la technologie fonctionne parfaitement sans violer aucun principe éthique, les organisations doivent maintenir un niveau strict de gouvernance pour ces systèmes.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!