Pourquoi tant de gens sont-ils en colère contre la loi new-yorkaise sur l’embauche d’IA ?

Une écrasante majorité de personnes ont été indignées par les lois sur l'intelligence artificielle et le recrutement qui sont entrées en vigueur à New York la semaine dernière. Cette loi est la première loi sur l’IA aux États-Unis. La manière dont elle sera mise en œuvre fournira des leçons et des orientations aux autres villes qui élaborent une politique et un débat sur l’IA. Comme New York, d’autres États américains envisagent également d’intégrer des dispositions sur le recrutement d’IA dans la loi européenne sur l’intelligence artificielle.

L'utilisation de l'intelligence artificielle dans le recrutement a suscité des critiques en raison de la présence d'automatisation et de la manière dont elle peut renforcer les préjugés raciaux et sexistes existants. Il a été démontré que les systèmes d’IA favorisent les candidats blancs, masculins et valides lors de l’évaluation de leurs expressions faciales et de leur langage.

Cette question mérite attention car la plupart des entreprises ont utilisé au moins une fois l’intelligence artificielle dans le processus de recrutement. Charlotte Burrows, présidente de la Commission américaine pour l'égalité des chances en matière d'emploi, a déclaré lors d'une réunion en janvier 2023 que jusqu'à 80 % des entreprises utilisent une forme d'outils automatisés pour prendre des décisions d'embauche.

La loi sur l'outil automatisé de décision en matière d'emploi de la ville de New York, entrée en vigueur le 5 juillet, stipule que les employeurs qui utilisent l'intelligence artificielle dans le recrutement doivent informer honnêtement les candidats qu'ils le font. Pour prouver que leurs systèmes ne sont ni racistes ni sexistes, ils ont besoin d’audits indépendants annuels. Les demandeurs d'emploi peuvent demander aux employeurs potentiels des informations sur la collecte et l'analyse des données impliquées dans cette technologie. Les violations sont passibles d'amendes pouvant aller jusqu'à 1 500 $.

(Source : STEPHANIE ARNETT/MITTR | GETTY)

Les partisans de la loi estiment que c’est un bon début, même si elle n’est pas parfaite, pour réglementer l’intelligence artificielle et atténuer certains des méfaits et des risques liés à son utilisation. Les entreprises sont invitées à examiner de plus près les algorithmes qu’elles utilisent pour déterminer si la technologie constitue involontairement une discrimination injuste à l’égard des femmes ou des personnes de couleur.

Il s'agit d'un cas rare mais réussi, et du point de vue de la politique réglementaire américaine en matière d'intelligence artificielle, nous pourrions voir des réglementations locales plus pertinentes. Cela semble prometteur, non ?

Mais cette loi a suscité une énorme controverse. Les groupes d'intérêt public et les défenseurs des droits civiques affirment que le projet de loi n'est ni exécutoire ni assez large, tandis que les entreprises qui doivent s'y conformer soutiennent qu'il est peu pratique et fastidieux.

Le Center for Democracy & Technology (Center for Democracy & Technology), le Surveillance Technology Oversight Project (S.T.O.P.) et d'autres organisations estiment que la loi est « insuffisamment inclusive » et risque de passer à côté de l'utilisation de nombreux systèmes automatisés dans le recrutement, y compris l'utilisation de Un système alimenté par l'IA qui sélectionne des milliers de candidats.

Étant donné que le secteur de l'audit concerné est actuellement immature, ce qui est incertain quant aux résultats des audits indépendants, ce sont ses aspects les plus importants. La BSA – un groupe commercial technologique influent dont les membres comprennent Adobe, Microsoft et IBM – a soumis des commentaires à la ville de New York en janvier 2023 critiquant la loi, arguant que les audits par des tiers étaient « irréalisables ».

Albert Fox Cahn, directeur exécutif de S.T.O.P., a déclaré : « La question clé est de savoir comment les auditeurs obtiendront des informations sur les entreprises et dans quelle mesure ils pourront réellement interroger la façon dont les entreprises sont gérées. Bien que nous employions des auditeurs financiers, il nous manque un ensemble de normes comptables universellement acceptées. principes, sans parler des règles fiscales et de contrôle. »

Selon Kahn, cette loi pourrait conduire à un faux sentiment de sécurité concernant l'intelligence artificielle et le processus d'embauche. Il a déclaré : "Il s'agit d'une feuille de vigne utilisée uniquement pour démontrer que des protections existent, et dans la pratique, je ne pense pas qu'une entreprise soit tenue responsable du fait que cela soit inscrit dans la loi

."

Il est important de noter que les audits obligatoires doivent évaluer si le résultat d'un système d'IA est biaisé à l'encontre de groupes spécifiques de personnes. Cela utilisera une mesure appelée « taux d'impact » pour déterminer si le « taux de sélection » de la technologie est différent pour différents groupes.

Les audits n'ont pas besoin d'essayer de déterminer comment un algorithme prend une décision, et la loi élude la question de « l'explicabilité » dans les formes complexes d'apprentissage automatique telles que l'apprentissage profond. Comme vous pouvez l’imaginer, ces omissions sont devenues un sujet de débat brûlant parmi les experts en IA.

Aux États-Unis, dans l’attente d’une législation fédérale, nous pourrions voir davantage de lois locales régissant l’IA, dont la plupart ciblent une application spécifique de la technologie. En abordant ces controverses juridiques locales, nous pouvons révéler comment les définitions des outils d’IA, les mécanismes de sécurité et leur application évolueront au cours des prochaines décennies. Le New Jersey et la Californie envisagent déjà des lois similaires.

Soutien : Ren

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!