Comment prévenir les préjugés de l'IA de manière équitable

L'intelligence artificielle (IA) a un énorme potentiel pour révolutionner les opérations commerciales. En fait, une étude a révélé que 67 % des entreprises s’attendent à ce que les cas d’utilisation de l’IA et du machine learning augmentent au cours de l’année à venir. Ces technologies présentent des avantages en termes d’amélioration de l’efficacité des entreprises, de génération d’informations, d’amélioration de la compétitivité du marché et d’offre d’expériences client personnalisées.

Cependant, dans les secteurs hautement réglementés, les entreprises sont confrontées à des défis uniques liés à l’explicabilité de l’IA. Les secteurs tels que les services financiers, les assurances et les soins de santé doivent utiliser des plateformes décisionnelles transparentes et vérifiables pour respecter des réglementations et des normes de conformité strictes. Il existe aujourd’hui de nombreuses solutions d’intelligence artificielle qui automatisent les processus et décisions métier, mais peu fournissent des explications significatives. Même si elles regorgent de potentiel, les entreprises ne doivent jamais perdre de vue le pourquoi des décisions et des prédictions automatisées.

Préparez-vous aux futures réglementations

Aujourd’hui, les organisations politiques et la société civile réclament une plus grande transparence dans l’IA. De plus, les gouvernements et les consommateurs souhaitent une plus grande visibilité sur les algorithmes derrière leurs approbations de crédit et de prêt, leurs campagnes marketing et leurs technologies de maison intelligente. Les projets de loi dans le cadre de l’Algorithmic Accountability Act des États-Unis et de la loi mondiale européenne sur l’IA visent à établir des normes pour des résultats d’IA sûrs, éthiques et transparents. Cependant, les gouvernements commencent seulement à trouver des moyens de réglementer l’IA, car les cas d’utilisation continuent d’évoluer et d’émerger.

Par exemple, le conseil municipal de New York a adopté un projet de loi ciblant les algorithmes d'intelligence artificielle utilisés dans les outils d'emploi. La loi, qui entre en vigueur en 2023, oblige les employeurs à embaucher des auditeurs indépendants pour effectuer des évaluations, ainsi que des outils d'intelligence artificielle pour évaluer les candidats à un emploi et les employés actuels. La loi exige des audits biaisés des outils d’intelligence artificielle utilisés pour sélectionner les candidats à un emploi ou promouvoir les employés. Des amendes pouvant aller jusqu'à 1 500 $ seront imposées en cas d'algorithmes d'IA biaisés ou d'utilisation de tels outils sans notification préalable aux employés et aux candidats. À court terme, à mesure que des réglementations émergent et que les normes évoluent, les entreprises devraient se concentrer sur les moyens d'accroître la transparence et de se préparer aux futures réglementations.

L’un des défis liés à l’exploitation de l’apprentissage automatique est que, par définition, il repose sur des préjugés. Bien que tous les préjugés ne soient pas nuisibles, lorsqu'ils produisent des résultats qui favorisent ou désavantagent une classe protégée, comme le sexe, la race, l'âge, etc., et ont un impact négatif sur une personne, comme l'approbation d'essais cliniques, la gestion de la santé, les prêts. Cela devient préjudiciable lorsque les qualifications ou les crédits sont approuvés.

La nécessité de protéger les algorithmes et de prévenir les biais nuisibles est bien connue. Mais lutter efficacement contre les préjugés préjudiciables nécessite de comprendre les données qui se cachent derrière chaque décision ou prévision. Pour obtenir une transparence essentielle, les entreprises doivent avoir une visibilité sur les algorithmes composés d'apprentissage automatique et de règles métier qui pilotent les décisions afin de fournir une piste d'audit complète. Par exemple, les compagnies d’assurance qui utilisent l’IA pour l’approbation des sinistres doivent être en mesure d’expliquer clairement pourquoi chaque décision a été prise.

Comment le problème de la « boîte noire » pèse sur l'innovation en IA

Avec l'intelligence artificielle, de nombreuses entreprises sont confrontées à un problème où leurs solutions d'IA fournissent des prédictions et permettent l'automatisation, mais ne peuvent pas expliquer pourquoi elles prennent une certaine décision et les facteurs qui affectent le résultat. l’entreprise risque de subir un préjudice juridique ou de réputation important.

Les entreprises doivent être capables de voir clairement les raisons derrière les résultats pour garantir que les décisions algorithmiques renvoient les résultats attendus. Transformer la boîte noire de l’IA en une « boîte de verre » transparente et explicable est essentiel pour prévenir les préjudices causés aux clients et aux consommateurs et réduire les risques pour les entreprises et les marques.

Essentiellement, l'apprentissage automatique fait des prédictions basées sur des données historiques. « L'équité par la sensibilisation » fait référence à une approche qui permet aux entreprises de déterminer si un modèle fonctionne aussi bien pour divers groupes ayant une caractéristique commune grâce à l'utilisation de champs de métadonnées, même si cette caractéristique n'est pas utilisée directement dans le modèle. Cette prise de conscience aide les entreprises à éviter, quantifier et atténuer les préjugés préjudiciables avant qu’ils ne conduisent à des décisions injustes ou préjudiciables.

Une vision claire pour l'avenir de l'IA d'entreprise

Alors que l'IA est de plus en plus utilisée dans l'entreprise, les entreprises doivent rechercher la transparence et l'auditabilité de l'IA pour garantir que les résultats ne sont pas affectés par des biais préjudiciables. Ce n’est que lorsque nous donnerons la priorité et mettrons en œuvre des solutions d’IA explicables et transparentes que nous pourrons réduire les préjugés préjudiciables, réduire les risques et promouvoir la confiance.

Alors que le recrutement basé sur les compétences gagne en popularité, des mythes persistent quant à l'efficacité et aux mérites de cette pratique. Il est essentiel de lutter contre ces idées fausses pour promouvoir les changements nécessaires à la création d’une main-d’œuvre plus juste et plus durable.

La vie des diplômés

Le marché du travail américain continuera de s'ajuster en 2022. Une enquête menée auprès de plus de 2 300 cadres a révélé que 65 % d'entre eux prévoient de créer de nouveaux postes permanents au cours du premier semestre. Il y a également 33 % de personnes en compétition pour pourvoir des offres d'emploi, et il y a actuellement plus de 10,8 millions d'offres d'emploi aux États-Unis. Les pratiques de recrutement traditionnelles ne constituent pas un moyen viable de répondre aux besoins de main-d’œuvre. Les entreprises doivent moderniser leur approche pour rester compétitives. Cela signifie adopter un recrutement basé sur les compétences.

Le recrutement basé sur les compétences met l'accent sur les compétences techniques et les compétences de base des candidats, plutôt que sur les diplômes ou les certificats, comme facteurs les plus critiques pour la réussite professionnelle. Cette pratique oblige l'équipe de recrutement à définir les compétences requises et préférées pour un rôle et à évaluer objectivement ces compétences afin de minimiser les préjugés dans le processus de recrutement.

Les grandes entreprises se tournent de plus en plus vers le recrutement basé sur les compétences, et nous aborderons ci-dessous certains des plus grands mythes concernant l'adoption d'une approche basée sur les compétences et comment y répondre pour provoquer un changement culturel dans votre entreprise.

1. Le recrutement basé sur les compétences est injuste pour les diplômés universitaires.

L'embauche basée sur les compétences ne consiste pas à exclure les diplômés universitaires ou à réduire les barrières à l'entrée. Il s'agit d'articuler les compétences spécifiques que représente le diplôme. Cela permet aux titulaires d'un diplôme et aux demandeurs d'emploi qui ont acquis des compétences par d'autres moyens d'être pris en considération pour le poste. Cela contribue à démocratiser les opportunités économiques pour tous et à élargir le vivier de talents dont disposent les entreprises.

Les postes qui n'exigeaient pas de diplôme universitaire dans le passé nécessitent désormais un diplôme universitaire de quatre ans, alimentant l'économie du prestige et obligeant les entreprises à payer des coûts plus élevés. Dans le cadre de ce modèle, de nombreux emplois autrefois mobiles deviennent hors de portée de tous, accessibles uniquement à ceux qui peuvent se permettre les coûts croissants de l’enseignement supérieur. Cela exclut également les talents issus des communautés à faible revenu, en particulier les personnes de couleur. Le recrutement basé sur les compétences offre un moyen pratique de remédier à cette inégalité et rétablit la candidature des 66 % d’Américains sans baccalauréat, dont plus de 75 % des Noirs et plus de 80 % des Hispaniques.

2. Le recrutement basé sur les compétences peut conduire à un mauvais recrutement et nuire aux entreprises.

Adopter une approche par compétences permet une sélection et un recrutement plus efficaces des candidats. L’embauche basée sur les compétences est cinq fois plus prédictive des performances futures que l’embauche basée sur l’éducation et 2,5 fois plus puissante que l’embauche basée sur l’expérience. De plus, de nombreuses entreprises signalent que les employés non diplômés sont aussi productifs que les diplômés universitaires, et dans certains cas même plus.

Les autres avantages du recrutement basé sur les compétences incluent : une réduction du temps de recrutement, un engagement accru des employés et une rotation plus faible.

3. Le recrutement basé sur les compétences n'est pas une stratégie réaliste d'acquisition de talents.

Peut-être pas dans le passé. Historiquement, les équipes de recrutement ont adopté une perspective hyper-locale sur les efforts de recrutement. Avec l’augmentation du travail à distance, les entreprises peuvent lancer des recherches de candidats plus larges pour trouver les personnes qui correspondent aux besoins de compétences du marché.

D'un point de vue macro, cela pourrait ressembler à la formation de partenariats avec des entreprises de développement de la main-d'œuvre dans des zones sous-financées afin de constituer un vivier de candidats dotés de compétences diverses pour occuper des postes à distance. Grâce à ces partenariats, les entreprises peuvent générer simultanément des résultats commerciaux et une équité économique.

Bien que concevoir et lancer un recrutement basé sur les compétences prenne du temps et nécessite un apprentissage intentionnel et un lâcher prise, votre entreprise, vos employés et votre communauté en bénéficieront en fin de compte. Investir dès maintenant dans le recrutement basé sur les compétences préparera les entreprises aux emplois axés sur les compétences de demain et créera une économie à laquelle tous les Américains pourront participer de manière significative à l’avenir.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!