L'outil open source FACET de Meta pour évaluer les préjugés raciaux et sexistes dans les modèles d'IA

IT House a rapporté le 2 septembre que, afin d'atténuer le problème des préjugés systémiques à l'égard des femmes et des personnes de couleur dans de nombreux modèles actuels de vision par ordinateur, a récemment lancé un nouvel outil d'IA appelé FACET pour identifier les systèmes de vision par ordinateur.

L'outil FACET est actuellement formé sur 30 000 images, dont des images de 50 000 personnes. Il améliore notamment la perception du sexe et de la couleur de la peau et peut être utilisé pour évaluer des modèles de vision par ordinateur sur diverses caractéristiques.

Après la formation, l'outil FACET est capable de répondre à des questions complexes. Par exemple, lorsque le sujet est reconnu comme étant de sexe masculin, il peut identifier davantage les skateurs, ainsi que les peaux claires ou foncées

Meta utilise FACET pour évaluer le modèle DINOv2 et le modèle SEERv2 développés par la société, ainsi que le modèle OpenCLIP d'OpenAI. Dans l'ensemble, OpenCLIP est plus performant que les autres modèles en termes de sexe, tandis que DINOv a de meilleures performances en termes d'âge et de couleur de peau.

L'open source FACET aidera les chercheurs à effectuer des analyses comparatives similaires pour comprendre les biais de leurs propres modèles et surveiller l'impact des mesures d'atténuation prises pour répondre aux problèmes d'équité. IT House joint ici l'adresse du communiqué de presse Meta, et les utilisateurs intéressés peuvent la lire en profondeur. FACET, un logiciel open source, aidera les chercheurs à effectuer des analyses comparatives similaires pour comprendre les biais présents dans leurs modèles et surveiller l'impact de l'adoption de mesures de résolution équitable. IT House fournit un lien vers le communiqué de presse de Meta ici. Les utilisateurs intéressés peuvent le lire en profondeur

.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!