Meta veröffentlicht FACET-Datensatz zur Bewertung der KI-Fairness

Nachrichten vom 4. September: Meta hat kürzlich einen Open-Source-Datensatz namens FACET veröffentlicht, der Forschern dabei helfen soll, Vorurteile in Computer-Vision-Modellen zu prüfen.

In einem Blogbeitrag erläuterte Meta, dass es schwierig sei, die Fairness von KI mithilfe aktueller Benchmarking-Methoden zu beurteilen. Laut Meta wird FACET diese Aufgabe vereinfachen, indem es einen großen Bewertungsdatensatz bereitstellt, den Forscher zur Prüfung verschiedener Arten von Computer-Vision-Modellen verwenden können.

Meta-Forscher führen in einem Blogbeitrag ausführlich aus: „Der Datensatz besteht aus 32.000 Bildern von 50.000 Personen, die von erfahrenen menschlichen Annotatoren mit demografischen Attributen wie wahrgenommener Geschlechtsdarstellung, wahrgenommener Altersgruppe, zusätzlichen physischen Attributen wie wahrgenommener Hautfarbe, Frisur, und personenbezogene Kategorien wie Basketballspieler, Ärzte usw. FACET enthält auch Personen-, Haar- und Kleidungsetiketten für 69.000 Masken in SA-1B. Computer-Vision-Modelle verarbeiten Fotos in FACET, um auf Fairness-Probleme zu prüfen. Von dort aus können sie Analysen durchführen, um festzustellen, ob die Genauigkeit der Modellergebnisse von Foto zu Foto variiert. Diese Abweichung in der Genauigkeit könnte ein Zeichen dafür sein, dass die KI voreingenommen ist.

Forscher können diesen Datensatz verwenden, um Verzerrungen in neuronalen Netzen zu erkennen, die für die Klassifizierung optimiert sind, also die Aufgabe, ähnliche Bilder zu gruppieren. Darüber hinaus erleichtert es die Bewertung von Objekterkennungsmodellen. Dieses Modell ist darauf ausgelegt, interessante Elemente auf Fotos automatisch zu erkennen.

FACET kann auch KI-Anwendungen prüfen, die Instanzsegmentierung und visuelle Erdung durchführen, zwei spezielle Objekterkennungsaufgaben. Bei der Instanzsegmentierung werden interessante Elemente in einem Foto hervorgehoben, beispielsweise durch das Zeichnen eines Rahmens um sie herum. Das Vision-Basismodell wiederum ist ein neuronales Netzwerk, das Fotos nach Objekten durchsucht, die Benutzer in natürlicher Sprache beschreiben.

Meta-Forscher sagten: „Während FACET nur zu Forschungsbewertungszwecken dient und nicht für Schulungen verwendet werden kann, besteht unser Ziel bei der Veröffentlichung des Datensatzes und des Datensatzbrowsers darin, dass FACET zu einem Standard-Benchmark für die Fairnessbewertung von Computer-Vision-Modellen werden kann.“

Das obige ist der detaillierte Inhalt vonMeta veröffentlicht FACET-Datensatz zur Bewertung der KI-Fairness. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!