Sagen Sie Nein zu Vorurteilen und Ungleichheit! Microsoft stellt den umstrittenen Gesichtserkennungsdienst ein

Microsoft Corp. kündigte an, den Zugriff auf einige seiner auf künstlicher Intelligenz basierenden Gesichtserkennungstools auslaufen zu lassen, darunter einen Dienst, der Emotionen anhand von Videos und Bildern erkennt.

Als Microsoft diese Entscheidung vor einigen Tagen bekannt gab, veröffentlichte es auch einen 27-seitigen „Responsible Artificial Intelligence Standard“, der die Ziele von Microsoft fair erläutert und vertrauenswürdige künstliche Intelligenz. Um diese Standards zu erfüllen, hat Microsoft den Zugriff auf einige Gesichtserkennungstools eingeschränkt, einschließlich derjenigen, die von seinen Diensten AzureFace API, Computer Vision und Video Indexer bereitgestellt werden.

Microsoft sagte, dass neue Benutzer nicht die Möglichkeit haben werden, diese Funktionen zu nutzen, während bestehende Kunden sie bis Ende dieses Jahres nicht mehr nutzen müssen.

Gesichtserkennungstechnologie ist für Bürgerrechts- und Datenschutzgruppen zu einem großen Problem geworden. Frühere Untersuchungen haben gezeigt, dass die Gesichtserkennungstechnologie alles andere als perfekt ist und häufig weibliche Personen und Menschen mit dunklerer Haut unverhältnismäßig häufig falsch identifiziert. Dies könnte zu erheblichen potenziellen Problemen führen, wenn KI zur Identifizierung krimineller Verdächtiger und in anderen Überwachungssituationen eingesetzt wird.

Der Einsatz von Tools der künstlichen Intelligenz zur Erkennung von Emotionen ist noch umstrittener. Anfang des Jahres kündigte Zoom Video Communications Inc. an, über die Einführung von Funktionen für „emotionale künstliche Intelligenz“ nachzudenken, und die Datenschutzgruppe Fight for the Future startete eine Kampagne, in der sie Zoom aufforderte, dies nicht zu tun, da befürchtet wurde, dass die Technologie missbraucht werden könnte.

Die Kontroverse um die Gesichtserkennung hat die Aufmerksamkeit von Technologieunternehmen auf sich gezogen, da Amazon Web Services Inc. und die Facebook-Muttergesellschaft Meta Platforms Inc. beide den Einsatz solcher Tools zurückgefahren haben.

Natasha Crampton, Chefin für künstliche Intelligenz bei Microsoft, sagte in einem Blogbeitrag, dass Microsoft anerkennt, dass ein künstliches Intelligenzsystem nur dann vertrauenswürdig ist, wenn das künstliche Intelligenzsystem eine angemessene Lösung für das Problem darstellt soll lösen. Die Gesichtserkennung sei eine ungeeignete Lösung, sagte Crampton, und Microsoft werde seinen Azure-Dienst einstellen, der „emotionale Zustands- und Identitätsattribute wie Geschlecht, Alter, Lächeln, Gesichtsbehaarung, Haare und Make-up“ ableitet.

Sie sagte auch: „KI-Systeme haben das Potenzial, soziale Voreingenommenheit und Ungleichheit zu verschärfen, was wohl einer der bekanntesten mit diesen Systemen verbundenen Schäden ist.“ Wir sehen Anzeichen dafür, dass die Maßnahmen der Regierung im Bereich der künstlichen Intelligenz ausgeweitet werden, aber wir erkennen auch an, dass wir die Verantwortung haben, zu handeln.“ Die Meinungen darüber, ob es eine gute Entscheidung war, sind geteilt. Charles King von Pund-IT erklärte gegenüber Reportern, dass neben der Kontroverse um die Gesichtserkennungstechnologie auch die Ergebnisse von Klassifizierungs- und Profilierungstools für künstliche Intelligenz oft unbefriedigend seien und selten die von ihren Entwicklern behaupteten Ergebnisse erzielten. „Ebenso wichtig“, sagte King, „werden Flüchtlinge und farbige Menschen, die ein besseres Leben suchen, an so vielen Orten angegriffen, und das Potenzial für den Missbrauch von Profiling-Tools ist sehr hoch. Daher glaube ich, dass Microsoft die Verwendung dieser Tools einschränkt.“ Art von Tool.“ Die Entscheidung macht absolut Sinn. Rob Enderle von der Enderle Group sagte, es sei enttäuschend, dass Microsoft von der Gesichtserkennung abweicht, einem Tool, das von seinen vielen frühen Fehlern weit entfernt ist. Er sagte, die negative Publizität rund um die Gesichtserkennung habe einige große Unternehmen gezwungen, sich von diesem Bereich fernzuhalten.

Enderle sagte: „KI-basierte Gesichtserkennungstechnologie ist zu wertvoll, um Kriminelle, Terroristen und Spione zu fangen, daher werden Regierungsbehörden nicht aufhören, diese Technologie zu nutzen. Microsoft Der Rückschlag bedeutet jedoch, dass sie enden werden.“ Die Verwendung von Tools von spezialisierten Verteidigungsunternehmen oder ausländischen Anbietern, die wahrscheinlich nicht so effektiv sind und denen die gleichen Kontrollen fehlen, die den Völkermord an der Gesichtserkennungstechnologie ausgelöst haben, wird verhindern, dass die gesamte Gesellschaft davon profitiert.“#🎜🎜 #

Microsoft sagte, dass seine verantwortungsvollen Standards für künstliche Intelligenz nicht auf die Gesichtserkennung beschränkt seien. Microsoft wird diese Standards auch auf Azure AI Custom Neural Speech anwenden, einen Speech-to-Text-Dienst, der zur Unterstützung von Transkriptionstools verwendet werden kann. Microsoft erklärte, dass eine Studie vom März 2020 ergab, dass afroamerikanische und schwarze Gemeinschaften bei der Verwendung der Software höhere Fehlerraten aufwiesen, und vor diesem Hintergrund hat Microsoft Schritte unternommen, um die Software zu verbessern.

Das obige ist der detaillierte Inhalt vonSagen Sie Nein zu Vorurteilen und Ungleichheit! Microsoft stellt den umstrittenen Gesichtserkennungsdienst ein. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!