Warum sind so viele Menschen verärgert über das New Yorker KI-Einstellungsgesetz?

Eine überwältigende Mehrheit der Menschen war empört über die Gesetze zur künstlichen Intelligenz und zur Einstellung von Mitarbeitern, die letzte Woche in New York City in Kraft traten. Dieses Gesetz ist das erste KI-Gesetz in den Vereinigten Staaten, daher wird die Art und Weise, wie es umgesetzt wird, Lehren und Leitlinien für andere Städte liefern, die KI-Politik und -Debatte entwickeln. Wie New York erwägen auch andere US-Bundesstaaten die Aufnahme von KI-Einstellungsbestimmungen in das europäische Gesetz über künstliche Intelligenz.

Der Einsatz künstlicher Intelligenz bei der Personalbeschaffung hat Kritik hervorgerufen, da Automatisierung vorhanden ist und bestehende rassistische und geschlechtsspezifische Vorurteile verstärken kann. Es hat sich gezeigt, dass KI-Systeme weiße, männliche und körperbehinderte Kandidaten bei der Bewertung ihrer Mimik und Sprache bevorzugen.

Dieses Problem verdient Aufmerksamkeit, da die meisten Unternehmen künstliche Intelligenz mindestens einmal im Rekrutierungsprozess eingesetzt haben. Charlotte Burrows, Vorsitzende der US-amerikanischen Equal Employment Opportunity Commission, sagte auf einer Sitzung im Januar 2023, dass bis zu 80 % der Unternehmen irgendeine Form von automatisierten Tools nutzen, um Einstellungsentscheidungen zu treffen.

Der New Yorker Automated Employment Decision Tool Act, der am 5. Juli in Kraft trat, schreibt vor, dass Arbeitgeber, die künstliche Intelligenz bei der Personalbeschaffung einsetzen, Kandidaten wahrheitsgemäß darüber informieren müssen, dass sie dies tun. Um zu beweisen, dass ihre Systeme nicht rassistisch oder sexistisch sind, benötigen sie jährliche unabhängige Audits. Arbeitssuchende können potenzielle Arbeitgeber um Informationen über die Erhebung und Analyse von Daten im Zusammenhang mit dieser Technologie bitten. Bei Verstößen drohen Geldstrafen von bis zu 1.500 US-Dollar.

(Quelle: STEPHANIE ARNETT/MITTR | GETTY)

Befürworter des Gesetzes sagen, es sei ein guter, wenn auch noch nicht perfekter Anfang, um künstliche Intelligenz zu regulieren und einige der Schäden und Risiken, die mit ihrem Einsatz einhergehen, abzumildern. Wir bitten Unternehmen, einen genaueren Blick auf die von ihnen verwendeten Algorithmen zu werfen, um festzustellen, ob die Technologie versehentlich Frauen oder farbige Menschen diskriminiert.

Dies ist ein seltener, aber erfolgreicher Fall, und aus Sicht der US-amerikanischen Regulierungspolitik für künstliche Intelligenz sehen wir möglicherweise relevantere lokale Vorschriften. Klingt vielversprechend, oder?

Aber dieses Gesetz stieß auf große Kontroversen. Öffentliche Interessengruppen und Bürgerrechtsaktivisten sagen, der Gesetzentwurf sei weder durchsetzbar noch weitreichend genug, während Unternehmen, die ihn einhalten müssen, argumentieren, er sei unpraktisch und belastend.

Das Center for Democracy & Technology (Center for Democracy & Technology), das Surveillance Technology Oversight Project (S.T.O.P.) und andere Organisationen sind der Ansicht, dass das Gesetz „nicht ausreichend inklusiv“ ist und die Gefahr besteht, dass bei der Personalbeschaffung viele automatisierte Systeme, einschließlich der Verwendung von, nicht eingesetzt werden Ein KI-gestütztes System, das Tausende von Kandidaten überprüft.

Angesichts der Tatsache, dass die relevante Wirtschaftsprüfungsbranche derzeit noch unreif ist, sind die Ergebnisse unabhängiger Prüfungen hinsichtlich ihrer wichtigeren Aspekte ungewiss. Die BSA – eine einflussreiche Technologiehandelsgruppe, zu deren Mitgliedern Adobe, Microsoft und IBM gehören – reichte im Januar 2023 in New York City Kommentare ein, in denen sie das Gesetz kritisierte und argumentierte, dass Prüfungen durch Dritte „nicht durchführbar“ seien.

Albert Fox Cahn, Geschäftsführer von S.T.O.P., sagte: „Die entscheidende Frage ist, wie Prüfer Informationen über das Unternehmen erhalten und inwieweit sie tatsächlich prüfen können, wie das Unternehmen geführt wird, uns fehlt jedoch eine Reihe von Prüfern.“ allgemein anerkannte Rechnungslegungsgrundsätze, ganz zu schweigen von Steuer- und Prüfungsregeln.“

Laut Kahn könnte dieses Gesetz zu einem falschen Sicherheitsgefühl in Bezug auf künstliche Intelligenz und den Einstellungsprozess führen. Er sagte: „Dies ist ein Feigenblatt, das nur verwendet wird, um zu zeigen, dass es Schutzmaßnahmen gibt, und in der Praxis glaube ich nicht, dass ein Unternehmen dafür zur Verantwortung gezogen wird, dass dies gesetzlich verankert ist.“

Wichtig ist, dass bei obligatorischen Audits beurteilt wird, ob die Ergebnisse von KI-Systemen auf bestimmte Personengruppen ausgerichtet sind. Dabei wird eine Kennzahl namens „Impact Ratio“ verwendet, um festzustellen, ob die „Auswahlrate“ der Technologie für verschiedene Gruppen unterschiedlich ist.

Prüfungen müssen nicht versuchen festzustellen, wie Algorithmen Entscheidungen treffen, und das Gesetz umgeht die Frage der „Erklärbarkeit“ bei komplexen Formen des maschinellen Lernens wie Deep Learning. Wie Sie sich vorstellen können, sind diese Versäumnisse unter KI-Experten zu einem heißen Diskussionsthema geworden.

In den Vereinigten Staaten wird es bis zur Bundesgesetzgebung möglicherweise weitere lokale Gesetze geben, die künstliche Intelligenz wie dieses regeln, wobei die meisten davon auf eine bestimmte Anwendung der Technologie abzielen. Durch die Auseinandersetzung mit diesen lokalen rechtlichen Kontroversen können wir aufzeigen, wie sich Definitionen von KI-Tools, Sicherheitsmechanismen und Durchsetzung in den kommenden Jahrzehnten entwickeln werden. New Jersey und Kalifornien erwägen bereits ähnliche Gesetze.

Unterstützung: Ren

Das obige ist der detaillierte Inhalt vonWarum sind so viele Menschen verärgert über das New Yorker KI-Einstellungsgesetz?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!