Wie man KI-Bias auf faire Weise verhindert

Künstliche Intelligenz (KI) hat großes Potenzial, Geschäftsabläufe zu revolutionieren. Tatsächlich ergab eine Studie, dass 67 % der Unternehmen damit rechnen, dass die Anwendungsfälle von KI und maschinellem Lernen im kommenden Jahr zunehmen werden. Diese Technologien bieten Vorteile bei der Verbesserung der Geschäftseffizienz, der Generierung von Erkenntnissen, der Verbesserung der Wettbewerbsfähigkeit auf dem Markt und der Bereitstellung personalisierter Kundenerlebnisse.

In stark regulierten Branchen stehen Unternehmen jedoch vor besonderen Herausforderungen im Zusammenhang mit der Erklärbarkeit von KI. Branchen wie Finanzdienstleistungen, Versicherungen und Gesundheitswesen müssen transparente, überprüfbare Entscheidungsplattformen nutzen, um strenge Vorschriften und Compliance-Standards einzuhalten. Heutzutage gibt es viele Lösungen für künstliche Intelligenz, die Geschäftsprozesse und Entscheidungen automatisieren, aber nur wenige davon liefern aussagekräftige Erklärungen. Obwohl Unternehmen voller Potenzial sind, dürfen sie niemals das Warum hinter automatisierten Entscheidungen und Vorhersagen aus den Augen verlieren.

Bereiten Sie sich auf zukünftige Vorschriften vor

Politische Organisationen und die Gesellschaft fordern heute gleichermaßen mehr Transparenz in der KI. Darüber hinaus wünschen sich Regierungen und Verbraucher einen besseren Einblick in die Algorithmen hinter ihren Kredit- und Kreditgenehmigungen, Marketingkampagnen und Smart-Home-Technologien. Die vorgeschlagenen Gesetze im US-amerikanischen Algorithmic Accountability Act und im globalen EU-KI-Gesetz zielen darauf ab, Standards für sichere, ethische und transparente KI-Ergebnisse festzulegen. Allerdings fangen Regierungen gerade erst an, Wege zur Regulierung von KI zu finden, da sich Anwendungsfälle noch weiterentwickeln und entstehen.

Zum Beispiel hat der New Yorker Stadtrat einen Gesetzentwurf verabschiedet, der auf Algorithmen für künstliche Intelligenz abzielt, die in Beschäftigungstools verwendet werden. Das Gesetz, das 2023 in Kraft tritt, verpflichtet Arbeitgeber, unabhängige Prüfer mit der Durchführung von Beurteilungen sowie Tools der künstlichen Intelligenz zur Bewertung von Bewerbern und aktuellen Mitarbeitern zu beauftragen. Das Gesetz schreibt voreingenommene Prüfungen von Tools der künstlichen Intelligenz vor, die zur Überprüfung von Bewerbern oder zur Beförderung von Mitarbeitern eingesetzt werden. Für voreingenommene KI-Algorithmen oder die Verwendung solcher Tools ohne vorherige Benachrichtigung von Mitarbeitern und Kandidaten werden Geldstrafen von bis zu 1.500 US-Dollar verhängt. Kurzfristig sollten sich Unternehmen im Zuge der Einführung von Vorschriften und der Weiterentwicklung von Standards auf Möglichkeiten konzentrieren, die Transparenz zu erhöhen und sich auf zukünftige Vorschriften vorzubereiten.

Eine Herausforderung beim Einsatz von maschinellem Lernen besteht darin, dass es per Definition auf Vorurteilen aufbaut. Auch wenn nicht jede Voreingenommenheit schädlich ist, wenn sie zu Ergebnissen führt, die eine geschützte Klasse, wie Geschlecht, Rasse, Alter usw., begünstigen oder benachteiligen, und sich negativ auf eine Person auswirkt, wie etwa die Genehmigung klinischer Studien, Gesundheitsmanagement, Kredite Nachteilig wird es, wenn Qualifikationen oder Leistungspunkte anerkannt werden.

Die Notwendigkeit, Algorithmen zu schützen und schädliche Vorurteile zu verhindern, ist allgemein bekannt. Um schädliche Voreingenommenheit wirksam zu bekämpfen, ist es jedoch erforderlich, die Daten zu verstehen, die hinter jeder Entscheidung oder Vorhersage stehen. Um entscheidende Transparenz zu erlangen, müssen Unternehmen Einblick in die Algorithmen haben, die aus maschinellem Lernen und Geschäftsregeln bestehen, die Entscheidungen vorantreiben, um einen vollständigen Prüfpfad bereitzustellen. Beispielsweise müssen Versicherungsunternehmen, die KI zur Schadensgenehmigung einsetzen, in der Lage sein, klar zu erklären, warum jede Entscheidung getroffen wurde.

Wie das „Black-Box“-Problem die KI-Innovation belastet

Bei künstlicher Intelligenz stehen viele Unternehmen vor dem Problem, dass ihre KI-Lösungen Vorhersagen liefern und Automatisierung ermöglichen, aber nicht erklären können, warum sie eine bestimmte Entscheidung treffen und Faktoren festlegen, die das Ergebnis beeinflussen Das Unternehmen läuft Gefahr, erheblichen Rechts- oder Reputationsschaden zu erleiden.

Unternehmen müssen in der Lage sein, die Gründe für die Ergebnisse klar zu erkennen, um sicherzustellen, dass algorithmische Entscheidungen die erwarteten Ergebnisse liefern. Die Umwandlung der Black Box der KI in eine transparente, erklärbare „Glasbox“ ist entscheidend, um Schäden für Kunden und Verbraucher zu verhindern und Risiken für Unternehmen und Marken zu verringern.

Im Wesentlichen trifft maschinelles Lernen Vorhersagen auf der Grundlage historischer Daten. „Fairness durch Bewusstsein“ bezieht sich auf einen Ansatz, der es Unternehmen ermöglicht, mithilfe von Metadatenfeldern festzustellen, ob ein Modell für verschiedene Gruppen mit einem gemeinsamen Merkmal gleich gut funktioniert, auch wenn dieses Merkmal nicht direkt im Modell verwendet wird. Dieses Bewusstsein hilft Unternehmen, schädliche Vorurteile zu vermeiden, zu quantifizieren und abzumildern, bevor sie zu unfairen oder schädlichen Entscheidungen führen.

Eine klare Vision für die Zukunft der Unternehmens-KI

Da KI zunehmend im gesamten Unternehmen eingesetzt wird, müssen Unternehmen Transparenz und Überprüfbarkeit bei der KI anstreben, um sicherzustellen, dass die Ergebnisse nicht durch schädliche Verzerrungen beeinträchtigt werden. Nur wenn wir erklärbare, transparente KI-Lösungen priorisieren und implementieren, können wir schädliche Vorurteile reduzieren, Risiken reduzieren und Vertrauen fördern.

Während die kompetenzbasierte Personalbeschaffung immer beliebter wird, bestehen weiterhin Mythen über die Wirksamkeit und die Vorzüge dieser Praxis. Die Beseitigung dieser Missverständnisse ist der Schlüssel zur Förderung der notwendigen Veränderungen zur Schaffung einer gerechteren und nachhaltigeren Belegschaft.

Leben für Absolventen

Der US-Arbeitsmarkt wird sich im Jahr 2022 weiter anpassen. Eine Umfrage unter mehr als 2.300 Führungskräften ergab, dass 65 % damit rechnen, im ersten Halbjahr des Jahres neue Festanstellungen zu schaffen. Außerdem konkurrieren 33 % der Menschen um die Besetzung offener Stellen, und derzeit gibt es in den Vereinigten Staaten mehr als 10,8 Millionen offene Stellen. Herkömmliche Rekrutierungspraktiken sind kein praktikables Mittel, um den Personalbedarf zu decken. Unternehmen müssen ihren Ansatz modernisieren, um wettbewerbsfähig zu bleiben. Das bedeutet, eine kompetenzbasierte Einstellung zu fördern.

Bei der kompetenzbasierten Einstellung stehen die technischen Fähigkeiten und Kernkompetenzen der Kandidaten im Vordergrund und nicht Abschlüsse oder Zertifikate als die wichtigsten Faktoren für den beruflichen Erfolg. Dieser Ansatz erfordert, dass das Einstellungsteam die erforderlichen und bevorzugten Fähigkeiten für eine Rolle definiert und diese Fähigkeiten objektiv bewertet, um Verzerrungen im Einstellungsprozess zu minimieren.

Führende Unternehmen wenden sich zunehmend der kompetenzbasierten Einstellung zu. Im Folgenden diskutieren wir einige der größten Mythen über die Einführung eines kompetenzbasierten Ansatzes und wie man sie angeht, um einen kulturellen Wandel in Ihrem Unternehmen voranzutreiben.

1. Eine kompetenzbasierte Einstellung ist gegenüber Hochschulabsolventen unfair.

Bei der kompetenzbasierten Einstellung geht es nicht darum, Hochschulabsolventen von der Berücksichtigung auszuschließen oder Eintrittsbarrieren zu senken. Es geht darum, die spezifischen Fähigkeiten zu artikulieren, die der Abschluss repräsentiert. Dadurch können sowohl Hochschulabsolventen als auch Arbeitssuchende, die ihre Fähigkeiten auf andere Weise erworben haben, für die Stelle in Betracht gezogen werden. Dies trägt zur Demokratisierung der wirtschaftlichen Chancen für alle bei und erweitert den Talentpool, der den Unternehmen zur Verfügung steht.

Positionen, die in der Vergangenheit keine akademischen Qualifikationen erforderten, erfordern nun einen vierjährigen akademischen Abschluss, was die Prestigewirtschaft ankurbelt und dazu führt, dass Unternehmen mehr Kosten zahlen müssen. Durch dieses Modell werden viele einst aufstrebende Arbeitsplätze für alle unerreichbar und stehen nur denjenigen zur Verfügung, die sich die steigenden Kosten einer Hochschulbildung leisten können. Es schließt auch Talente aus einkommensschwachen Gemeinschaften aus, insbesondere farbige Menschen. Eine kompetenzbasierte Einstellung bietet eine praktische Möglichkeit, diese Ungleichheit anzugehen und stellt die Kandidatur für 66 % der Amerikaner ohne Bachelor-Abschluss wieder her, darunter mehr als 75 % der Schwarzen und mehr als 80 % der Hispanoamerikaner.

2. Eine kompetenzbasierte Einstellung führt zu schlechten Einstellungen und schadet dem Unternehmen.

Die Einführung eines kompetenzbasierten Ansatzes ermöglicht eine effektivere Auswahl und Rekrutierung von Kandidaten. Eine kompetenzbasierte Einstellung ist fünfmal aussagekräftiger für die zukünftige Leistung als eine bildungsbasierte Einstellung und 2,5-mal aussagekräftiger als eine erfahrungsbasierte Einstellung. Darüber hinaus berichten viele Unternehmen, dass Mitarbeiter ohne Abschluss genauso produktiv sind wie Hochschulabsolventen, in manchen Fällen sogar noch produktiver.

Zu den weiteren Vorteilen einer kompetenzbasierten Einstellung gehören: verkürzte Einstellungszeit, höheres Mitarbeiterengagement und geringere Fluktuation.

3. Kompetenzbasierte Rekrutierung ist keine realistische Strategie zur Talentakquise.

Vielleicht nicht in der Vergangenheit. In der Vergangenheit haben Recruiting-Teams bei der Rekrutierung eine hyperlokale Perspektive eingenommen. Angesichts der zunehmenden Telearbeit können Unternehmen eine umfassendere Kandidatensuche starten, um Personen zu finden, die den Marktkompetenzanforderungen entsprechen.

Aus makroökonomischer Sicht könnte dies wie die Bildung von Partnerschaften mit Personalentwicklungsunternehmen in unterfinanzierten Bereichen aussehen, um eine Pipeline von Kandidaten mit unterschiedlichen Fähigkeiten für die Besetzung von Remote-Rollen aufzubauen. Durch diese Partnerschaften können Unternehmen gleichzeitig Geschäftsergebnisse und wirtschaftliche Gerechtigkeit steigern.

Während die Konzeption und Einführung einer kompetenzbasierten Personalbeschaffung Zeit braucht und bewusstes Lernen und Loslassen erfordert, werden Ihr Unternehmen, Ihre Mitarbeiter und Ihre Gemeinschaft letztendlich davon profitieren. Wenn Sie jetzt in kompetenzbasierte Einstellungen investieren, bereiten Sie Unternehmen auf die kompetenzorientierten Arbeitsplätze der Zukunft vor und schaffen eine Wirtschaft, an der alle Amerikaner sinnvoll an der Zukunft teilhaben können.

Das obige ist der detaillierte Inhalt vonWie man KI-Bias auf faire Weise verhindert. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!