なぜこれほど多くの人がニューヨークの AI 雇用法に対して怒っているのでしょうか?

先週ニューヨーク市で施行された人工知能と雇用に関する法律に対して、圧倒的な数の人々が激怒しました。この法律は米国初の AI 法であるため、その施行方法は、AI 政策や議論を展開している他の都市に教訓と指針を与えることになります。ニューヨークと同様、米国の他の州も欧州人工知能法にAI雇用規定を組み込むことを検討している。

人材採用における人工知能の使用は、自動化の存在と、既存の人種や性別による偏見を強化する可能性があるため、批判を引き起こしています。 AI システムは、表情や言語を評価する際に、白人、男性、健常者の候補者を優先することが示されています。

ほとんどの企業が採用プロセスで少なくとも一度は人工知能を使用しているため、この問題は注目に値します。米国雇用機会均等委員会のシャーロット・バローズ委員長は、2023年1月の会合で、80％もの企業が採用の意思決定に何らかの自動化ツールを使用していると述べた。

7 月 5 日に発効したニューヨーク市の自動雇用決定ツール法では、採用活動に人工知能を使用する雇用主は、その旨を候補者に正直に通知する必要があると規定しています。彼らのシステムが人種差別や性差別ではないことを証明するには、毎年独立した監査が必要です。求職者は、潜在的な雇用主に、このテクノロジーに関連するデータの収集と分析に関する情報を求めることができます。違反には最高 1,500 ドルの罰金が科せられます。

(出典: STEPHANIE ARNETT/MITTR | GETTY)

この法律の支持者らは、たとえ完璧ではないとしても、人工知能を規制し、その使用に伴う危害やリスクの一部を軽減する上で、この法律は良いスタートだと主張している。企業は、そのテクノロジーが女性や有色人種を不注意に不当に差別していないかどうかを判断するために、使用しているアルゴリズムをより深く検討することが求められている。

これはまれではあるが成功した事例であり、米国の人工知能規制政策の観点から見ると、より関連性の高い現地の規制が見られる可能性があります。期待できそうですね?

しかし、この法律は非常に物議を醸しています。公益団体や公民権運動家らは、この法案には強制力がなく、十分な範囲が広がっていないと主張する一方、遵守すべき企業は非現実的で負担が大きいと主張している。

民主主義と技術センターや監視技術監視プロジェクト (S.T.O.P.) などの組織は、この法律は「包括的で不十分」であり、採用活動において人工知能を使用したシステムを含む多くの自動化システムの使用が見逃される危険性があると主張しています。何千人もの候補者。

関連する監査業界が現在未成熟であることを考慮すると、独立監査の結果は不確実な側面の方が重要である。アドビ、マイクロソフト、IBMなどが会員となっている影響力のある技術業界団体であるBSAは、第三者による監査は「実行不可能」であると主張し、同法を批判するコメントを2023年1月にニューヨーク市に提出した。

S.T.O.P.エグゼクティブディレクターのアルバート・フォックス・カーン氏は、「重要な問題は、監査人が企業情報をどのように入手するのか、そして実際に企業の経営方法をどの程度尋問できるのかということだ。当社は財務監査人を雇用しているが、普遍的に受け入れられる一連の会計原則を欠いている」と述べた。税法や監査規則は言うに及ばず。」

カーン氏によると、この法律は人工知能と雇用プロセスに対する誤った安心感をもたらす可能性があるとのこと。同氏は、「これは保護が存在することを示すためにのみ使用されるイチジクの葉であり、実際には、これが法律で定められた結果としてどの企業も責任を問われることはないと思います。」と述べた。

重要なのは、必須の監査では、AI システムの出力が特定の人々のグループに対して偏っていないかどうかを評価する必要があるということです。その際、テクノロジーの「選択率」がグループによって異なるかどうかを判断するために、「影響率」として知られる指標を使用します。グループ化する。

監査はアルゴリズムがどのように意思決定を行うかを判断する必要がなく、法律は深層学習などの複雑な形式の機械学習における「説明可能性」の問題を回避します。ご想像のとおり、これらの省略は AI 専門家の間で熱い議論のテーマとなっています。

米国では、連邦法が制定されるまでの間、この種の人工知能を規制する現地法がさらに制定される可能性があります。そのほとんどは、テクノロジーの 1 つの特定の用途を対象としています。こうした地域の法的論争に取り組むことで、AI ツール、セキュリティ メカニズム、および施行の定義が今後数十年間でどのように進化するかを明らかにすることができます。ニュージャージー州とカリフォルニア州はすでに同様の法律を検討している。

サポート: レン

以上がなぜこれほど多くの人がニューヨークの AI 雇用法に対して怒っているのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。