为什么很多人对纽约《人工智能招聘法》感到生气？

绝大多数人上周对纽约市生效的人工智能和招聘法律感到愤怒。这项法律是美国的首个人工智能法律，因此它的实施方式将为其他城市开展人工智能政策和辩论提供经验和指导。像纽约州那样，美国其他州也在考虑将人工智能招聘规定纳入欧洲《人工智能法案》之中。

由于存在自动化以及加强现有种族和性别偏见的方式，招聘中使用人工智能引发了批评。已证实人工智能系统在评估候选人的面部表情和语言时倾向于优先考虑白人、男性和身体健全的候选人。

这个问题值得关注，因为多数公司在招聘过程中都至少使用过一次人工智能。美国平等就业机会委员会主席夏洛特·布罗斯（Charlotte Burrows）在 2023 年 1 月份的一次会议上表示，多达 80% 的公司使用某些自动化工具来做出招聘决策。

纽约市 7 月 5 号生效的《自动化招聘决策工具法》（Automated Employment Decision Tool）规定，在招聘中使用人工智能的雇主必须如实告知候选人他们正在这样做。为了证明他们的系统没有种族主义或性别歧视，他们需要每年进行独立审计。求职者可以要求潜在雇主提供有关该技术所涉及数据的收集和分析方面的信息。违规行为将被处以最高 1500 美元的罚款。

（来源：STEPHANIE ARNETT/MITTR | GETTY）

该法律的支持者表示，对于监管人工智能和减轻其使用带来的一些危害和风险而言，这是一个好的开始，即使它并不完美。要求公司更深入了解他们所使用的算法，以确定该技术是否无意中对女性或有色人种产生不公平的歧视。

这是一个罕见但成功的案例，从美国人工智能监管政策的角度来看，我们可能会看到更多相关的地方规定。听起来很有希望，对吧？

但这项法律遭到了巨大的争议。公共利益团体和民权倡导者表示，该法案的可执行性和广泛性都不够，而必须遵守该法案的企业则辩称，该法案不切实际，会带来沉重的负担。

民主与技术中心（Center for Democracy & Technology）、监控技术监督项目（S.T.O.P.，Surveillance Technology Oversight Project）等组织认为，该法律“包容性不足”，有可能遗漏招聘中许多自动化系统的使用，包括使用人工智能筛选数千名候选人的系统。

鉴于相关审计行业目前尚未成熟，对独立审计的结果尚不确定的是其更重要的方面。BSA——一个有影响力的科技贸易组织，其成员包括 Adobe、微软和 IBM——于 2023 年 1 月向纽约市政府提交了批评该法律的评论，认为第三方审计是“不可行的”。

S.T.O.P.执行董事阿尔伯特·福克斯·卡恩（Albert Fox Cahn）表示：“关键问题是，审计师将以何种方式获取公司信息，以及他们真正能够在何种程度上质询公司的运营方式。尽管我们雇佣了财务审计师，但我们却缺乏一套被普遍接受的会计原则，更不用说税法和审计规则了。”

根据卡恩的观点，这项法律可能会导致人们对人工智能和招聘流程形成虚假的安全感。他说：“这是一个遮羞布，仅用来证明保护措施是存在的，而在实践中，我不认为任何一家公司会因为这被纳入法律而被追究责任。”

重要的是，强制审计必须评估人工智能系统的输出是否对特定人群持有偏见，这会用到一种被称为“影响比”的指标来确定该技术的“选择率”是否因不同群体而异。

审计不需要尝试确定算法如何做出决策，法律也回避了深度学习等复杂形式的机器学习中的“可解释性”问题。正如你所想象的，这些遗漏之处成为了人工智能专家争论的热点。

在美国，在等待联邦立法的过程中，我们可能会看到更多此类人工智能监管的地方法律，这些法律大多针对该技术的一个特定应用。通过参与这些地方法律的争议，我们才能揭示未来几十年中人工智能工具、安全机制和执法的定义将如何演变。新泽西州和加利福尼亚州已经在考虑类似的法律。

支持：Ren

以上是为什么很多人对纽约《人工智能招聘法》感到生气？的详细内容。更多信息请关注PHP中文网其他相关文章！