왜 그렇게 많은 사람들이 뉴욕의 AI 채용법에 분노하고 있나요?

지난 주 뉴욕시에서 시행된 인공지능 및 고용법에 압도적인 다수의 사람들이 분노했습니다. 이 법은 미국 최초의 AI 법이므로 시행 방식은 AI 정책과 토론을 전개하는 다른 도시들에게 교훈과 지침을 제공할 것입니다. 뉴욕과 마찬가지로 미국의 다른 주에서도 AI 채용 조항을 유럽 인공지능법(European Artificial Intelligence Act)에 통합하는 것을 고려하고 있습니다.

채용에 인공 지능을 사용하는 것은 자동화의 존재와 기존 인종 및 성별 편견을 강화할 수 있는 방식으로 인해 비판을 불러일으켰습니다. AI 시스템은 얼굴 표정과 언어를 평가할 때 백인, 남성, 신체 건강한 후보자를 선호하는 것으로 나타났습니다.

이 문제는 대부분의 기업이 채용 과정에서 한 번 이상 인공지능을 사용해 왔기 때문에 주목할 만합니다. 미국 평등 고용 기회 위원회(U.S. Equal Employment Opportunity Commission) 의장인 Charlotte Burrows는 2023년 1월 회의에서 최대 80%의 기업이 채용 결정을 내리기 위해 어떤 형태로든 자동화된 도구를 사용한다고 말했습니다.

7월 5일 발효된 뉴욕시의 자동화된 고용 결정 도구법(Automated Employment Decision Tool Act)은 채용 시 인공지능을 사용하는 고용주는 채용에 인공지능을 사용한다는 사실을 후보자에게 진실되게 알려야 한다고 규정하고 있습니다. 그들의 시스템이 인종차별적이거나 성차별적이지 않다는 것을 증명하려면 매년 독립적인 감사가 필요합니다. 구직자는 잠재적 고용주에게 이 기술과 관련된 데이터 수집 및 분석에 대한 정보를 요청할 수 있습니다. 위반 시 최대 $1,500의 벌금이 부과됩니다.

(출처: STEPHANIE ARNETT/MITTR | GETTY)

법 지지자들은 완벽하지는 않더라도 인공 지능을 규제하고 인공 지능 사용에 따른 일부 피해와 위험을 완화하기 위한 좋은 시작이라고 말합니다. 기업들은 기술이 의도치 않게 여성이나 유색인종을 부당하게 차별하는지 여부를 판단하기 위해 사용하는 알고리즘을 더 자세히 조사해 달라는 요청을 받고 있습니다.

이것은 드물지만 성공적인 사례이며, 미국 인공지능 규제 정책 관점에서 볼 때 더 관련성이 높은 현지 규정을 볼 수 있습니다. 유망한 것 같죠?

그러나 이 법은 큰 논란에 부딪혔습니다. 공익 단체와 민권 옹호자들은 이 법안이 집행 가능하지도 않고 충분히 광범위하지도 않다고 말하는 반면, 이를 준수해야 하는 기업들은 이 법안이 비현실적이고 부담스럽다고 주장합니다.

민주주의 및 기술 센터(Center for Democracy & Technology), 감시 기술 감독 프로젝트(S.T.O.P.) 및 기타 조직에서는 해당 법률이 "부적절하게 포괄적"이며 채용 시 자동화 시스템 사용을 포함하여 많은 자동화 시스템을 사용하지 못할 위험이 있다고 믿습니다. 수천 명의 후보자를 선별하는 AI 기반 시스템입니다.

현재 관련 감사 산업이 미성숙한 상황에서, 독립 감사 결과에 대해 불확실한 점은 더 중요한 측면입니다. Adobe, Microsoft, IBM 등이 회원으로 포함되어 있는 영향력 있는 기술 무역 그룹인 BSA는 2023년 1월 뉴욕시에 제3자 감사가 "실행 불가능"하다고 주장하며 법을 비판하는 의견을 제출했습니다.

S.T.O.P.의 전무이사인 Albert Fox Cahn은 다음과 같이 말했습니다. “핵심 질문은 감사인이 회사에 대한 정보를 어떻게 얻을 수 있는지, 그리고 실제로 회사 운영 방식을 어느 정도까지 조사할 수 있는지입니다. 우리는 재무 감사인을 고용하지만 일련의 정보가 부족합니다. 세금 및 감사 규칙은 물론이고 보편적으로 인정되는 회계 원칙입니다.”

Kahn에 따르면 이 법은 인공지능과 채용 과정에 대한 잘못된 보안 인식으로 이어질 수 있습니다. 그는 "이것은 보호 조치가 존재함을 입증하기 위해서만 사용되는 무화과 잎이며 실제로는 이것이 법에 명시되어 있다고 해서 어떤 회사도 책임을 지지 않을 것이라고 생각합니다."라고 말했습니다.

중요하게, 필수 감사는 AI 시스템의 결과가 특정 그룹에 대해 편향되어 있는지 평가해야 합니다. 이는 "영향률"이라는 측정항목을 사용하여 기술의 "선택 비율"이 그룹마다 다른지 여부를 결정합니다.

감사에서는 알고리즘이 어떻게 결정을 내리는지 결정하려고 할 필요가 없으며 법은 딥 러닝과 같은 복잡한 형태의 기계 학습에서 "설명 가능성" 문제를 회피합니다. 상상할 수 있듯이 이러한 누락은 AI 전문가들 사이에서 뜨거운 논쟁 주제가 되었습니다.

미국에서는 연방법이 계류 중일 때 AI에 적용되는 현지 법률이 더 많이 나타날 수 있으며, 대부분은 기술의 특정 응용 프로그램을 대상으로 합니다. 이러한 현지 법적 논쟁에 참여함으로써 우리는 AI 도구, 보안 메커니즘 및 시행의 정의가 향후 수십 년 동안 어떻게 발전할 것인지 밝힐 수 있습니다. 뉴저지와 캘리포니아는 이미 유사한 법률을 고려하고 있습니다.

지원: 렌

위 내용은 왜 그렇게 많은 사람들이 뉴욕의 AI 채용법에 분노하고 있나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!