OpenAI CEO, 미국 상원 청문회에 참석해 AI 규제 개선 방법 논의

최근 구글은 생성 인공지능 기술을 본격적으로 개발하고 있습니다. 연례 I/O 컨퍼런스에서 회사는 Google Docs에서 프로그래밍, 온라인 검색에 이르기까지 거의 모든 제품에 AI 도구를 내장할 계획을 발표했습니다.

Google의 발표는 의미심장합니다. 이제 수십억 명의 사람들이 텍스트 생성부터 질문 답변, 코드 작성 및 디버깅에 이르기까지 다양한 작업을 완료하는 데 도움이 되는 강력한 최첨단 인공 지능 모델에 액세스할 수 있습니다. MIT Technology Review의 편집장인 Mat Honan이 I/O 컨퍼런스 분석에서 쓴 것처럼 인공지능이 이제 Google의 핵심 제품임이 분명합니다.

(출처: STEPHANIE ARNET/MITTR)

이 새로운 기능을 Google 제품에 점진적으로 도입하는 것이 그들의 접근 방식이지만 조만간 문제가 표면화될 것입니다. 회사는 이러한 AI 모델의 일반적인 문제를 해결하지 못했습니다. 그들은 여전히 ​​​​사람이 정한 규칙을 쉽게 조작하고 공격에 취약합니다. 허위 정보, 사기 및 스팸을 위한 생성 도구로 사용되는 것을 방지합니다.

이러한 유형의 AI 도구는 비교적 새로운 것이므로 여전히 대부분 규제되지 않습니다. 그러나 이것은 지속 가능하지 않습니다. ChatGPT의 인기는 점차 식고 있지만 규제 요구는 계속 증가하고 있으며 규제 기관은 ChatGPT 기술로 인한 과제에 직면하기 시작했습니다.

미국 규제 당국은 이러한 강력한 인공 지능 도구를 규제할 방법을 찾으려고 노력하고 있습니다. 이번 주 OpenAI CEO인 샘 알트만(Sam Altman)은 미국 상원에서 (전날 밤 정치인들과 "교육" 만찬을 마친 후) 증언했습니다. 이번 청문회는 카말라 해리스(Kamala Harris) 미국 부통령이 알파벳(Alphabet), 마이크로소프트(Microsoft), 오픈AI(OpenAI), 앤트로픽(Anthropic) CEO들과 회의를 가진 지 일주일 뒤 이뤄졌다.

사진 | OpenAI 창립자 Sam Altman(출처: 데이터 맵)

성명서에서 해리스는 이들 회사가 제품의 안전을 보장하기 위해 윤리적, 법적 책임을 져야 한다고 지적했습니다. 민주당 원내대표인 척 슈머(Chuck Schumer)는 인공지능을 규제하는 법안을 발의했으며, 여기에는 규칙을 시행하기 위한 새로운 기관을 창설하는 것이 포함될 수 있습니다.

스탠포드 대학교 인간 중심 인공 지능 연구소의 개인 정보 보호 및 데이터 정책 연구원인 Jennifer King은 다음과 같이 말했습니다.

King은 새로운 AI 법안에 대해 초당적 지지를 얻는 것이 어려울 것이라고 말했습니다. “(생성 AI)가 실제 사회 수준의 위협으로 간주되는 정도에 따라 달라질 것입니다. 그러나 그녀는 또한 연방거래위원회(Federal Trade Commission)가 다음과 같이 지적했습니다. 레나 칸(Lena Khan) 회장은 이달 초 과거에 발생한 기술 산업에 대한 지나치게 느슨한 접근 방식을 방지하기 위해 인공 지능에 대한 규제를 촉구하는 논평을 썼습니다. AI는 독점금지법, 비즈니스 관행법 등 기존 법률 툴킷을 활용하는 것을 선호합니다

한편 유럽에서는 국회의원들이 인공지능법(AI법)에 대한 최종 합의를 앞두고 있습니다. 지난주 유럽의회 의원들은 공공장소에서 안면인식 기술 사용을 금지하는 규정 초안에 서명했습니다. 또한 생체 데이터가 온라인으로 수집될 때 예측 치안과 감정 인식을 금지하고 모든 사람을 무차별 체포하는 것을 금지합니다.

의회는 생성 인공 지능을 규제하기 위해 더 많은 규정을 도입하기를 희망하고 있으며, 유럽 연합도 감독을 강화하고 대규모 인공 지능 모델 개발에 참여하는 회사에 더욱 투명성을 요구할 것입니다. 잠재적인 조치에는 AI 생성 콘텐츠에 라벨을 지정하고, 어떤 저작권이 있는 데이터가 모델 훈련에 사용되었는지 요약 형식으로 공개하고, 모델이 불법 콘텐츠를 생성하지 못하도록 보호 장치를 마련하는 것이 포함됩니다.

하지만 문제는 EU가 이러한 규칙을 시행하려면 아직 갈 길이 멀다는 것입니다. 인공지능법에서 제안된 요소 중 상당수가 최종 버전에 반영되지 않았습니다. 의회, 유럽연합 집행위원회, EU 회원국 간에는 어려운 협상이 남아 있습니다. 인공지능법이 시행되기까지는 몇 년이 걸릴 것이다.

잘 알려진 기술 인물들이 반대 방향으로 일하기 시작하고 반대되는 일을 하기 시작했습니다. 마이크로소프트의 수석 경제학자 마이클 슈바르츠는 최근 한 행사에서 인공지능을 규제하기 전에 인공지능의 "의미 있는 피해"가 나타날 때까지 기다려야 한다고 말했습니다. 그는 AI를 운전면허에 비유했습니다. 많은 사람들이 사고로 사망한 후에야 운전면허를 취득합니다. 특정 수준의 피해가 있어야만 문제를 진정으로 이해할 수 있습니다. ”

이 발언은 터무니없습니다. 인공 지능으로 인한 피해는 수년 동안 잘 문서화되었습니다. 이는 편견적이고 차별적이며 가짜 뉴스와 사기를 생성합니다. 다른 AI 시스템에 의한 무고한 체포로 인해 수천 명의 사람들이 사기라는 허위 고발로 인해 빈곤에 내몰렸습니다. Google이 다음 단계를 대대적으로 광고하고 생성 AI가 우리 사회에 점점 더 통합됨에 따라 이러한 피해는 기하급수적으로 증가할 수 있습니다.

우리가 스스로에게 물어봐야 할 질문은 다음과 같습니다. 우리는 얼마나 많은 피해를 볼 의향이 있습니까? 내 대답은 이렇습니다. 우리는 충분히 보았습니다.

지원: 렌

원문:

https://www.technologyreview.com/2023/05/16/1073167/how-do-you-solve-a-problem-like-out-of-control-ai/

위 내용은 OpenAI CEO, 미국 상원 청문회에 참석해 AI 규제 개선 방법 논의의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!