미국 AI 정책 그룹, GPT-4 모델이 공공 안전을 위협한다며 OpenAI를 고소

3월 31일 미국의 한 AI 정책 기관은 OpenAI가 GPT-4 모델을 출시해 소비자 보호 규정을 위반했다고 비난하고, 미국 연방거래위원회에 OpenAI가 새로운 GPT 모델 출시를 즉각 저지하고 독립적인 평가.

AI 및 디지털 정책 센터(CAIDP)라는 조직은 오늘 OpenAI가 출시한 AI 텍스트 생성 도구가 "편향적이고 기만적이며 공공 안전에 위험을 초래"하고 소비자 보호 규칙을 위반한다고 주장하며 불만을 제기했습니다.

IT House는 이전에 대규모 생성 AI 실험에 대한 유예를 요구한 세간의 이목을 끄는 공개 서한을 확인했습니다. CAIDP의 마크 로텐버그(Mark Rotenberg) 회장도 다수의 AI 연구자, 오픈AI 공동 창업자인 엘론 머스크(Elon Musk)와 함께 이 서한의 서명자 중 한 명이다. 편지와 마찬가지로 불만 사항은 생성 AI 모델의 개발을 늦추고 보다 엄격한 정부 규제를 부과할 것을 요구합니다.

CAIDP는 3월 중순에 발표된 OpenAI의 GPT-4 생성 텍스트 모델로 인해 발생할 수 있는 위협을 지적합니다. 이러한 위협에는 GPT-4가 악성 코드를 생성할 가능성, 편향된 훈련 데이터로 인해 채용 등에서 고정관념을 지속시키거나 인종과 성별을 부당하게 구별할 가능성이 포함됩니다. 이 불만 사항은 또한 OpenAI ChatGPT의 채팅 기록 및 가능한 결제 정보를 다른 사용자가 볼 수 있도록 허용하는 최근 발견된 취약점과 같은 OpenAI 제품 인터페이스의 심각한 개인 정보 보호 문제를 지적합니다.

OpenAI는 이전에 AI 텍스트 생성으로 인한 위협 가능성을 공개적으로 인정했지만 CAIDP는 GPT-4가 소비자에게 해를 끼칠 수 있는 한계를 초과했으며 규제 조치를 취해야 한다고 믿습니다. CAIDP는 불공정하고 기만적인 거래 관행을 금지하는 연방거래위원회법(Federal Trade Commission Act) 제5조를 위반한 것에 대해 OpenAI에 책임을 묻고자 합니다. 고소장에는 "OpenAI가 이러한 위험에 대한 완전한 지식을 바탕으로 GPT-4를 상업적 목적으로 대중에게 제공했다"고 주장합니다. CAIDP는 또한 존재하지 않는 사실을 자신있게 조작하는 생성 모델을 속임수라고 부릅니다.

신고서에서 CAIDP는 FTC에 GPT 모델의 추가 상업적 배포를 중단하고 향후 모델 출시 전에 독립적인 평가를 요구하도록 요청했습니다. 또한 소비자가 사기 관련 불만 사항을 제출할 수 있는 것과 유사한 공개적으로 접근 가능한 보고 도구를 만들 것을 요구합니다. 그리고 FTC에서 진행 중이지만 여전히 상대적으로 비공식적인 AI 도구 연구 및 평가를 기반으로 생성 AI 시스템에 대한 규칙에 대해 FTC의 명확성을 추구합니다.

미국 연방 무역위원회는 이전에 AI 도구 규제에 관심을 표명하면서 편향된 AI 시스템이 집행 조치를 촉발할 수 있다고 경고했으며, 이번 주 법무부와의 공동 행사에서 FTC 칸 의장은 기관이 징후를 찾을 것이라고 말했습니다. 기존의 대규모 기술 회사들이 경쟁을 압박하려고 노력하고 있다는 것입니다.

위 내용은 미국 AI 정책 그룹, GPT-4 모델이 공공 안전을 위협한다며 OpenAI를 고소의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!