OpenAI CEO, 대규모 언어 모델 규제 촉구, 생성 AI 위험 경고

Microsoft가 지원하는 OpenAI의 CEO인 Sam Altman은 미국의 고급 대형 언어 모델 배포 규제를 요구하면서 견고한 정책 프레임워크가 없는 생성 AI의 위험성을 경고했습니다.

생성 AI의 거버넌스를 논의하기 위해 미국 상원과 청문회에서 Altman은 사회에 대한 위협에 대한 우려가 커지면서 점점 더 강력해지는 모델로 인해 발생하는 위험을 완화하기 위해 규제가 중요하다고 주장했습니다.

그의 증언에서 논의된 위협은 OpenAI가 모델을 훈련하는 방법과 관련된 잘못된 정보의 확산과 데이터 개인 정보 보호법 위반에 중점을 두었습니다.

Richard Blumenthal 상원의원은 청문회에서 부적절하게 훈련된 인공 지능의 전망은 "매우 무섭다"고 말했으며 신기술은 "책임을 져야 한다"고 주장했습니다.

그는 OpenAI의 ChatGPT가 실제 인간 상호 작용을 모방하고 시뮬레이션할 수 있는 능력이 있음을 지적하고, 음성 훈련 모델이 생성한 연설문으로 간증을 시작했습니다.

Altmann은 개발자를 위한 "라이센스 및 테스트 요구 사항의 조합"이 필요하다고 설명하면서 인공 지능의 교육 및 배포를 감독하는 정부 기관을 설립하면 개발에 도움이 될 것이라고 제안했습니다.

그는 또한 스스로 복제하거나 유해한 콘텐츠를 생성할 수 있는 모델과 같이 특정 '임계값' 또는 '능력'을 초과하는 AI 도구를 만드는 개발자의 라이선스를 취소할 것을 제안했습니다.

Altman은 기계 학습 도구가 인터넷 모바일 데이터로부터 응답을 생성할 수 있는 방법에 대한 규제 규칙 개발을 옹호합니다.

“사용자는 우리와 같은 회사나 다른 소셜 미디어 회사에서 자신의 데이터를 사용하지 않도록 선택할 수 있어야 합니다.”라고 그는 덧붙였습니다.

C114 통신망 강준무

위 내용은 OpenAI CEO, 대규모 언어 모델 규제 촉구, 생성 AI 위험 경고의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!