OpenAI, AI와 관련된 '재앙적' 위험으로부터 보호하기 위해 새로운 팀 구성

IT House News는 10월 27일 목요일 현지 시간으로 OpenAI가 AI와 관련된 '재난적 위험'을 줄이고 추적, 평가, 예측 및 보호를 위해 새로운 팀을 구성한다고 발표했습니다.

OpenAI는 “우리는 최첨단 AI 모델이 현재의 최첨단 AI 모델을 뛰어넘는 능력을 갖고 인류 모두에게 이익이 될 수 있지만 점점 더 심각한 위험을 초래할 것이라고 확신합니다.”라고 밝혔습니다. 일련의 AI로 인해 발생할 수 있는 핵 위협, 생물학적, 화학적, 방사성 위협 및 기타 주요 위험과 AI "자기 복제"와 같은 행동으로 인해 발생할 수 있는 잠재적 위험을 완화하기 위해 노력합니다.

이미지 출처Pexels

OpenAI는 기업이 고성능 AI 시스템을 확보하는 데 필요한

이해, 인프라를 갖추고 있는지 확인해야 한다고 말합니다. 이 팀은 전 MIT 배치형 기계 학습 센터 소장이었던 Aleksander Madry가 이끌게 되며 대규모 AI 모델을 평가하고 모니터링하려는 회사의 노력을 설명하는 "위험 정보 개발 정책"을 개발하고 유지할 것입니다.

IT하우스는 앞서 비영리단체 AI보안센터가 지난달 말 “인공지능으로 인한 멸종 위험을 줄이는 것은 전염병, 핵 등 사회 문제와 같은 수준에 놓일 것”이라는 간략한 성명을 발표했다고 보도한 바 있다.

이 22단어 이니셔티브는 OpenAI CEO인 Sam Altman을 비롯한 많은 AI 업계 리더들의 지지를 받았습니다.

위 내용은 OpenAI, AI와 관련된 '재앙적' 위험으로부터 보호하기 위해 새로운 팀 구성의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!