>  기사  >  기술 주변기기  >  GPT-4는 우려를 불러일으키고 머스크를 포함한 수천 명의 기술 인물이 더 강력한 AI 개발에 대한 유예를 요구합니다.

GPT-4는 우려를 불러일으키고 머스크를 포함한 수천 명의 기술 인물이 더 강력한 AI 개발에 대한 유예를 요구합니다.

WBOY
WBOY앞으로
2023-04-12 19:58:011926검색


GPT-4는 우려를 불러일으키고 머스크를 포함한 수천 명의 기술 인물이 더 강력한 AI 개발에 대한 유예를 요구합니다.

3월 29일 뉴스에서 미국 회사 OpenAI의 인공지능 대화 모델 ChatGPT가 전 세계의 관심을 끌었습니다. 회사의 핵심 투자자인 Microsoft는 최신 모델인 GPT-4의 영향을 평가하기 시작했습니다. 미래 인류에 대해. GPT-4는 인간과 유사한 언어를 생성할 수 있는 대규모 다중 모드 모델로, 다양한 전문 및 학술 표준 테스트에서 인간 수준의 성능을 입증했습니다. 예를 들어, 시뮬레이션된 변호사 시험에 합격하고 상위권에 들 수 있습니다. 10% 이내.

그러나 GPT-4에는 사회와 인간에게 부정적인 영향을 미칠 수 있는 잠재적 위험도 있습니다. Tesla 창립자 Elon Musk와 1000명 이상의 인공 지능 전문가 및 업계 임원들은 공개 서한을 통해 보안 프로토콜이 공유되고 독립적인 전문가의 감사를 받을 때까지 6개월 동안 GPT-4보다 강력한 시스템 개발을 유예할 것을 요구했습니다. 그들은 또한 첨단 AI 시스템으로 인해 발생할 수 있는 경제적, 정치적 불안정성을 언급하고 개발자들이 정책 입안자들과 협력하여 규제 기관을 설립할 것을 촉구했습니다.

이 서한은 비영리 Future of Life Institute에서 발행했으며 머스크, Apple 공동 창립자 Steve Wozniak, Stability AI CEO Emad Mostak 등 1,000명 이상이 서명했습니다.

편지에는 "강력한 인공 지능 시스템은 그 효과가 긍정적이고 위험을 통제할 수 있다고 확신할 때만 개발되어야 합니다."라고 명시되어 있습니다. 월요일 ChatGPT와 같은 고급 인공 지능에 대한 윤리적, 법적 우려로 인해 이러한 시스템이 피싱, 허위 정보 및 사이버 범죄에 악용될 수 있다고 경고했습니다. Microsoft가 지원하는 OpenAI의 ChatGPT는 작년에 출시된 이후 경쟁사에서 유사한 제품을 출시하도록 유도했으며 많은 회사에서 이 또는 유사한 기술을 자사의 앱과 제품에 통합했습니다.

IT House의 이해에 따르면 OpenAI는 사실성, 제어 가능성 및 안전 범위 초과 거부 측면에서 최고를 달성하기 위해 6개월 동안 GPT-4를 반복적으로 조정했다고 밝혔습니다(아직 완벽하지는 않지만).

위 내용은 GPT-4는 우려를 불러일으키고 머스크를 포함한 수천 명의 기술 인물이 더 강력한 AI 개발에 대한 유예를 요구합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
이 기사는 51cto.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제