OpenAI 창립자를 포함하여 약 400명의 유명 인사가 AI의 위험에 대해 경고하는 공개 서한에 서명했습니다.

경제 관찰자 네트워크 기자 런샤오닝동부 표준시 기준 5월 30일, 미국 비영리단체 인공지능보안센터(CAIS)는 공식 웹사이트에 공동 공개 서한을 발표했습니다. 전쟁". 인간에게 멸종 위험을 초래할 수 있습니다.

공개서한에는 다음과 같은 한 문장이 있습니다. “인공지능으로 인한 멸종 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 다른 사회 규모의 위험과 동일한 수준으로 세계적인 우선순위가 되어야 합니다.”

OpenAI CEO Sam Altman, Google DeepMind CEO Demis Hassabis, Anthropic CEO Dario Amode 등 3개 주요 AI 회사의 수장을 포함하여 370명 이상의 AI 거물들이 위에서 언급한 공동 공개 서한에 서명했습니다.

튜링상 수상자이자 인공지능의 '대부'로 알려진 제프리 힌튼(Geoffrey Hinton)과 요슈아 벤지오(Yoshua Bengio)도 이 공개 서한에 서명했습니다.

서명자 명단에는 중국 공정원 학자이자 칭화대학교 지능형 산업 연구소 소장인 장야친(Zhang Yaqin), 인공 지능 윤리 및 거버넌스 연구 센터 소장인 Zeng Yi 등 중국 학자들도 포함되어 있습니다. 중국과학원 자동화학부, 칭화대학교 부교수 Zhan Xianyuan.

목록은 주로 세계 유명 대학의 교수들로 구성되어 있으며, 인공지능 과학자, 에스토니아 전 대통령인 케르스티 칼유라이드(Kersti Kaljulaid)와 같은 정치인도 포함되어 있습니다.

목록은 계속 늘어나고 있습니다. 경제관찰네트워크 기자들은 CAIS 공식 홈페이지를 통해 인공지능 과학자나 유명인사(임원, 교수, 지도자)가 서명된 성명서를 제출하고 확인 이메일을 받을 수 있다는 사실을 확인했다.

미국 샌프란시스코에 위치한 비영리단체 CAIS는 인공지능 보안에 주력하고 있습니다. 그들은 공식 홈페이지를 통해 인공지능(AI)이 안전하게 개발되고 적용된다면 전 세계적으로 많은 혜택을 가져올 것으로 기대한다고 밝혔습니다. 인공지능의 눈부신 발전에도 불구하고 인공지능의 안전성과 관련해서는 여전히 해결해야 할 근본적인 문제들이 많이 남아 있습니다. 그들의 임무는 안전 연구를 수행하고, AI 안전 연구 분야를 확립하고, 안전 표준을 옹호함으로써 인공 지능과 관련된 사회 규모의 위험을 줄이는 것입니다.

올해 3월에는 수천 명의 외국 연예인들도 AI의 위험성을 경고하는 공개 서한에 서명했습니다. 3월 29일, Tesla 창립자 Elon Musk, Turing Award 수상자 Yoshua Bengio 등은 비영리 단체인 Future of Life Institute 웹 사이트에 공동 발표를 통해 GPT-4보다 강력한 AI 시스템 개발 중단을 촉구했습니다. 최소 6개월은 “사회와 인류에 잠재적인 위험을 초래할 수 있다”고 말했다.

현재 OpenAI는 GPT-5 개발을 중단했습니다.

Yoshua Bengio는 서명 이유를 언급하고 이 공개 서한이 학계와 업계에 상기시킬 수 있다고 말했습니다. 우리는 이러한 시스템을 더 잘 이해하고 대중의 보호를 강화하기 위해 국내 및 국제 수준에서 필요한 프레임워크를 개발하는 데 시간을 투자해야 합니다. 비록 이 공개 서한에 서명하는 것이 그다지 큰 영향을 미치지는 않을지 모르지만, 적어도 사회 전반에 걸쳐 논의를 촉발할 것입니다.

해외에서는 ChatGPT가 널리 사용되면서 노출 위험이 점차 높아지고 있습니다. 지난 3월 28일 벨기에 언론 LaLibre에 따르면 30세 벨기에 남성이 EleutherAI가 개발한 오픈소스 인공지능 언어 모델인 챗봇 ELIZA와 몇 주 동안 집중적인 대화를 나눈 후 자살했습니다.

사진에는 지난 5월 22일 국방부 인근 지역에서 폭발이 발생했고 소셜미디어에 빠르게 퍼진 모습이 담겨 있습니다. 가짜 사진이 널리 유포되면서 S&P 500 지수는 단기적으로 약 0.3% 하락해 장중 최저치까지 하락하며 상승에서 하락으로 전환되었습니다. 나중에 미국 국방부 대변인은 이것이 AI가 생성한 가짜 사진임을 확인했습니다. 이 사진에는 가로등이 약간 구부러져 있고 보도에 울타리가 자라는 등 AI가 생성한 특성이 명백하게 담겨 있었습니다.

AI 커버곡이 트렌드가 된 후, 전 세계 음악 시장의 거의 3분의 1을 장악하고 있는 유니버설 뮤직은 애플, 스포티파이 등 스트리밍 미디어 플랫폼에 회사의 멜로디와 가사 저작권을 침해하는 AI 작품을 금지해 달라고 요청하는 서한을 발행했습니다.

위 내용은 OpenAI 창립자를 포함하여 약 400명의 유명 인사가 AI의 위험에 대해 경고하는 공개 서한에 서명했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!