상원 사법 청문회: AI는 통제하기 어렵고 악의적인 요소가 생화학 무기를 개발하는 데 사용될 수 있음

7월 26일 외신 TechCrunch에 따르면 미국 상원 사법위원회는 어제 회의에서 인공 지능에 대한 청문회를 열었고, 많은 AI 업계 실무자들은 인간이 AI의 급속한 발전을 제대로 제어할 수 없다고 경고했습니다. AI는 향후 몇 년 내에 심각한 해를 끼칠 수 있으며, 악의적인 요소는 감독을 우회하는 AI 도구를 사용하여 생화학 무기를 만들 수도 있습니다.

청문회를 주재한 상원 사법위원회 소위원회 위원장인 Richard Blumenthal은 인간이 당시에는 믿을 수 없었던 신기술을 발명할 수 있는 능력이 있음을 스스로 입증했다고 말했습니다. 그는 AI를 미국의 두 번째 '맨해튼 프로젝트'나 NASA의 두 번째 '유인 달 착륙 계획'에 비유했지만, 방청석에 있던 업계 대표들은 AI에 대한 우려가 더 컸다. 미국 AI 스타트업 Anthropic의 CEO인 Dario Amodei는 청문회에서

첨단 AI 기술이 단 2년 안에 위험한 바이러스 및 기타 생화학 무기를 만드는 데 사용될 수 있다는 점을 우려하고 있습니다

. 3억 달러(IT House 참고: 약 21억 4,700만 위안)의 투자를 받았으며 Google의 데이터 센터를 활용하여 "보다 안정적인" AI 모델을 교육하고 있습니다. 몬트리올 대학교 AI 교수이자 '현대 AI 과학의 아버지'인 요슈아 벤지오(Yoshua Bengio)는 GPT-4와 같은 모델이 이룩한 엄청난 도약에 충격을 받았다고 말했습니다. 그는

현재 국가들이 적극적으로 협력해야 한다고 믿었습니다. AI 개발을 제어하려면 원자력 기술 규제 규칙

과 유사한 시스템을 구축하세요. 캘리포니아 버클리 대학의 컴퓨터 과학 교수인 스튜어트 러셀은 현재 인공 지능이 작동하는 방식은 예측 불가능함으로 가득 차 있으며, 제어 가능하고 강력한 다른 기술에 비해 이 단계의 인공 지능에는 뛰어난 관리 도구가 부족하다고 믿습니다. 그래서 우리는 인공지능의 진정한 의도와 그것이 취할 수 있는 모든 행동을 정확하게 이해할 수 없습니다

보도에 따르면, 지난 6개월 동안 업계에서는 일반적으로 할리우드 블록버스터에 '슈퍼 AI'가 등장할 때가 왔다고 믿고 있었습니다. 불과 몇 년 후, 이는 "슈퍼 AI"가 가져올 수 있는 다양한 문제에 대해 사회 모든 부문에서 광범위한 우려를 불러일으켰습니다

위 내용은 상원 사법 청문회: AI는 통제하기 어렵고 악의적인 요소가 생화학 무기를 개발하는 데 사용될 수 있음의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!