Gen Chen: AI 전문가들이 공동으로 'AI 인류 멸종 경고'를 선언

텍스트/첸겐

최근 AI 안전센터(CAIS)는 인공지능 분야의 과학자 및 기업 임원 350명이 서명한 '인공지능 위험 선언문'을 발표했습니다. 멸종 위험은 다른 사회 규모의 위험과 함께 전 세계적인 우선 순위가 되어야 합니다. 전염병, 핵전쟁 등.”

이번 공개 성명은 오늘날 전 세계 가장 권위 있는 인공지능 전문가, 핵과학자, 역학자, 기타 전문가 및 학자들의 의견을 종합한 것으로, 인공지능이 가져오는 위험을 가장 포괄적인 방식으로 정리했다고 할 수 있습니다. . 서명자에는 AI 회사 임원 3명이 포함됩니다. OpenAI CEO Sam Altman, DeepMind CEO Demis Hassabis, Anthropic CEO Dario Amodei에는 AI Ray Hinton의 대부로 알려진 Jeff와 "Big Three" 중 한 명인 Joshua Bengio도 포함됩니다. AI와 튜링상 수상자는 두 명의 중국 과학자인 중국과학원 자동화 연구소, 인공 지능 윤리학, 거버넌스 연구 센터 소장 Zeng Yi, 보조 연구원 Zhan Xianyuan도 공개 서한에 서명했습니다. 칭화지능산업연구소.

인공지능 위협 이론

인공지능 기술의 발전이 사회과학과 기술의 발전을 촉진하는 역할을 한다는 것은 자명한 사실입니다. 그러나 인공지능이 획기적인 발전을 이룬 반면, 그것이 인간에게 미치는 부정적인 영향과 심리적 압박은 점점 더 두드러지고 있다. 예를 들어, 점점 더 많은 학생들이 인공 지능을 사용하여 숙제와 논문을 작성하고 있으며, 이로 인해 표절을 정의하기가 어려워지고 있습니다. 범죄자들은 ​​협박을 위해 민감한 데이터를 훔치는 새로운 해킹 방법을 개발하는 데 이를 사용하고 있습니다.

인공지능은 인간이 일하는 방식에도 큰 영향을 미칠 것입니다. 2030년까지 7,500만~3억 7,500만 명이 다시 일자리를 찾아야 할 것으로 추산됩니다. 이는 경제에 전례 없는 영향을 미칠 뿐만 아니라 사람들의 심리에도 전례 없는 압박을 가할 것입니다. 보고서에 따르면 미국 응답자의 61%는 인공지능이 인류의 미래를 위협하고 있다고 믿고 있다. Jeffrey Hinton은 "상상할 수 있는 최악의 시나리오가 무엇이라고 생각하십니까?"라는 질문에 "인간이 지능 진화의 과도기 단계에 불과하다는 것은 완전히 상상할 수 있는 일입니다."라고 대답했습니다.

인공지능 발전의 장단점을 합리적으로 살펴보세요

점점 더 많은 사람들이 “인공지능이 잠재적으로 우리보다 더 똑똑해질 것이다”라고 믿기 시작하면, 인공지능 기술의 통제되지 않은 발전에 대한 광범위한 우려가 무리한 것은 아닙니다. ChatGPT로 대표되는 대부분의 최첨단 인공지능은 여전히 ​​훈련 데이터의 패턴을 기반으로 복제하고 학습하지만 학습 능력과 성장률은 "비약적인 발전"이라고 할 수 있어 설명하기에는 부족합니다. 그것의 급속한 발전.

점점 더 많은 국회의원, 옹호 단체, 기술 업계 관계자들이 AI 챗봇이 잘못된 정보를 퍼뜨리고 인간의 일자리를 대체할 가능성에 대해 경고하고 있습니다. AI 안전 센터의 댄 헨드릭스(Dan Hendrycks) 소장은 알고리즘 편견이나 오해의 소지가 있는 정보 등 다른 유형의 AI 위험을 해결하기 위해 사회 전체가 협력해야 한다고 지적하기도 했습니다. 물론 이러한 위험 관리 과정에서 당장의 위험에만 초점을 맞추는 것은 무모한 일이고, 이를 무시하는 것도 마찬가지로 무모한 일입니다. 왜냐하면 다른 새로운 것들이 그렇듯, 인공지능의 급속한 대중화에도 기회와 위험이 있기 때문입니다. 사람들은 그 이점을 활용하는 동시에 발생할 수 있는 위험에도 주의해야 합니다. 이를 잘 활용하고 위험을 방지한다면 "나를 위해 사용할" 수 있습니다.

위 내용은 Gen Chen: AI 전문가들이 공동으로 'AI 인류 멸종 경고'를 선언의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!