MIT Andrew McAfee 박사, AI 규제에 대한 새로운 접근 방식 공개

인공지능 탄생 이후, 인공지능을 어떻게 규제할 것인지에 대한 논의는 끊이지 않았습니다

그러나 실제로 AI를 규제하는 방법은 매우 복잡한 주제입니다. EU의 인공 지능법, 미국의 인공 지능 책임 정책 협의, 중국의 "임시 조치"와 같이 국가와 지역마다 규제 정책과 프레임워크가 다릅니다. 생성적 인공 지능 서비스 관리를 위한" 등에서는 AI의 정의, 분류, 위험 분류, 책임 분할 등에 대한 일부 규범과 요구 사항을 제시했습니다.

최근 포르투갈 리스본에서 열린 2023 웹 서밋에서 MIT 슬론 경영대학원의 수석 연구 과학자인 앤드류 맥아피(Andrew McAfee)는 '무허가 혁신'이라는 새로운 아이디어를 제시했습니다. 이 개념은 이전에 제안된 인공지능 규제 계획과 크게 반대됩니다

앤드류 맥아피 박사, MIT

"허가 필요 없음"이 정말 재앙을 가져오지 않나요?

많은 사람들이 지켜본 이 연설에서 그는 업스트림 거버넌스와 무허가 혁신이라는 두 가지 개념을 언급했습니다. 그중 업스트림 거버넌스는 기술 혁신 이전에 가져올 수 있는 위험과 영향을 예방적으로 감독하고 통제하는 것을 의미합니다

그 반대는 무허가형 혁신입니다. 이는 정부나 기타 기관의 사전 허가 없이 새로운 기술과 새로운 비즈니스 모델을 실험하고 탐색할 수 있는 자유를 의미합니다

Andrew McAfee는 세 가지 이유로 무료 혁신을 분명히 지원합니다.

우선 자유로운 혁신이 규제와 감독이 없다는 뜻은 아닙니다.

앤드류는 이 문제가 근본적으로 규제 시기의 문제, 즉 "예방적 거버넌스"가 아니라 표적화된 규제가 있어야 한다고 믿습니다. 예를 들어, 카메라가 장착된 스마트폰이 처음 등장했을 때 일부 사람들은 이를 이용해 여성의 치마를 몰래 촬영하기도 했습니다. 당시에는 휴대폰 카메라가 아직 생소한 분야였기 때문에 여성의 권리를 보호할 관련 법적 조항이 없었습니다.

이후 관련 입법 기관에서는 개발 후 기술 사용을 규제하기 위해 관련 법적 규정을 신속하게 도입했습니다. 즉, 누군가가 식칼로 사람을 다치게 했다면, 식칼이 날이 없어지도록 규제를 통과시키기보다는 식칼을 더욱 안전하게 만들 수 있도록 관리를 강화해야 한다는 것입니다

우리가 흔히 하는 말은 "개발 문제는 개발을 통해 해결해야 한다"는 것입니다. AI도 마찬가지입니다. 우리가 해야 할 일은 AI 개발 과정에서 발생하는 문제를 역동적으로 해결하는 것입니다. AI 개발로 인해 발생할 수 있는 몇 가지 위험 때문에 우리는 개발을 제한하여 위험을 피할 수 있기를 바랍니다. Andrew의 원래 말대로라면, "실수를 하지 않도록 하는 것"보다는 "실수를 바로잡기 쉽게 만드는 것"이 ​​필요하며, 그래야 감독이 진정으로 제 역할을 할 수 있습니다.

두 번째로 Andrew는 우리가 AI의 피해를 과대평가했을 수도 있다고 믿습니다.

AI가 탄생한 이후 AI가 가져올 재앙에 대한 다양한 뉴스는 결코 사라지지 않았습니다. 심지어 많은 사람들은 AI가 "판도라"와 같다고 생각하면서 그것을 핵전쟁, 전염병 등과 함께 나열합니다. 센세이셔널한 수준.

그러나 Andrew 박사는 우리가 AI에 너무 집중하고 다른 더 위험한 기술을 무시할 수 있다고 믿습니다. 예를 들어 모든 사람이 검토나 허가 없이 관련 지식과 장비에 접근할 수 있는 생명공학을 생각해 보십시오. 생명공학 분야에서 일한다면 검토나 허가 없이 많은 일을 할 수 있는데, 이는 불합리한 균형입니다.

마지막으로, 아마도 가장 중요한 것은 이 "허가 없는 혁신"이 창의성과 상상력을 불러일으킨다는 것입니다

우리는 혁신이 예측할 수 없고 분산된 활동이라는 기본적인 상식을 가지고 있습니다. 이것이 바로 미래 개발 방향을 예측하기 어려운 점입니다. 특히 AI가 점점 더 강력해짐에 따라 미래 개발 방향도 더욱 그렇습니다. 우리가 인지하지 못하는 곳에 점점 더 많이 나타날 수도 있습니다.

연설 시작 부분에서 그는 언어 학습 소프트웨어인 듀오링고(Duolingo) APP에 대해서도 언급하면서 이것이 무허가형 혁신의 장점을 보여줄 수 있다고 생각했습니다. 이 앱은 최신 AI 기술을 활용하여 보다 편리하고 신속하며 저렴한 비용으로 영어 능력을 평가합니다. 그러나 기술이 시장에 출시되기 전에 데이터 보호, 알고리즘 투명성, 인간 감독 등 일련의 요구 사항을 충족해야 한다면 혁신의 공간과 속도가 제한되어 좋은 기회를 놓치게 됩니다. 혁신을 위해.

무허가 혁신은 기술 분야에만 사용되는 것이 아닙니다

실제로 이러한 무허가형 혁신 이점은 인공지능 분야에만 반영된 것이 아닙니다. Andrew는 2023년 웹 서밋 연설에서 mRNA와 처칠의 대화에 대해 각각 두 가지 예를 언급하여 다른 분야에서 무허가형 혁신 개념의 역할을 보여주었습니다. 들판

올해 노벨 의학상 및 생물학상을 수상한 카탈린 카리코(Katalin Kariko)는 10년 동안 학계를 떠났습니다. 당시 mRNA 연구의 방향은 일반적으로 낙관적이지 않았습니다. "업스트림 거버넌스"가 개입하면 자금 조달, 프로젝트 및 기타 여러 이유로 인해 mRNA 방향에 대한 연구가 "전망적으로" 중단될 가능성이 높습니다.

사실 '미래지향적 거버넌스'의 기본은 미래에 대한 정확한 판단에 있습니다. 그러나 어느 방향으로 탈주가 일어날지는 누구도 예측할 수 없다는 점은 분명하다. 잘못된 판단을 내리면 우수한 혁신을 위한 많은 기회를 잃게 됩니다. 이는 무허가 혁신 아이디어의 중요성을 반영합니다

또 다른 사례는 2차 세계대전 발발 직전인 1938년이었다. 전쟁의 그림자가 유럽을 뒤덮었다. 당시 영국 총리 체임벌린은 히틀러와 접촉한 뒤 '회유정책'의 걸작인 그 유명한 '뮌헨 협정'에 서명했다. 히틀러와 평화협정을 체결함으로써 평화를 가져올 수 있다고 믿었습니다. 그러나 영국으로 돌아온 처칠은 진실을 폭로하며 당시 대중의 유화풍조와 체임벌린의 견해를 깨뜨렸다.

그는 "당신은 전쟁과 수치심(나치와 계약을 맺는 것을 가리킨다) 사이에서 선택을 할 수 있다고 생각해서 수치심을 선택하지만, 전쟁은 여전히 ​​불가피하다"고 말했다. 다가오는 위기는 '예방적 거버넌스'로는 피할 수 없을지도 모른다. 즉, 인류 앞에 놓인 것은 '마이크로 관리 강화'와 '카오스'라는 두 가지 선택이 아니라, 어떤 선택을 하든 AI로 인한 혼란은 피할 수 없을 수도 있다는 것이다.

물론 이 원칙에는 기본을 버리고 약자를 쫓는 유명한 중국 이름도 있습니다. 인공지능이 급증하는 시대에, 새로운 물결에 어떻게 대처할지 적극적으로 집중하는 것이 더 나은 태도일지도 모르겠습니다

위 내용은 MIT Andrew McAfee 박사, AI 규제에 대한 새로운 접근 방식 공개의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!