AI의 대부 벤지오: 길을 잃은 기분이고, AI에 대한 걱정이 '정신적 내부 마찰'이 됐다!

최근 튜링 빅 3 중 한 명인 요슈아 벤지오(Yoshua Bengio)가 BBC와 인터뷰를 가졌습니다.

벤지오는 인터뷰 도중 자신이 평생 추구해 온 직업에 대해 다소 상실감을 느꼈다며 강한 '우울함'을 드러냈습니다.

좀 더 구체적으로 말하자면, AI의 발전 속도를 더 일찍 깨달을 수 있다면 AI의 실용성보다 안전성을 우선시하는 경향이 있지 않을까 하는 생각입니다.

아시다시피 벤지오는 며칠 전 발표된 "AI가 인류를 멸종시킬 수도 있다"는 공개 서한에 방금 서명했습니다.

Lost Bengio

공개 서한에 서명한 것은 Bengio의 태도를 여실히 보여줍니다.

단 22단어로 된 이 공개 서한은 AI가 인류를 멸절시킬 수 있는 위험을 핵전쟁, 전염병 등 사회적 위기에 비유하고 있습니다.

BBC 인터뷰에서 Bengio는 자신의 견해를 자세히 설명했습니다.

그는 AI를 더욱 엄격하게 규제할 것을 촉구했습니다. 예를 들어, 군대에 AI를 사용할 권한을 주어서는 안 됩니다.

물론 정치기관이 AI 발전을 외면하는 것은 아닙니다.

유럽 연합은 AI에 관한 법률을 제정한 최초의 조직일 수 있습니다. 또한 최근 유럽연합(EU)은 AI 관련 행동강령이 앞으로 몇 주 안에 제정될 것이라고 밝혔습니다.

이런 걱정은 무리가 아닙니다. 결국 AI의 고성능은 새로운 화학무기 개발 등 인간에게 해로운 목표에 사용될 수도 있다.

벤지오는 특히 AI가 너무 빠르게 발전하고 있는 상황에서 '악의적인 의도'를 갖고 AI를 마스터하는 사람들이 매우 걱정된다고 말했습니다.

"군인일 수도 있고, 테러리스트일 수도 있고, 정신적으로 불안정한 사람들일 수도 있습니다. 간단히 말해서, 이 사람들이 AI를 마스터하고 AI가 극도로 위험한 일을 수행하게 하면 그 결과는 예측할 수 없을 것입니다."

또한, AI가 계속해서 발전한다면 그 과정에서 AI를 방해하지 못할 수도 있다고 말했습니다.

다음으로 벤지오는 다시 자신에 대해 이야기했습니다.

이러한 걱정은 의심할 여지없이 그의 내부 마찰을 증가시켰고 그의 개인 생활과 일에 영향을 미쳤습니다.

과거에 Bengio는 자랑스러운 AI 전문가였습니다(물론 지금도 그렇습니다). 그 당시 그는 자신이 사랑하고 잘하는 직업을 위해 평생을 기꺼이 싸웠습니다.

AI 경력은 한때 그에게 삶의 정체성, 인식 및 방향성을 가져왔습니다. 그러나 이제 이러한 걱정 때문에 이러한 일들은 더 이상 그에게 명확하지 않습니다.

"AI 업계에 종사하는 사람들에게 이것은 감정적으로 어려운 일입니다."

그러나 우울함 뒤에는 여전히 긍정적인 태도가 있습니다.

"내가 길을 잃었다고 말할 수 있습니다. 하지만 인내심을 갖고 토론에 참여해야 하며 다른 사람들이 당신과 함께 생각할 수 있도록 격려해야 합니다."

머스크도 비슷한 우려를 표명했습니다.

AI가 반드시 인간을 멸종시킬 것이라고는 믿지 않지만, AI가 인간을 제한하고 통제할 수 있다고 믿습니다.

벤지오는 AI 제품과 관련된 모든 기술 대기업이 통제되고 등록되어야 한다고 믿습니다.

"정부는 자신이 하고 있는 일을 추적하고 감사할 수 있어야 합니다. 이는 비행기, 자동차, 의약품 제조와 같은 다른 산업에서 우리가 하는 가장 기본적인 일입니다."

"우리도 마찬가지입니다. 허깅페이스의 과학자 사샤 루치오니 박사는 AI 편견, 잘못된 정보 등의 문제에 사회가 관심을 기울여야 한다고 말했다. 구체적인 문제.

특정 문제에 더 많은 관심을 기울여야 한다는 것이 그녀의 철학입니다. 인류를 멸절시키는 것은 약간 상상적이어서 이야기조차 할 수 없습니다.

실제로 AI가 사회에 가져오는 많은 이점을 보여주는 사례는 많습니다.

지난주, AI를 이용해 개발된 마이크로칩 덕분에 마비된 사람이 생각을 조절하는 것만으로도 다시 걸을 수 있게 되었습니다.

기술의 영향 외에도 AI가 국가 경제에 미치는 지대한 영향은 무시할 수 없습니다.

많은 기업들이 인간 노동을 대체하기 위해 AI 도구를 사용하기 시작했는데, 이는 할리우드 시나리오 작가들이 파업을 시작한 중요한 이유이기도 합니다.

힌튼, 과감히 사임

공교롭게도 얼마 전 튜링 빅3 중 한 명이기도 한 힌튼도 같은 이유로 뜨거운 관심을 받았는데요.

당시 주요 언론에는 이런 헤드라인이 가득했습니다. 딥러닝 학장이자 신경망의 아버지인 제프리 힌튼이 갑자기 구글에서 사임을 발표했습니다.

Google에 미치는 영향을 고려하지 않고 AI 위험에 대해 자유롭게 이야기할 수 있도록.

New York Times 보고서에서 Hinton은 전 세계에 다음과 같이 직접적으로 경고했습니다. 조심하세요. 앞에 위험이 있습니다. 앞에 위험이 있습니다. 앞에 위험이 있습니다!

그리고 이것이 그가 인공지능의 위험성에 대해 깊이 걱정하는 이유입니다. Hinton은 "내 인생의 일을 깊이 후회합니다."라고 말했습니다.

인공 지능의 선구자에서 종말론자까지, Hinton의 변화는 또한 기술 산업이 수십 년의 한가운데에 있음을 나타냅니다. 전환점.

이것은 또한 업계에 종사하는 많은 사람들을 불안하게 만듭니다. 그들은 자신들이 하고 있는 연구가 외부 세계에 어떤 종류의 위험을 방출하고 있지 않을까 걱정합니다.

생성 AI는 이미 잘못된 정보를 생성하는 도구일 수 있기 때문입니다. 그리고 미래의 어느 시점에서는 인간에게 위협이 될 수도 있습니다.

힌튼의 관점에서 우리는 나쁜 사람들이 이를 악용하는 것을 방지할 수 있는 방법을 아직 찾지 못했습니다.

힌튼이 사임한 후 야당이 요란한 가운데, 인공지능의 대부인 힌튼은 AI 개발을 제한하는 두 개의 공개 서한에 서명하지 않았습니다.

그는 사임하기 전에 Google이나 다른 회사를 공개적으로 비판하고 싶지 않다고 말했습니다.

힌튼이 마침내 마음을 먹고 구글에 사임을 알린 것은 지난달이 되어서였습니다.

Google을 떠나기로 결정한 후 Hinton은 마침내 AI의 위험성에 대해 자유롭게 말할 수 있게 되었습니다.

내 인생의 일을 깊이 후회합니다.

이렇게만 나 자신을 위로할 수 있다. 나는 없어도 다른 사람은 있을 것이다.

위 내용은 AI의 대부 벤지오: 길을 잃은 기분이고, AI에 대한 걱정이 '정신적 내부 마찰'이 됐다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!