Turing Award 수상자 LeCun: ChatGPT에는 큰 한계가 있으며 자동 회귀 모델의 수명은 5년을 초과하지 않습니다.

올해 상반기는 AI 업계에서 가장 흥미로운 반기라고 할 수 있습니다.

다양한 GPT와 AGI 프로토타입의 급속한 발전 뒤에는 서로 다른 견해를 가진 두 진영의 사람들이 있습니다.

한 그룹은 ChatGPT가 이끄는 생성 AI가 매우 강력하고 혁신적인 트렌드의 물결을 주도할 수 있으며 계속 발전하는 데 문제가 없다고 믿습니다.

다른 그룹에서는 우리가 너무 빨리 발전하고 있다고 생각합니다. 금지되지 않더라도 잠시 중단해야 합니다. 그리고 도덕성 측면에서는 매칭 제약이 너무 적습니다.

AI 분야의 대승자 Yann LeCun은 이에 대해 다른 견해를 가지고 있습니다.

완전한 금지? 타당하지 않음

LeCun은 ChatGPT의 성능에 놀라지 않았으며 인공 지능 연구를 중단하는 데 찬성하지 않는다고 말했습니다.

"이것은 예상과 반대되는 결과를 낳을 수도 있습니다."

그는 인간 지능의 증폭자인 인공지능이 새로운 르네상스의 기원이 될 수도 있다고 말했습니다.

대규모 언어 모델인 ChatGPT는 "자동 회귀"입니다. AI는 최대 1조 4천억 단어로 구성된 코퍼스에서 단어를 추출하고 주어진 문장 순서에서 마지막 단어, 즉 다음에 나타나야 할 단어를 예측하도록 훈련되었습니다.

1950년대 클로드 섀넌의 관련 연구는 이 원칙에 기초했습니다.

원칙은 변하지 않았고, 코퍼스 크기와 모델 자체의 컴퓨팅 성능의 문제가 되었습니다.

LeCun은 "현재 우리는 이러한 유형의 모델에 의존하여 길고 일관된 텍스트를 생성할 수 없습니다. 이러한 시스템은 제어할 수 없습니다. 예를 들어, 대상 독자가 13세인 텍스트를 생성하도록 ChatGPT에 직접 요청할 수는 없습니다. -늙은 아이들.

둘째, ChatGPT에서 생성된 텍스트는 정보 소스로서 100% 신뢰할 수 없습니다. GPT의 기능은 기존 운전 보조 시스템과 마찬가지로 보조 도구에 가깝습니다. 자동 운전 기능이 켜져 있습니다.

게다가 오늘날 우리에게 친숙한 자동 회귀 모델의 수명은 5년이 지나면 아무도 과거 모델을 사용하지 않을 것입니다.

연구의 초점은 이러한 모델을 제어 가능하게 만드는 방법을 찾는 것이어야 합니다. 즉, 우리가 연구하려는 AI는 주어진 목표에 따라 추론하고 계획할 수 있는 AI입니다. 신뢰성의 기준은 일관적입니다. 이런 종류의 AI는 감정을 느낄 수 있습니다. 인간 감정의 상당 부분이 어떤 형태의 기대와 관련이 있다는 것을 알아야 합니다.

이러한 제어 가능한 모델을 사용하면 길고 일관된 텍스트를 생성할 수 있습니다.

LeCun의 아이디어는 계산기나 검색 엔진과 같은 다양한 도구의 데이터를 혼합할 수 있는 향상된 모델을 미래에 설계하는 것입니다.

ChatGPT와 같은 모델은 텍스트로만 훈련되므로 ChatGPT의 실제 세계 이해는 불완전합니다. 이를 바탕으로 더욱 발전하려면 전 세계의 감각 인식 및 세계 구조와 관련된 일부 내용을 배워야 합니다.

그리고 이러한 더 복잡한 콘텐츠는 단순히 텍스트를 읽는 것만으로는 달성할 수 없으며 이는 향후 몇 년 동안 가장 큰 과제 중 하나입니다.

오픈소스는 끝

권력에 대한 욕망은 인간의 고유한 특징입니다. 그리고 AI가 점점 더 강력해진다고 해서 이런 욕구를 갖게 되는 것은 아닐 것이다.

오직 인류만이 개인의 행동이 공동의 이익에 너무 큰 해를 끼치지 않도록 법을 제정하는 방법을 알고 있습니다.

OpenAI는 원래 공개 연구 프로젝트였으며 현재는 종료되었습니다. OpenAI는 자신의 작업에 대해 언급하지 않았는데, 이는 연구 분야에서 흔하지 않은 반전입니다.

문제는 언어 모델을 훈련하는 데 수천만 유로의 비용이 소요되기 때문에 스타트업이 이를 감당할 수 없다는 것입니다.

이는 미래 모델을 개선하기 위해 그룹의 공동 컴퓨팅 능력이 필요한 Microsoft와 OpenAI의 합병의 주된 이유이기도 합니다. 이것이 DeepMind와 Google Brain이 마침내 합병된 이유입니다.

LeCun은 궁극적으로 시장 측면에서 개발자가 개방형 플랫폼의 공통 생태계로 이동할 것이라고 말했습니다. 소수의 회사만이 그러한 기술을 통제한다면 좋지 않을 것입니다.

역사적으로 Facebook과 이름이 변경된 Meta는 모두 오픈 소스 프로젝트 LlaMa와 같은 개방형 기초 연구를 적극적으로 추진해 왔습니다.

1990년대 초 Sun Microsystems와 Microsoft는 서버 운영 능력을 놓고 싸우고 있었습니다. 현재까지 확립된 모든 인터넷 기술은 오픈 소스라는 점을 기억하십시오.

LeCun은 마침내 현재 이러한 오픈 소스 AI 플랫폼을 방지하는 열쇠는 법적 문제라고 말했습니다. EU가 향후 AI 산업의 구조화를 촉진하려면 이런 오픈소스 플랫폼이 필수적이다.

위 내용은 Turing Award 수상자 LeCun: ChatGPT에는 큰 한계가 있으며 자동 회귀 모델의 수명은 5년을 초과하지 않습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!