전 Tesla 이사이자 OpenAI 전문가인 Karpathy: 저는 자율주행에 정신이 팔렸습니다. AI 에이전트가 미래입니다!

최근 OpenAI 공동 창립자이자 전 TeslaAI 이사였으며 현재 OpenAI로 복귀한 Andrej Karpathy는 개발자 이벤트에서 AI 에이전트에 대한 자신의 견해를 공유했습니다.

7년 전, AI 에이전트를 공부하는 시대는 아직 성숙하지 않았습니다

OpenAI에서 일하던 초창기(2016년경)에 대해 먼저 이야기했는데, 당시 업계 트렌드는 사용법을 연구하는 것이었습니다. 강화 학습 방법. AI 에이전트를 개선합니다.

많은 프로젝트에서 유사한 Atari 게임을 기반으로 AI 플레이어를 만들고 있습니다.

Pictures

그 당시 그가 하고 싶었던 것은 활용 범위가 더 넓은 제품이었습니다.

그러나 당시 기술의 한계로 인해 결과가 좋지 않아 그와 OpenAI는 방향을 바꾸어 더 큰 언어 모델을 구축하기 시작했습니다.

물론 이 기간 동안 나는 자동 운전에 주의가 산만해졌습니다.

그런데 5년이 지난 지금, AI 에이전트는 다시 매우 유망한 방향이 되었습니다.

이제 AI 에이전트를 연구할 수 있는 새로운 기술적 수단이 등장하기 때문에 2016년과는 상황이 완전히 다릅니다.

가장 간단한 예는 2016년처럼 AI 에이전트를 연구하기 위해 더 이상 강화 학습 방법을 사용하는 사람이 없다는 것입니다.

지금의 연구 방법과 방향은 당시로서는 상상도 할 수 없는 수준이었습니다.

AI 에이전트는 조금은 멀더라도 미친 미래를 대표합니다.

앞으로 AGI가 등장할 수 있다면 AI 에이전트의 역량이 최대한 활용될 것이기 때문입니다.

미래에는 AI 에이전트가 단일 개인이 아닐 수도 있지만 AI 에이전트 조직이나 AI 에이전트 문명이 많아질 것입니다.

Pictures

이것은 매우 흥미롭고 미친 미래가 될 수 있습니다.

그러나 동시에 모두가 깨어 있고 침착해야 합니다.

일부 기술 트렌드 방향은 쉽게 구상하고 구상할 수 있지만 제품을 구현하는 것은 어려울 수 있기 때문입니다.

자율 운전 등 많은 기술이 이 범주에 속합니다.

기술적 비전은 구상하기 쉽고, 동네를 돌아다니는 자동차의 시연은 만들기 쉽지만, 제품을 만드는 데는 10년이 걸릴 수도 있습니다.

마찬가지로 VR도 같은 상황입니다.

그림

AI 에이전트도 이 기술 범주에 속할 수 있습니다. 응용 시나리오는 상상하기 쉽고 전망은 흥미롭지만 장기적인 기술 개발과 축적이 필요합니다.

AI 에이전트는 신경과학에서 영감을 얻어야 합니다

딥러닝의 초기 개발과 마찬가지로 AI 에이전트의 개발도 신경과학에서 영감을 받을 수 있습니다.

AI 에이전트와 신경과학의 관계에 대해 생각해 보는 것은 흥미롭습니다.

특히 지금은 많은 사람들이 대규모 언어 모델을 AI 에이전트 솔루션의 일부로 간주하고 있습니다.

하지만 인간의 모든 인지 능력을 갖춘 완전한 디지털 개체를 구축하는 방법은 무엇일까요?

분명히 우리 모두는 우리가 하고 있는 일을 계획하고, 생각하고, 성찰하기 위한 기본 시스템이 필요하다는 데 동의합니다.

여기서 신경과학이 활용될 수 있습니다.

예를 들어 해마는 뇌에서 매우 중요한 부분입니다.

그런데 AI 에이전트에서 메모리 저장, 태깅 및 검색 구현 등의 해마 역할을 하는 것은 무엇일까요?

우리는 일반적으로 시각 및 청각 피질을 구축하는 방법을 이해하지만 AI 에이전트에서 그것이 정확히 무엇을 의미하는지 아직 모르는 것이 많습니다.

예를 들어 AI 에이전트에서 잠재의식의 자리인 시상은 무엇에 해당하나요?

매우 흥미로운 질문입니다.

특별히 신경과학에 관한 David Eagleman의 "뇌와 행동"이라는 책을 가져왔습니다. 이 책은 매우 흥미롭고 깨달음을 줍니다.

초기 AI 연구가 뉴런을 설계할 때 그랬던 것처럼, 신경과학에서 흥미로운 영감을 얻는 것도 우리가 다시 시도해야 할 방향일 수 있습니다.

여기 계신 여러분 모두가 업계의 최전선에 계십니다

꼭 모르실 수도 있지만, 오늘 여기 계신 여러분이 만든 AI 에이전트는 이미 AI 에이전트 기능의 최전선에 있습니다.

현재 OpenAI와 같이 대규모 언어 모델을 연구하는 기관 중 이 분야에서 선두에 있는 기관은 없다고 생각합니다.

최전선은 여기 계신 여러분입니다.

예를 들어 OpenAI는 Transformer 언어 모델을 훈련하는 데 매우 능숙합니다.

논문에서 다른 교육 방법을 제안하면 OpenAI 내부 Slack 그룹의 모든 구성원이 이에 대해 토론하고 다음과 같이 말할 것입니다.

"2년 반 전에 이 방법을 시도했지만 작동하지 않았습니다. "

우리는 모델 훈련 방법의 모든 면을 매우 명확하게 알고 있습니다.

하지만 AI 에이전트에 관한 논문이 나오면 우리 ​​모두는 매우 관심을 갖고 대단하다고 생각할 것입니다.

우리 팀은 지난 5년을 다른 곳에서 보냈기 때문이죠.

Pictures

우리는 이 분야에서 당신보다 더 많은 것을 알지 못하며 다른 사람들과 같은 수준의 경쟁에 서 있습니다.

이것이 바로 여기 계신 모든 분들이 AI 에이전트의 최전선에 있다고 생각하는 이유입니다. 이는 AI 에이전트 개발에 매우 ​​중요합니다.

위 내용은 전 Tesla 이사이자 OpenAI 전문가인 Karpathy: 저는 자율주행에 정신이 팔렸습니다. AI 에이전트가 미래입니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!