OpenAI 마스터 Karpathy의 최신 공유: OpenAI가 AI 에이전트에 가장 관심이 있는 이유

OpenAI의 공동 창업자인 Andrej Karpathy는 최근 개발자 행사에서 간단한 연설을 통해 AI 에이전트(인공지능 에이전트)에 대한 자신과 OpenAI의 내부 견해를 이야기했습니다.

Andrej Karpathy는 과거 AI 에이전트 개발의 어려움을 새로운 기술 도구로 개발된 새로운 기회와 비교했습니다. 또한 그는 Tesla에서 자신의 작업이 "자율 운전에 산만해졌다"고 농담했습니다. 그는 자율 주행과 VR이 그 예라고 믿었습니다. 나쁜 AI 에이전트.

새로운 기회와 관련하여 Andrej Karpathy는 딥러닝 초기에 일어났던 것과 마찬가지로 지금이 다시 신경과학으로 돌아가서 영감을 구할 때라고 믿습니다.

한편, Andrej Karpathy는 AI 에이전트 구축에 있어 일반인, 기업가, 괴짜가 OpenAI와 같은 회사보다 유리하다고 믿습니다. 따라서 그는 이와 관련하여 결과를 기대하고 있습니다.

또한 논문에서 다른 학습 방법을 제안하면 OpenAI의 내부 Slack은 자신들이 나머지만 하고 있다고 생각하며 비웃을 것이라고 밝혔습니다. 그들은 최신 AI Agents 논문에 대해 큰 관심을 가지고 토론할 것입니다.

다음은 이 공유의 전문입니다:

안녕하세요 여러분.

저는 AI 에이전트를 주제로 동기를 부여하는 말씀을 하도록 초대받았습니다. 어떤 면에서는 AI 에이전트가 저와 매우 가깝다고 생각합니다. 이것은 매우 초기의 OpenAI 이야기입니다. 그 당시에는 OpenAI에 12명 정도밖에 없었습니다. 추세는 실제로 RL 에이전트(강화 학습 에이전트)입니다.

모두가 에이전트 구축에 관심이 많았지만 당시에는 주로 게임을 기반으로 했고 Atari와 같은 게임 회사에 대한 흥미가 있었고 당시 OpenAI에서 제 프로젝트는 RL 에이전트가 키보드 사용과 마우스 사용에 집중하는 것이었습니다. 게임이 아닌 컴퓨터에서요.

좀 더 유용하게 만들고 많은 작업을 하고 싶은데, 이번 프로젝트의 이름은 World of Bits입니다.

몇 명의 동료와 저는 마침내 논문을 출판했습니다. 이 논문은 본질적으로 RL 강화 학습 방법을 기반으로 하기 때문에 놀라운 것은 아닙니다. 우리 웹페이지는 매우 간단하여 사용자가 쉽게 항공편을 예약하거나 음식을 주문할 수 있습니다.

기술이 아직 준비되지 않았고 그 당시에 이러한 일을 하는 것은 현명하지 않기 때문에 이 모든 것이 분명히 작동하지 않을 것입니다.

AI 에이전트를 완전히 잊어버리고 언어 모델을 수행해야 한다는 사실이 밝혀졌습니다.

5년 후 다시 이곳에 왔고 자율 주행에 약간 정신이 팔렸지만 이제 AI 에이전트는 다시 멋지고 도구 상자도 완전히 다르며 이러한 문제에 접근하는 방식도 완전히 다릅니다.

사실 여러분 모두 AI 에이전트에 대해 연구해 보셨지만 강화 학습 방법은 연구해 보지 않으셨을 수도 있습니다. 말도 안 되는 일이고 당시에는 이런 일을 예측할 수 없었다고 생각합니다. 정말 재미있어요.

AI 에이전트가 왜 그렇게 인기가 있는지 잠깐 이야기해 보겠습니다. AGI(Artificial General Intelligence)가 AI 에이전트의 기능을 한 대가 아니라 여러 대에서 최대한 활용할 것이라는 점은 많은 사람들에게 분명하다고 생각합니다. 어쩌면 디지털 실체로 구성된 조직이나 문명이 있을 수도 있는데, 이는 매우 고무적이고 심지어 약간 이상하다고 생각합니다.

근데 이것도 찬물을 좀 부어주고 싶네요. 제 생각에는 마음속으로 생각하고 표현하기는 쉽지만 실제 제품으로 전환하기는 매우 어려운 문제 종류가 있습니다. 많은 것들이 이 범주에 속하는데, 자율주행이 그 예라고 생각합니다.

자율주행을 상상하고 데모카를 만들어 동네를 돌아다니는 것은 쉽지만, 제품이 되기까지는 10년이 걸린다. 마찬가지로 VR도 마찬가지라고 생각합니다. VR이 작동하려면 10년이 걸릴 것입니다.

AI 에이전트도 어느 정도 마찬가지라고 생각해요. 상상만 하면 흥분되기 쉽지만, 실제로 구현하려면 10년이 걸릴 것이라고 생각합니다.

또 말씀드리고 싶은 점은, 이제 신경 과학으로 돌아가서 어떤 면에서는 다시 영감을 받는 것이 흥미로운 것 같다는 것입니다. 딥 러닝 초기에는 신경 과학에서 영감을 얻었습니다.

그들 사이의 관계에 대해 생각하는 것은 매우 흥미롭습니다. 특히 많은 사람들이 언어 모델을 솔루션의 일부로 보고 있다고 생각하기 때문에, 인간의 모든 인지 능력을 갖춘 완전한 디지털 개체를 어떻게 구축할 수 있을까요?

우리가 하고 있는 활동을 계획하고, 생각하고, 성찰하기 위해서는 기본 시스템이 필요하다는 점에 우리 모두 동의하며, 여기서 신경과학이 중요한 역할을 합니다.

예를 들어 해마는 매우 중요합니다. AI Agent에서 기억 저장, 표시 검색 등의 기능을 구현하는 해마의 역할은 무엇인가요?

우리는 시각 및 청각 피질을 구축하는 방법에 대한 사전 이해를 갖고 있지만 AI 에이전트에는 아직 알려지지 않은 것들이 많이 있습니다.

예를 들어 AI 에이전트에서 시각적 게임은 어떤 모습일까요? AI 에이전트에서 잠재의식의 자리인 시상은 무엇에 해당하는가?

매우 흥미롭습니다. 저는 실제로 오늘 신경과학 책인 David Eagleman의 Brain and Behavior를 가져왔는데, 이 책은 매우 흥미롭고 깨달음을 얻었습니다.

아마도 이제 우리는 이전처럼 흥미로운 영감을 얻기 위해 신경과학을 살펴보고 개별 뉴런을 재설계해야 할 것입니다.

마지막으로 격려의 말씀으로 마무리하고 싶습니다. 흥미롭지만 분명하지는 않은 점은 여러분(청중을 지칭함)이 구축한 AI 에이전트가 실제로 OpenAI, DeFi 등과 같은 모든 대규모 LLM 기관의 최전선에 있다는 것입니다. 최전선에서.

당신은 최첨단에 있습니다.

예를 들어 OpenAI는 Transformer 대규모 언어 모델을 훈련하는 데 매우 능숙합니다. 논문에서 다른 훈련 방법을 제안하면 내부 OpenAI Slack 그룹에서 토론은 다음과 같을 것입니다. '아, 그래, 누군가가 2년 반 동안 그것을 시도했지만 작동하지 않았는데 우리는 이것에 대해 전혀 모른다. 나는 그 내용을 아주 잘 알고 있습니다.

그러나 새로운 AI Agents 논문이 나오면 우리 ​​모두는 매우 관심을 갖고 있고 그것이 매우 멋지다고 생각합니다. 왜냐하면 우리 팀은 그것에 5년을 소비하지 않았고, 우리는 당신보다 더 많은 지식도 없고, 당신과 함께 일하고 있기 때문입니다. 모두가 함께 경쟁합니다 .

이것이 바로 당신이 AI 에이전트 개발에 매우 ​​중요한 AI 에이전트 역량의 최전선에 있다고 생각하는 이유입니다.

위 내용은 OpenAI 마스터 Karpathy의 최신 공유: OpenAI가 AI 에이전트에 가장 관심이 있는 이유의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!