OpenAI大神Karpathy最新分享：為什麼OpenAI內部對AI Agents最感興趣

Andrej Karpathy這位OpenAI聯合創始人最近在一個開發者活動上發表簡短講話，談論了自己和OpenAI內部對AI Agents （人工智慧代理人）的看法。

Andrej Karpathy 對比了過去開發AI Agent的困難和現在新技術工具下開發的新機會，他還不忘調侃自己在特斯拉的工作，是“被自動駕駛分了心”，他認為自動駕駛和VR都是糟糕的AI Agents的例子。

對於新的機會，Andrej Karpathy認為此刻正是再次回歸神經科學，從中尋求靈感的時刻——正像在深度學習早期發生的那樣。

另一方面，Andrej Karpathy認為普通人、創業家和極客在建構AI Agents方面相比OpenAI這樣的公司更有優勢，大家目前處於平等競爭的狀態，因此他很期待看到這方面的成果。

他也透露，如果一篇論文提出了某種不同的訓練方法，OpenAI內部的Slack上會嗤之以鼻，認為都是他們玩剩下的。他們將興致勃勃地討論最新的AI Agents論文。

以下是此次分享全文：

大家好。

我受邀就AI Agents 的話題說一些激勵的話。我認為AI Agents在某種程度上跟我是很近的關係，讓我以一個故事開始，這是一個非常早期的OpenAI的故事，那時OpenAI可能只有十幾個人，在2016年左右，當時的潮流其實是RL Agents（強化學習代理人）。

每個人都對建立代理人非常感興趣，但在當時主要是基於遊戲，人們的興奮點圍繞著像Atari這樣的遊戲公司，而我當時在OpenAI的項目試圖將RL Agents的重點放在用鍵盤和滑鼠使用電腦上，而不是遊戲。

我想讓它們變得更有用，可以做很多工作，這個專案被稱之為World of Bits。

我和幾位同事最後發表了一篇論文。這篇論文並非令人驚艷，因為它實質上是基於RL強化學習方法的。我們的網頁十分簡潔，使用者可以輕鬆預訂航班或點餐等。

這一切顯然是行不通的，因為技術還沒有準備好，在那時做這些東西是不明智的。

事實證明，應該完全忘記AI Agents這件事，去做語言模型。

五年後我們回到這裡，期間我被自動駕駛分了一點心，但現在AI Agents重新酷了起來，而我們的工具箱完全不一樣了，我們處理這些問題的方式也完全不同了。

實際上，你們所有人都對AI代理進行了研究，但可能沒有採用強化學習方法。這太瘋狂了，我不認為我們當時會預見到這一點。這簡直太有趣了。

下面我花一點時間談談為什麼AI Agents如此火爆。我想很明顯，對很多人來說，AGI（通用人工智慧）將充分利用AI Agents的能力，不是一個，而是很多。也許將會出現數位實體的組織或文明，我認為這是非常鼓舞人心的，甚至有點瘋狂。

不過，我也想為此潑點冷水。在我看來，有一類問題很容易在腦海中構思和演示，但要將其變為實實在在的產品卻非常困難。很多事情都屬於這一類，例如我想自動駕駛就是一個例子。

想像自動駕駛並建造演示汽車繞街區行駛很容易，但將其成為產品需要十年時間。同樣的道理，我覺得VR也是如此，讓它發揮作用需要十年。

我認為AI Agents某種程度上也是如此。雖然想像它的情景很容易令人激動，但我相信要真正使其發揮作用，需要投入十年時間來參與。

我想說的另一件事是，我認為現在回到神經科學並在某些方面再次從中獲得靈感是很有趣的，深度學習的早期階段就受到了神經科學的啟發。

思考它們之間的關係是非常有趣的，特別是我認為很多人都把語言模型當作解決方案的一部分，但如何建構一個完整的，擁有人類所有認知能力的數位實體呢？

毫無疑問，我們一致認為我們需要一種潛在的系統來策劃、思考和反思我們正在進行的活動，在這一點上神經科學發揮著重要作用。

例如，海馬體是非常重要的，AI Agents中什麼東西發揮著海馬體的作用，用來實現儲存記憶，標記檢索等等這些功能？

我們已經初步了解如何建構視覺和聽覺皮層，但在AI Agents中還有很多未知的事物。

例如視覺遊戲在AI Agents中是什麼樣子的？潛意識的所在地－丘腦在AI Agents中又相當於什麼呢？

這非常有趣。事實上我今天帶了一本神經科學的書，David Eagleman的《大腦與行為》，我發現這本書非常有趣且有啟發性。

或許現在我們應該像以前一樣，從神經科學中尋找一些有趣的靈感，並重新設計單一神經元。

最後我想用一些鼓勵的話來結尾。一個有趣但不明顯的事情是，你們（指現場觀眾）構建的AI Agents實際上處於當代AI Agents能力的最前沿，所有的大型LLM機構比如OpenAI、DeFi等，我懷疑他們都沒有處於最前沿。

你們正處於最前線。

舉個例子，OpenAI 非常擅長訓練 Transformer 大語言模式。如果一篇論文提出了某種不同的訓練方法，那麼我們OpenAI內部的Slack群組裡的討論會類似於，哦是的，有人在兩年半嘗試過，它不起作用，我們對這種方法的來龍去脈非常了解。

但是當新的AI Agents論文出來的時候，我們都非常感興趣，覺得它非常酷，因為我們的團隊並沒有花費五年時間在這上面，我們並不比你們更多掌握什麼，我們正在與你們所有人一起競爭。

這就是我為什麼認為你們處於AI Agents能力的最前沿的原因，這對AI Agents的發展來說是非常重要的。

以上是OpenAI大神Karpathy最新分享：為什麼OpenAI內部對AI Agents最感興趣的詳細內容。更多資訊請關注PHP中文網其他相關文章！