前特斯拉總監、OpenAI大牛Karpathy：我被自動駕駛分了心，AI智能體才是未來！

近日，OpenAI聯合創始人，曾經TeslaAI總監，現在又重新返回OpenAI的Andrej Karpathy在一個開發者活動上，分享了自己對AI智能體的看法。

7年前，研究AI智能體的時機還不成熟

#他先聊到了自己早期在OpenAI工作時（2016年左右），當時的業界潮流就是研究如何用強化學習的方法來改進AI智能體。

很多專案都在基於類似雅達利遊戲來製作AI玩家。

圖片

當時他自己想做的是一個適用範圍更廣泛的產品。

但是因為當時的技術所限，做出來的效果不好，於是他和OpenAI就改變了方向，開始做大語言模型了。

當然，這段期間我被自動駕駛分了心。

但是5年後的現在，AI智能體重新成為了一個非常有前途的方向。

因為現在有了全新的技術手段來研究AI智能體，情況和2016年完全不同了。

最簡單的例子就是，現在沒有人再像2016年那樣用強化學習的方法來研究AI智能體了。

現在的研究方法和方向在當年是不可想像的。

AI智能體代表著一個瘋狂的未來，雖然可能還有點遠

因為在未來，如果AGI能夠出現，將會充分發揮AI智能體的能力。

未來的AI智能體可能不是單獨的個體，而是會出現非常多的AI智能體組織，甚至是AI智能體文明。

圖片

這可能會讓人非常興奮，甚至是瘋狂的未來。

但同時大家也要保持清醒和冷靜。

因為一些技術趨勢方向可能很容易構想，展望出來，但是要做成產品落地卻很難。

很多技術都屬於這種類型，例如自動駕駛就是這樣。

技術遠景很容易設想出來，汽車在街區行駛的演示也很容易做出來，但是做出產品可能需要10年時間。

同樣，VR也是這樣的情況。

圖片

AI智能體可能也屬於這一類技術，應用場景很容易想像，前景讓人興奮，但是需要長期的技術發展和累積。

AI智能體需要從神經科學中汲取靈感

就像深度學習早期的發展一樣，AI智能體的發展可能會從神經科學中獲得啟發。

思考AI智能體和神經科學的關係是很有趣的。

尤其是現在很多人都把大語言模型當作AI智能體解決方案的一部分。

但是如何建構一個完整的，擁有人類所有認知能力的數位實體呢？

顯然，我們都認為需要某種潛在的系統來規劃、思考和反思我們所做的事情。

這可能是神經科學能發揮作用的地方。

舉個例子，海馬體是大腦非常重要的部分。

但是AI智能體中什麼東西發揮著海馬體的作用，來儲存記憶，實現標記和檢索等等的這些功能呢？

我們大致上已經了解如何建構視覺和聽覺皮層，但還有許多的東西我們並不知道在AI智能體中到底意味著什麼。

例如潛意識的所在地－丘腦在AI Agents中又相當於什麼呢？

這些都是非常有趣的問題。

我特別帶了一本神經科學方面的書，是有David Eagleman的《大腦與行為》，我發現這本書非常有趣，很有啟發性。

就像早期AI研究在設計神經元時所做的那樣，從神經科學中汲取有趣的靈感，也許是我們應該重新嘗試的方向。

在座的大家就是產業的最前沿

#可能大家不一定知道，但今天到場的大家建構的AI智能體已經處於AI智能體能力的最前線。

現在所有正在做大語言模型的機構，像是OpenAI等，我覺得都沒有處於這個領域的最前線。

最前線的是在座的各位。

舉個例子，OpenAI非常擅長訓練Transformer語言模型。

如果某篇論文提出了不同的訓練方法，那麼我們OpenAI內部的Slack群組裡大家會討論說:

「這個辦法我兩年半前嘗試過，沒什麼用。」

我們對訓練模型的方法的來龍去脈是很清楚的。

但是對於AI智能體的論文出來的時候，我們所有人都會很感興趣，會覺得很了不起。

因為我們的團隊最近5年的時間花在了別的地方。

圖片

在這個領域內我們沒有比你們懂得更多，我們和大家站在同一競爭的水平線上。

這就是我覺得在座的各位處於AI智能體最前沿的原因，這一點對於AI智能體的發展是非常重要的。

以上是前特斯拉總監、OpenAI大牛Karpathy：我被自動駕駛分了心，AI智能體才是未來！的詳細內容。更多資訊請關注PHP中文網其他相關文章！