爭鳴：OpenAI奧特曼、Hinton、楊立昆的AI觀點到底有何不同？

2023 北京智源大會 6 月 9 日在北京開幕，這是由智源研究院組織舉辦的。該會議已經連續舉辦了五年，是一項年度國際人工智慧高端專業交流活動。

據悉，本屆大會為期兩天，核心議題是人工智慧發展面臨的機會和挑戰，共有兩百餘位AI 領域的頂尖專家與會者參加會，包括OpenAI 創作者山姆·奧特曼（Sam Altman） 、圖靈獎得主傑弗瑞‧辛頓（Geoffrey Hinton）和楊立昆（Yann LeCun）等人。他們都圍繞著 AI 的發展和挑戰發表了自己觀點。

（來源：資料圖）

「人工神經網路是否很快就會比真實的神經網路更聰明？」辛頓在演講中主要討論了這樣一個問題。

（來源：資料圖）

能夠精確遵循指令，是傳統運算中電腦的關鍵。由於此特性存在，使用者可在使用相同程式或神經網路時，選用不同的硬體。這就表明，程式中神經網路的權重和硬體不存在依賴關係。

「它們遵循指令的原因是因為他們被設計成讓我們先觀察問題，確定解決問題所需的步驟，然後告訴電腦執行這些步驟的模式。」辛頓表示。

為了以更低的成本訓練大型語言模型，他提出了“有限計算”，也就是放棄傳統計算中硬體和軟體分離的基本原則，基於對硬體的模擬，來高效地執行計算任務。

但是，這種方式有以下兩大主要問題。

首先，「學習過程必須利用其運行的硬體部件的特定模擬特性，而我們不確切知道這些特性是什麼。」辛頓說。

其次，此方法具有有限性。辛頓解釋：「由於知識與硬體細節密不可分，因此當特定硬體設備失效時，所有掌握的知識都會隨之喪失。」。 ”

為了解決上述問題，他和合作者嘗試了許多方法，例如“蒸餾法”，該方法被證明非常有效。

他同時指出，智能體群體共享知識的方式將會影響到計算中的許多因素。這也就是說，目前大型語言模型看似能夠學習大量知識，但由於其主要透過學習文件來獲取知識，不具備從現實世界中直接學習的能力，因此學習的方式是非常低效的。

非監督學習模型，例如視訊建模，可以讓它們有效率地學習。辛頓所說，這些數位智能體一啟用，就擁有比人類更強的學習能力，學習速度非常迅速。 ”

如果順著這種發展態勢，智能體很快就會比人類變得更聰明。然而，這也會帶來許多挑戰，如智能體和人類之間的控制權爭奪、倫理和安全等問題。

「想像一下，在未來十年，人工通用智慧系統（Artificial General Intelligence，AGI）將會超過 20 世紀 90 年代初人類所具備的專業水準。」奧特曼表示。

他在演講以及與智源研究院理事長張宏江的問答環節中，探討了推動 AGI 安全的重要性和策略。

（來源：資料圖）

「我們必須為魯莽的開發和部署可能引發的問題負起責任。」奧特曼表示，其指出了兩個方向，即建立包容的國際準則和標準，以及透過國際合作推動AGI 安全系統的構建。

就目前而言，如何對大型語言模型進行訓練，使其能成為真正安全和有益的人類助手，是首要需​​要解決的問題。

對此，奧特曼提出了幾個解決方法。

首先，投資可擴展的監督，例如訓練一個可以協助人類監督其他 AI 系統的模型。

其次，不斷升級機器學習技術，進一步增強模型的可解釋性。

我們的最終目標是讓 AI 系統更能自我優化。 」奧特曼說，「隨著未來的模型變得越來越聰明和強大，我們將找到更好的學習技術，在充分發揮 AI 的非凡好處的同時降低風險。 ”

楊立昆和奧特曼在如何應對當前 AI 帶來的風險問題上持有一致的觀點。這句話可以重寫成：「雖然存在這些風險，但透過精心的工程設計可以減輕或控制它們。」。 ”

不過，作為一貫反對GPT 類大模型的專家，楊立昆在題為《朝向能學習、思考和計劃的機器進發》的演講中，清晰地指明了以自監督學習為代表的AI 系統的優缺點。

（來源：資料圖）

雖然在自然語言處理和生成等方面表現出了極其強大的效果，但它並不具備像人和動物那樣進行推理和計劃的能力，因此不可避免地會導致一些事實錯誤、邏輯錯誤、價值觀毒化等問題。

基於此，楊立昆認為未來幾年 AI 將面臨三大挑戰：學習世界表徵及預測的模型；學習推理能力；學習如何將複雜任務分解為簡單任務，並進行分層推進。

並且，他提出了世界模型是通往 AGI 之路的核心的觀點。

在他看來，世界模型是可以想像未來會發生什麼的系統，其能夠以最小的成本得出自己的預測。

這個系統的運作方式是利用可能儲存在記憶中的先前世界觀，來處理當前世界狀態。然後你用世界模型來預測如何世界接著運轉會發生什麼事。 」楊立昆說。

那麼，該如何實現這個世界模型呢？ 「我們有一個分層系統，透過一連串的編碼器，提取世界狀態的更多和更抽象的表示，並使用不同層次預測器的世界模型。」他說。

簡單來說，也就是將複雜的任務，以分解規劃到毫秒級的方式完成。需要說明的是，必須有一個系統來控製成本並優化標準。

綜上可以看出，雖然三位專家對 AI 的看法和觀點不盡相同，但他們都表明了，AI 的發展已經成為大勢所趨。正如奧特曼所說，我們不能阻止 AI 的發展。

在此基礎上，如何找出 AI 的更好發展方式，抑制其可能帶來的一系列風險和危害，最終朝著 AGI 的終點邁進，將是人們在下一階段需要聚焦的主要方向。

以上是爭鳴：OpenAI奧特曼、Hinton、楊立昆的AI觀點到底有何不同？的詳細內容。更多資訊請關注PHP中文網其他相關文章！