大規模模型的發展受到限制，需要創建可解釋的人工智慧理論

GPT-4的限制在於僅能與數位世界互動，而我們最終需要與實體世界互動。為此，機器人的出現尤其重要，它代表著具身智慧的實現。張鈸指出，並非必須開發人形機器人，也不需要過於複雜的硬體。他主張以一定的硬體為基礎進行強化學習研究。這樣的方法可以在不改變原有意義的情況下進行微調。

全世界對大模型的強大能力和潛力感到驚訝，但無法解釋其原因，只能將其歸結為「湧現」現象。為了人工智慧產業的健康發展，必須綜合科學研究、技術創新和產業發展。要發展第三代人工智慧，必須建立可解釋和魯棒的理論和方法，否則AI技術將永遠難以令人信服。

大語言模型存在天花板。

雖然通往通用人工智慧的道路依然艱難，但大語言模式為AI產業開闢了一條寬廣的道路。在智譜AI 2024年度技術開放日上，張鈸院士表示，大模型為發展通用硬體和軟體提供了機會。

傳統AI範式利用特定的演算法和規則完成特定任務，生成式AI範式是基於一種稱為基礎模型的通用模型，透過廣泛文字資料的訓練，在開領域（open domain，開域）內可以產生類似於人類層級的高品質文字、圖像和其他內容，透過微調等方式可適配於廣泛的下游任務。生成式AI向通用AI邁出一步，第二步是AI智能體，第三步則是具身智能。張鈸表示，GPT-4只能和數位世界打交道，我們最終必須跟實體世界打交道，這就需要機器人，也就是具身智慧。具身智能的提出有助於建構完整的智能體，讓智能體既有感知，也有思考。 「不一定要做人形機器人，因為很多時候只要用手或腳就可以了，不需要把硬體搞得非常複雜。」他主張以一定的硬體為基礎進行強化學習研究。

生成式AI大模型具備三大能力和一大缺點。首先是強大的生成能力，它能夠根據上下文和過去的對話生成多樣性的連貫文本，讓人們感到驚訝。其次是強大的遷移能力，即透過代理任務的訓練和細調適配，能夠應用到感興趣的下游任務中。第三是強大的交互能力，包括人機交互、多智能體之間的交互以及與環境的交互，使得AI能夠在各個領域展現出與人類相媲美的智能水平。然而，這些大模型也存在著一個缺點，就是幻覺。有時候，它們會產生看似合理的編造或無意義的答案。

人工智慧有助於推動經濟成長，建築、維護、安裝等產業難以被自動化和智慧化，但行政管理等白領工作或被AI取代。 AI可提高大多數人類工作的品質和效率，但被AI完全取代的工作仍是少數。之所以AI還不能取代大多數工作，是因為大模型還存在著難以逾越的天花板。張鈸表示，大模型的所有工作都是外部提示而非主動，並且在外部提示的情況下利用機率預測完成任務，而人類的工作依靠內部意圖驅動。大語言模型生成語言與人類語言生成只是行為上的相似性，而內在機制根本不同，大語言模型存在不自知、質量不可控、不可信、不魯棒等天花板，給出不同的提示詞，大模型會輸出不同的答案。大模型也會產生幻覺，「不管模型多大，幻覺這個缺點一直存在。」

他提出，要發展第三代人工智慧，必須建立可解釋和穩健的人工智慧理論和方法，發展安全、可控、可信、可靠、可擴展的AI技術，推動AI的創新應用和產業化。如果無法建立可解釋和魯棒的人工智慧理論，AI技術是不可靠的，AI技術永遠難以令人相信。 「到目前為止，這個理論還沒有建立起來，這也是人工智慧之所以發展緩慢和曲折的原因。理論建立不起來，是因為受到三個特定限制，過去只能在特定領域利用特定模型解決特定任務，這怎麼可能建立通用理論？大模型的出現為建立這個理論提供了可能性。」

張鈸表示，大模型為我們提供了發展通用硬體和軟體的機會。人工智慧正進入穩定發展的階段，對各行各業有巨大影響，必須抓住機會發展人工智慧產業。但仍有大量不確定性，因為AI不可預測、不可控制。全世界對大模型強大的生成能力、遷移能力、互動能力感到驚訝，卻無法解釋，只能歸結為「湧現」。所以為了人工智慧產業的健康發展，必須將科學研究、技術創新、產業發展結合起來。

以上是大規模模型的發展受到限制，需要創建可解釋的人工智慧理論的詳細內容。更多資訊請關注PHP中文網其他相關文章！