如何解決人工智慧的「常識」問題

譯者| 李睿

審校 | 孫淑娟

#近年來，深度學習在人工智慧的一些最具挑戰性的領域取得了長足的進步，其中包括電腦視覺、語音辨識和自然語言處理。 

然而，深度學習系統仍無法解決一些問題。因為深度學習系統不擅長處理新情況，它們需要大量資料來訓練，有時會犯一些奇怪的錯誤，甚至連它們的創造者都會感到困惑。

一些科學家認為，這些問題要以透過創建越來越大的神經網路並在越來越大的資料集上進行訓練來解決。也有人認為，人工智慧領域需要的是人類的一些「常識」。

電腦科學家Ronald J.Brachman和Hector J.Levesque在他們出版的新書《像我們這樣的機器》中，提出他們對人工智慧難題這一缺失部分的看法和可能的解決方案，而「常識「這一難題已經困擾了研究人員幾十年的時間。在接受行業媒體的採訪時，Brachman討論了什麼是常識，什麼不是常識，為什麼機器沒有常識，以及「知識表示」這一概念是如何引導人工智慧社群朝著正確的方向發展的。 「知識表示」這個概念已經存在了幾十年，但在深度學習熱潮中被擱置了。

儘管仍停留在假設領域，但《像我們這樣的機器》這本書為潛在的研究領域提供了一個新的視角，這得益於這兩位自從上世紀70年代以來一直深入研究人工智慧的科學家。

優秀人工智慧系統會犯奇怪錯誤

Brachman說，「在過去的10到12年，隨著人們對深度學習表現出非凡的熱情，有很多關於基於深度學習的系統能夠完成我們最初希望人工智慧系統所做的一切的討論。」

在人工智慧的發展早期，其願景是創建一個自給自足的自主系統，並且可能以機器人的形式出現，它可以在幾乎不需要或根本不需要人工幹預的情況下獨立做事。

Brachman說，「如今，由於許多人對深度學習所能取得的成就感到興奮，研究的範圍已經縮小了很多。特別是在工業領域，大量資金和人才招募推動了對基於經驗或經過實例訓練的系統的高度關注，許多人聲稱已經接近通用人工智能，或者說'有效的老式人工智能'（GOFAI）或像徵性方法完全過時或沒有必要。”

顯而易見的是，儘管令人印象深刻，但深度學習系統正面臨著尚未解決的令人困惑的問題。神經網路容易受到對抗性攻擊，其中對輸入值的特製修改會導致機器學習模型對其輸出進行突然的錯誤更改。深度學習也在努力理解簡單的因果關係，而且在構思概念和將它們組合在一起方面的表現非常糟糕。大型語言模型最近成為了一個特別關注的領域，但有時會在生成連貫且令人印象深刻的文本時犯下非常愚蠢的錯誤。

Brachman說，「人們對人工智慧犯的這些錯誤的看法是，它們看起來很愚蠢、很無知，人類很少犯這種錯誤。但是重要的是，導致這些錯誤的原因有些難以解釋。」

這些錯誤導致Brachman和Levesque反思當今人工智慧技術中缺少什麼，以及需要什麼來補充或取代範例驅動的訓練神經網路系統。

Brachman說，「如果仔細想想，這些系統顯然缺少的是人類所稱的常識，即能夠看到對許多人來說顯而易見的事情，并快速得出簡單和明顯的結論，並且能夠在決定做一些立即意識到是荒謬或錯誤選擇的事情時阻止自己。」

什麼是常識？

人工智慧社群從早期就一直在談論常識。事實上，John McCarthy於1958年撰寫的最早的人工智慧論文之一的名稱為《具有常識的程式》。

Brachman說，「這不是什麼新鮮事，也不是我們發明的名稱，但這一領域已經忽視了人工智慧先驅者所說的核心意義。如果進一步了解什麼是常識以及擁有它的意義，對我們來說更重要的是，它是如何工作的以及將如何實施它，人們在心理學文獻中幾乎找不到指導。」

在《像我們這樣的機器》一在書中，Brachman和Levesque將常識描述為「有效利用普通、日常、經驗知識來實現普通、日常、實際目標的能力」。  

常識對生存至關重要。人類和高等動物已經進化到透過經驗學習，發展常規和自動駕駛技能，可以處理他們每天面臨的大多數情況。但日常生活不僅僅是人們反覆看到的例行公事。人們經常面臨從未見過的新情況。它們中的一些可能與正常情況有很大不同，但大多數時候，人們看到的事物與已經習慣的東西有些不同。在人工智慧討論中，這有時被稱為「長尾」。

Brachman說，「在我們看來，當這些例行公事被打斷時，常識實際上是第一個被激活的事物，能讓人們快速了解新情況，記住之前所做的事情，快速調整記憶，並將其應用於新情況，並繼續前進。」 

在某種程度上，常識與心理學家、諾貝爾獎得主Daniel Kahneman推廣的雙系統思維範式有些不同。常識並不是快速、自動駕駛的系統1思維，它執行人們可以在沒有特意集中精力的情況下完成的大多數日常任務（例如，刷牙、繫鞋帶、扣釦子、在熟悉的區域開車）。它需要積極思考來打破目前的常規。

同時，常識也不是系統2思維，系統2思維是一種緩慢的思維模式，是需要全神貫注、循序漸進的思維（例如，規劃為期六週的旅行、設計軟體、解決複雜的數學方程式）。

Brachman說，「人們可以深思熟慮，以應對挑戰。這種思考會讓人們的大腦感到疲乏，而且速度很慢。常識讓人們在幾乎任何日常生活中都能避開這種情況，因為不需要深入思考下一步該做什麼。”

Brachman和Levesque在他們出版的著作中強調，常識是一種“膚淺的認知現象”，與深思熟慮、有條不紊的分析相比，它運行速度更快。

他們寫道，“如果需要大量思考才能弄清楚，這不是常識。我們可以將其視為'反思性思維'，'反思性'與'思考'一樣重要，”

沒有常識的人工智慧面臨的危險 

常識需要可預測性、信任、可解釋性和問責性。

Brachman說，「大多數人並不會犯一些奇怪的錯誤。雖然人們可能會做一些傻事，但在反思之後可能會避免這樣的錯誤。雖然人類並不完美，但有些錯誤在某種程度上是可以預測的。」 

沒有常識的人工智慧系統面臨的挑戰是，當它們達到訓練的極限時可能會犯錯。 Brachman說，這些錯誤是完全不可預測和無法解釋的。

Brachman說，「沒有常識的人工智慧系統沒有這種觀點，沒有阻止自己做奇怪事情的退路，而且會變得脆弱。當它們犯錯時，錯誤對它們來說根本沒有任何意義」  

這些錯誤可能是無害的，例如給圖片貼錯標籤；也可能是極其有害的，例如導致自動駕駛汽車駛入錯誤的車道。

Brachman和Levesque在書中寫道，「如果一個人工智慧系統遇到的問題是下棋，而它所考慮就是贏得比賽，那麼常識對它們來說不會發揮作用，而當當人們玩國際象棋遊戲時，常識將發揮作用。」 

因此，隨著人工智慧系統進入開放領域的敏感應用，例如駕駛汽車或與人類合作，甚至參與開放式對話，常識將發揮非常關鍵的作用。這些領域總是會發生新奇的事情。

Brachman和Levesque在《像我們這樣的機器》書中寫道，「如果我們希望人工智慧系統能夠以合理的方式處理現實世界中普遍發生的事情，我們需要的不僅僅是透過對已經發生的事情進行採樣而得出的專業知識。僅僅基於看到和內化過去發生的事情來預測未來是行不通的。我們需要常識。」

重新審視符號人工智慧 

大多數科學家都認為目前的人工智慧系統缺乏常識。然而，涉及解決方案時通常會出現一些分歧意見。一個流行的趨勢是繼續使神經網路的規模變得越來越大。有證據表明，更大的神經網路繼續進行漸進式改進。在某些情況下，大型神經網路表現出零樣本學習技能，它們執行未經訓練的任務。

然而，也有大量的研究和實驗表明，更多的數據和計算並不能解決人工智慧系統沒有常識的問題，而只是將它們隱藏在更大、更混亂的數字權重和矩陣運算中。

Brachman說，「這些系統注意並內化相關性或模式。它們不會形成『概念』。即使這些系統與語言互動，它們也只是模仿人類行為，而沒有人們認為他們擁有的潛在心理和概念機制。」

Brachman和Levesque主張創造一種系統，將常識知識和對世界的常識性理解編碼。

他們在書中寫道：「常識知識是關於世界上的事物及其所具有的屬性，以我們所謂的概念結構為中介，它是關於可能存在的各種事物以及它們可能擁有的各種屬性的一系列想法。知識將透過符號化表示和在這些符號結構上執行計算操作來使用。關於該做什麼的常識性決策相當於使用這些表徵知識來考慮如何實現目標，以及如何對觀察到的情況做出反應。」 

Brachman和Levesque認為，該領域需要回顧並重新審視早期關於符號人工智慧的一些工作，以便為電腦帶來常識。他們稱之為「知識表示」假設。這本書詳細介紹如何建構知識表示(KR)系統，以及如何將不同的知識片段結合起來，形成更複雜的知識和推理形式。

根據知識表示(KR)假設，常識知識的表示將分為兩個部分：「一個表示世界狀態的世界模型，另一個是表示概念結構的概念模型，而這是一個可用於對世界中的項目進行分類的概括框架。」

Brachman表示「我們的觀點是回到早期關於人工智慧的一些思考，其中某種符號和符號操作程序（人們過去稱之為推理引擎）可以用來編碼和使用人們稱之為常識的世界基礎知識：直觀或幼稚的物理學，對人類和其他主體的行為方式以及意圖和信念的基本了解，時間和事件如何運作，因果關係等。這些都是我們在初始一兩年內獲得的所有知識。正式表示的世界知識實際上可以對機器的行為產生因果影響，並且還可以通過操縱符號來做所有事情，例如組合性。並將人們熟悉的事物以新的方式呈現出來。」

Brachman強調，他們在書中提出的假設在未來可以被推翻。

Brachman說，「從長遠來看，到底是預先建構、預先編碼所有這些知識，還是讓人工智慧系統以不同的方式學習，我不知道。但作為一個假設和實驗，我認為人工智慧的下一步應該是嘗試建立這些知識庫，並讓系統使用它們來處理日常生活中的意外事件，對如何處理熟悉和不熟悉的情況作出粗略的猜測。」

Brachman和Levesque的假設建立在先前創建大型符號常識知識庫（例如Cyc）的基礎之上，該項目可以追溯到上世紀80年代，並收集了數百萬條關於世界的規則和概念。

Brachman說，「我認為我們需要走得更遠。我們需要關注自主決策機器如何在日常的決策環境中使用這些事物。累積事實知識並能夠回答危險類型的問題是一回事；但在這個紛繁嘈雜的世界里工作，並能夠理性、及時地應對不可預見的意外，則完全是另一回事。」

機器學習在常識中有作用嗎？ 

Brachman表示，基於機器學習的系統將繼續在人工智慧的感知方面發揮關鍵作用。

他說，「我不會推動使用一階謂詞演算來處理人造視網膜上的像素或處理速度訊號處理的符號操作系統。這些機器學習系統非常擅長低感官水平的識別任務，目前目前尚不清楚這些事物在認知鏈中有多高，但它們並沒有走到最後，因為它們不會在人們在場景中看到的事物和自然語言之間形成概念和聯繫。」

神經網路和符號系統的結合是近年來越來越突出的一個想法。 Gary Marcus、Luis Lamb和Joshua Tenenbaum以及其他科學家正在提議開發「神經符號」系統，將最好的符號系統和基於學習的系統結合在一起，以解決人工智慧當前面臨的挑戰。 

儘管Brachman認同該領域正在進行的大部分工作，但他也表示，目前對混合人工智慧的看法需要一些調整。

他說：「我認為目前的任何神經符號系統都難以解釋常識與更有條理、更深入的符號推理之間的差異，而這些符號推理是數學、繁重的規劃和深度分析的基礎。我希望在這個混合人工智慧世界中看到的是真正考慮常識，讓機器像人類一樣利用常識，讓它做與人類所做的相同的事情。」

原文標題：#How to solve AI's “common sense” problem#，作者：Ben Dickson

以上是如何解決人工智慧的「常識」問題的詳細內容。更多資訊請關注PHP中文網其他相關文章！