百歲基辛格談人工智慧：不要等到危機來臨才開始重視

2023年，亨利·基辛格已經100歲高齡，但是他頭腦依然很清醒，思緒依然很清晰。他還是一如既往的參加國際問題的討論，並且還能給出令人佩服的預測。

《經濟學人》在4月底與基辛格進行了長達8小時的對話。在這次對話中，基辛格表示出了對中美兩國圍繞科技和經濟領先地位日益激烈競爭的擔憂，他也擔心人工智慧即將極大程度地加劇中美對立。基辛格認為， 人工智慧將在五年內成為安全領域的關鍵因素，其顛覆性潛力堪比活字印刷術。

“我們生活在一個破壞性空前的世界中”，基辛格警告。儘管原則上人類要介入機器學習的回饋循環，人工智慧還是可能成為全自動的、不可阻擋的武器。

基辛格一直非常關注人工智慧的發展，他曾經說過「搞技術的人關心的是應用，我關心的是影響力」。最近，基辛格和谷歌前執行長艾瑞克‧施密特、麻省理工學院蘇世民學院院長丹尼爾‧胡騰洛赫爾也共同完成一本書《人工智慧時代與人類未來》，基辛格在這本書中提出，人工智慧將重塑全球安全和世界秩序，並對人工智慧發展對個體和人類自我認同的衝擊進行了反思。

自有記載的人類歷史起，安全始終是一個有組織的社會追求的最低目標。 在每個時代，尋求安全的社會都試圖將技術進步轉化為日益有效的方法，用以監視威脅，練兵備戰，施影響於國界之外，戰時則用於加強軍事力量以取得勝利。對最早期的組織社會來說，冶金、防禦工事、戰馬蓄養和造船等方面的進步往往具有決定性的意義。到了近代早期，火器槍砲、海軍船艦、航海工具和技術方面的創新也發揮了類似的作用。

隨著力量的增強，主要大國之間會相互衡量，以評估哪一方會在衝突中獲勝，取得這樣的勝利會帶來什麼風險和損失，開戰有什麼正當的理由，以及另一個大國及其軍事力量介入衝突會對結果產生什麼影響。不同國家的戰力、目標和戰略至少在理論上被設定為一種平衡，或者說是一種力量的均衡。

人工智慧時代的網路戰爭

#在過去的一個世紀裡，對手段和目的的策略調整已然出現了脫節。用於追求安全的技術層出不窮，破壞性也越來越大，而運用這些技術實現既定目標的策略卻變得越來越難以捉摸。 在當今時代，網路和人工智慧的出現又為這些策略運算增加了超乎尋常的複雜性和抽象性。

在冷戰結束後的今天，主要大國和其他國家都利用網路能力增強了本國的武器庫，這些網路能力的效用主要源自其不透明性和可否認性，在某些情況下，也源自對其在散播虛假資訊、收集情報、蓄意破壞和傳統衝突的模糊邊界上的運用——這構成了種種尚無公認理論教條的戰略。同時，每一次進步都伴隨著新的弱點被揭露。

人工智慧時代可能使現代戰略之謎更趨複雜化，這並非人類本意，也許還完全超越人類的理解。即使各國不廣泛部署所謂的致命自主武器（即經過訓練和授權可以自主選擇目標，並在沒有進一步人類授權的情況下進行攻擊的自動或半自動人工智慧武器），人工智慧仍有可能增強常規武器、核武和網路能力，使對手之間的安全關係更加難以預測和維護，衝突更加難以限制。

沒有哪個大國可以忽視人工智慧的安全維度。一場爭奪人工智慧戰略優勢的競賽已經開始，尤其是在美國和中國之間，當然還有俄羅斯。隨著對他國正在獲得某些人工智慧能力的認知或猜疑日益蔓延，將會有更多國家尋求獲得這些能力。而一旦被引入，這能力就會快速擴散。 雖然創造一種複雜的人工智慧需要大量的算力，但對其進行增殖擴散或使用它通常並不需要。

解決這些複雜問題的辦法既不是陷入絕望，也不是繳械投降。 核子技術、網路技術和人工智慧技術已經存在，其中每一項技術都將不可避免地在策略中發揮作用。我們已不可能退回到這些科技「未被發明」的時代。如果美國及其盟友因這些能力可能產生的影響而畏縮不前，結果不會是一個更和平的世界。相反，那將是一個不太平衡的世界，身處其中的各國競相發展和使用最強大的戰略能力，而不考慮民主責任和國際平衡。

今後幾十年，我們需要實現一種力量平衡，這種平衡既要考慮到網路衝突和大規模虛假資訊傳播等無形因素，也要考慮到由人工智慧輔助的戰爭的獨特屬性。殘酷的現實迫使人們認識到，即使在彼此競爭中，人工智慧領域的對手也應致力於限制極具破壞性、不穩定性和不可預測性的人工智慧能力的開發和使用。 在人工智慧軍備控制方面的清醒努力與國家安全並不衝突，它是一種嘗試，為的是確保在人類未來的框架下尋求實現安全。

一個社會的數位能力越強，這個社會就變得越脆弱

縱觀歷史，一個國家的政治影響力往往與其軍事力量和戰略能力大致匹配，這是一種即使主要透過施加隱性威脅也會對其他社會造成破壞的能力。然而，基於這種力量權衡的均勢不是靜態的或自我維持的。相反，它首先依賴各方就這一力量的構成要素及其使用的合法界限達成共識。其次，維持均勢需要體系內所有成員，尤其是對手，就各國的相對能力、意圖和侵略的後果進行一致的評估。最後，要保持均勢需要一個實際的、公認的平衡。當體系中的一方以一種與其他成員並不成比例的方式增加自身力量時，體系將透過組織對抗力量或透過適應新的現實來設法做出調整。 當均勢的權衡變得不確定時，或當各國對各自相對實力的權衡結果完全不同時，由誤算引發衝突的風險就會達到最大。

在當今時代，這些權衡的抽象性更進一步。帶來這種轉變的原因之一是所謂的網路武器，這類武器涉及軍用和民用兩個領域，因此其作為武器的地位是模糊的。 在某些情況下，網路武器在行使和增強軍事力量方面的效用主要源於其使用者未揭露其存在或未承認其全部能力。 傳統上，衝突各方都不難認識到發生了交戰，或認識到交戰各方是誰。對手間會計算對手的戰力，並評估他們部署武器的速度。可是這些在傳統戰場上顛覆的道理卻不能直接套用到網路領域。

常規武器和核武存在於物理空間中，在那裡，它們的部署可以被察覺，它們的能力至少可以被粗略地計算出#來。相較之下，網路武器的效用很大一部分來自其不透明性；若被公之於眾，它們的威力自然有所減損。 這些武器利用先前未曾揭露的軟體漏洞，在未經授權使用者許可或知情的情況下侵入網路或系統。在「分散式阻斷服務」（DDoS）攻擊（如對通訊系統的攻擊）的突發事件中，攻擊者可能會使用一大堆看似有效的資訊請求來壓垮系統，使系統無法正常使用。在這種情況下，攻擊的真實來源可能被掩蓋，使人們難以或無法（至少在當時）確定攻擊者。即使是最著名的網路工業破壞事件之一——震網（Stuxnet）病毒破壞了伊朗核子計畫中的製造控制計算機，也沒有任何政府對此事做過正式承認。

常規武器和核武可以相對精確地瞄準目標，道德和法律要求它們瞄準的物件只能是軍事力量和設施。 而網路武器可以廣泛地影響運算和通訊系統，往往對民用系統造成特別有力的打擊。 網路武器也可以被其他行為者基於其他目的而進行吸收、修改和重新部署。這使得網路武器在某些方面類似於生物和化學武器，其影響可以以非預期和未知的方式傳播。在許多情況下，網路武器影響的是大範圍的人類社會，而不僅僅是戰場上的特定目標。

網路武器的這些用途，使得網路軍備控制難以被概念化或被推行。核武軍備控制的談判人員可以公開或描述一類核彈頭，而不必否認該武器的功能。網路軍備控制談判人員（目前尚不存在）則需要解決以下悖論：一旦對網路武器的威力進行討論，可能就會導致這種威力的喪失（允許對手修補漏洞）或擴散（對手得以複製程式碼或侵入方法）。

我們所處的數位時代的一個核心悖論是：一個社會的數位能力越強，這個社會就變得越脆弱。 電腦、通訊系統、金融市場、大學、醫院、航空公司和公共交通系統，甚至民主政治的機制，所涉及的系統在不同程度上都容易受到網路操縱或攻擊。隨著已開發經濟體將數位指揮和控制系統整合到發電廠和電網中，將政府專案轉移到大型伺服器和雲端系統中，並將資料轉耆到電子帳簿中，它們在網路攻擊面前的脆弱性也成倍增加。這些行為提供了更豐富的目標集合，因此僅僅一次成功的攻擊就可能造成實質的破壞。與此相對，如果發生數位破壞的情況，低科技國家、恐怖組織甚至個人攻擊者可能會認為他們承受的損失相對要小得多。

人工智慧將為戰爭帶來新的變數

各國正悄無聲息地，有時是試探性地，但又確鑿無疑地發展和部署那些對各種軍事能力的戰略行動均有所促進的人工智能，這對安全政策可能產生革命性影響。

戰爭一直是一個充滿不確定性和偶然性的領域，但人工智慧進入這個領域將為其帶來新的變數。

人工智慧和機器學習將透過擴大現有武器類別的打擊能力來改變行為者的策略和戰術選擇。人工智慧不僅能使常規武器瞄準得更精準，還能使它們以新的、非常規的方式進行瞄準，例如（至少在理論上）瞄準某個特定的個人或物體，而不是某個地點。透過研究大量資訊，人工智慧網路武器可以學習如何滲透防禦，而不需要人類幫它們發現可以利用的軟體漏洞。同樣，人工智慧也可以用於防禦，在漏洞被利用之前定位並修復它們。但由於攻擊者可以選擇目標而防禦者不能，人工智慧即使未必讓進攻方戰無不勝，也可令其占得先機。

如果一個國家面對的對手已經訓練人工智慧來駕駛飛機、獨立做出瞄準的決策並開火，那麼採用這種技術將在戰術、戰略或訴諸升級戰爭規模（甚至是核戰）的意願方面產生什麼變化？

人工智慧開啟了資訊空間能力的新視野，包括虛假資訊領域。生成式人工智慧可以創造大量似是而非的虛假資訊。人工智慧推波助瀾的資訊戰和心理戰，包括使用偽造的人物、圖片、影片和演講，無時無刻都在暴露出當今社會令人不安的新弱點，尤其是在自由社會。廣泛轉發的示威活動配上了看似真實的圖片和視頻，裡面的公眾人物發表著他們從未真正說過的言論。從理論上講，人工智慧可以決定將這些由人工智慧合成的內容以最有效的方式傳遞給人們，使其符合人們的偏見和期望。 如果一個國家領導人的合成形像被對手操縱，以製造不和或發布誤導性的指令，公眾（甚至其他政府和官員）會及時識破這種騙局嗎？

在災難真正發生之前行動

各個主要的技術先進國家都需要明白，它們正處於戰略轉型的門檻上，這種轉型與當年核武的出現同等重要，但影響將更加多樣化、分散化和不可預測。 每個正在擴展人工智慧前沿的社會都應致力於成立一個國家層面的機構，來考慮人工智慧的防禦和安全，並在影響人工智慧創建和部署的各個部門之間建立橋樑。 這個機構應被賦予兩項職能：確保維持本國在世界其他地區的競爭力，同時協調研究如何防止或至少限制不必要的衝突升級或危機。在此基礎上，與盟友和對手進行某種形式的談判將是至關重要的。

如果要對這個方向進行探索，那麼世界兩大人工智慧強國——美國和中國——就必須接受這個現實。兩國可能會得出這樣的結論：無論兩國競爭的新階段可能會出現何種形式的競賽，兩國仍應該尋求達成一項共識，即不會與對方打一場前沿技術戰爭。雙方政府可以委託某個團隊或高級官員負責監督，並直接向領導人報告潛在的危險，以及如何避免這些危險。

在人工智慧時代，我們應該對長期以來的策略邏輯進行調整。 在災難真正發生之前，我們需要克服，或至少是遏制這種自動化的驅動。 我們必須防止運行速度比人類決策者更快的人工智慧做出一些具有戰略後果的、不可挽回的行為。防禦力量的自動化，必須在不放棄人類控制的基本前提下去實施。

當代領導者可以透過將常規能力、核子能力、網路能力和人工智慧能力廣泛且動態地結合在一起，來實現控制武器裝備的六大任務。

第一，對抗和敵對國家的領導人必須準備定期進行相互對話，討論他們都想要避免的戰爭形式，就像他們的前任在冷戰期間所做的那樣。為對此有所助力，美國及其盟友應該圍繞它們認為共同的、固有的和不可侵犯的利益與價值觀組織起來，這些利益和價值觀包括在冷戰結束時及冷戰後成長起來的幾代人的經驗。

第二，必須對核戰略的未解難題給予新的關注，並認識到其本質正是人類在戰略、技術和道德方面遭遇的巨大挑戰之一。幾十年來，對廣島和長崎被原子彈化為焦土的記憶迫使人們認識到核問題的不尋常性和嚴峻程度。正如美國前國務卿喬治·舒爾茨在2018 年對國會所說：「我擔心人們已經失去了那種恐懼感。」擁核國家的領導人必須認識到，他們有責任共同努力，以防止災難的發生。

第三，網路與人工智慧技術的領先大國應該努力界定其理論和限制（即使其所有方面均未被公開），並找出自身理論與競爭大國之間的關聯點。如果我們的意圖是威懾而非使用，是和平而非衝突，是有限衝突而非普遍衝突，就需要以反映網路和人工智慧獨特層面的措辭來重新理解和定義這些術語。

第四，擁核國家應承諾對其指揮控制系統和早期預警系統進行內部檢查。這類失效保護檢查應確定檢查步驟，以加強對網路威脅和在未經授權、疏忽或意外情況下使用大規模毀滅性武器行為的防範。這些檢查還應包括排除對核指揮控制系統或早期預警系統相關設施的網路攻擊的選項。

第五，世界各國，特別是技術強國，應制定強而有力且可接受的方法，在緊張局勢加劇和極端情況下盡量延長決策時間。這應該是一個共同的概念性目標，特別是在競爭對手之間，它可以將控制不穩定性和建立共同安全所需的步驟（既有當前的，也有長期的）聯繫起來。在危機中，人類必須對是否使用先進武器承擔最終責任。特別是競爭對手間應該努力就一種機制達成一致，以確保那些可能不可撤銷的決定是以有助於人類對其加以思考並有利於人類生存的方式做出的。

第六，主要的人工智慧大國應該考慮如何限制軍事化人工智慧的持續擴散，或依賴外交手段與武力威脅，進行系統性的防擴散工作。那些野心勃勃地想要將科技用於不可接受的破壞性目的的技術收購者會是誰？有哪些特定的人工智慧武器值得我們特別關注？誰來確保這條紅線不會被跨越？老牌的核子大國探索過這種防核擴散概念，結果成敗參半。如果一種具有顛覆性和潛在破壞性的新技術被用於武裝世界上懷有最強烈敵意或道德上最不受約束的政府的軍隊，那麼戰略均勢可能難以實現，衝突也可能無法控制。

由於大多數人工智慧技術具有軍民兩用特性，我們有責任在這場技術研發競賽中保持領先。但這也同樣迫使我們去理解它的限制。等到危機來臨才開始討論這些問題就為時已晚了。一旦在軍事衝突中使用，人工智慧技術的反應速度之快，幾乎注定它將以比外交手段更快的速度產生結果。大國之間必須就網路和人工智慧武器展開討論，即使只是為了形成一套共同的戰略概念話語，以及感知彼此的紅線。

要在最具破壞性的能力上實現相互制約，絕不能等到悲劇發生再去亡羊補牢。 當人類開始在創造新的、不斷演化的、擁有智慧的武器方面展開競爭時，歷史不會原諒任何對此設限的失敗。在人工智慧時代，對國家優勢的持久追求，仍須以捍衛人類倫理為前提。

我們依舊會送出三本給粉絲，歡迎大家留言，我們會主動選取三條不錯的粉絲留言贈書。

- end -

依姓名首字母排序

上下滑動閱讀更多內容

安 昀 | 鮑無可 | 包承超 | 賁興振 | 薄官輝 | 畢天宇

曹 晉 | 曹 霞 | 曹文俊 | 常亞橋 | 常 蓁 | 常 遠

崔建波 | 陳璇淼 | 陳一峰 | 陳 平 | 陳 媛 | 陳立秋

陳 軍 | 陳覺平 | 陳文揚 | 陳 宇 | 陳金偉 | 陳國光

陳思靖 | 陳 鵬 | 陳 瑋 | 陳樂天 | 陳軼事平 | 陳良棟

陳連權 | 陳懷逸 | 陳 文 | 成念良 | 程 彧 | 程 洲

程 琨 | 程 濤 | 崔 瑩 | 蔡嵩松 | 蔡 濱 | 蔡 曉

蔡志鵬 | 蔡志文 | 代雲峰 | 鄧炯鵬 | 董偉煒 | 董 超

董 梁 | 杜曉 海 | 杜 洋 | 杜 沛 | 杜 廣 | 馮明遠

傅奕翔 | 付 斌 | 付 娟 | 付偉琦 | 費 逸 | 範 潔

範庭芳 | 方鈺涵 | 方 緯 | 方 抗 | 方 建 | 方 昶

高蘭君 | 高 遠 | 剛登峰 | 葛 晨 | 顧耀強 | 顧益輝

谷琦彬 | 歸 凱 | 郭 銳 | 郭 堃 | 郭相博 | 鞏懷志

韓 冬 | 韓海平 | 韓 冰 | 郝旭東 | 郝 淼 | 何 帥

何曉春 | 何 琦 | 何以廣 | 賀 喆 | 霍東傑 | 侯振新

侯 梧 | 侯 傑 | 洪 流 | 胡昕煒 | 胡魯濱 | 胡宜斌

胡 濤 | 胡 偉 | 胡志利 | 胡 喆 | 黃 峰 | 黃 力

黃立華 | 黃 波 | 黃 晧 | 黃塏銳 | 黃瑩潔 | 薑黃 誠

姜 英 | 蔣 鑫 | 蔣 璆 | 江 勇 | 江 琦 | 江 虹

紀文靜 | 焦 巍 | 賈 鵬 | 賈 騰 | 金晟哲 | 金笑非

金梓才 | 季新星 | 季 鵬 | 匡 偉 | 孔 令超 | 勞傑男

藍小康 | 雷 鳴 | 雷 敏 | 雷志勇 | 李德輝 | 李 琛

李曉西 | 李曉星 | 李元博 | 李耀柱 | 李玉剛 | 李健偉

李 建 | 李佳存 | 李 巍 | 李 競 | 李 君 | 李振興

李 欣 | 李少君 | 李 瑞 | 李文賓 | 李 彪 | 李宜璇

李子波 | 李 倩 | 李 燕 | 李 崟 | 厲葉淼 | 黎海威

廉趙峰 | 梁 浩 | 梁 輝 | 梁 力 | 梁永強 | 梁文濤

廖瀚博 | 林 慶 | 林劍平 | 林森 | 劉 斌 | 劉 波

劉 輝銀華| 劉 輝東方紅| 劉格 菘 | 劉 江 | 劉曉龍

劉 蘇 | 劉 銳 東方紅| 劉 銳 中信保誠| 劉 平 | 劉 瀟

劉 兵 | 劉 曉 | 劉開運 | 劉元海 | 劉心任 | 劉志輝

劉偉偉 | 劉 鵬 | 柳世慶 | 柳萬軍 | 陸 彬 | 陸政哲

陸 欣 | 陸 航 | 陸 奔 | 陸文凱 | 羅春蕾 | 羅世鋒

羅佳明 | 羅遠航 | 駱 瑩 | 呂佳瑋 | 呂越超 | 樓慧源

馬 翔 | 馬 龍 | 毛從容 | 莫海波 | 苗 宇 | 閔良超

牛 勇 | 倪權生 | 彭凌志 | 彭成軍 | 潘中寧 | 潘 明

蒲世林 | 齊 皓 | 祁 禾 | 邱璟旻 | 丘棟榮 | 邱 傑

錢威 | 錢亞風雲 | 秦 毅 | 秦緒文 | 曲 徑 | 饒 剛

任琳娜 | 桑 磊 | 宋海岸 | 宋 華 | 石海慧 | 石 波

沈 楠 | 沈雪峰 | 史 偉 | 是星濤 | 蘇謀東 | 蘇俊傑

孫 芳 | 孫 偉 民生加銀| 孫 偉 東方紅| 孫軼事佳 | 孫浩中

孫夢禕 | 邵 卓 | 盛震山 | 唐頤恆 | 唐 華 | 湯 慧

譚冬寒 | 譚鵬萬 | 譚 麗 | 田彧龍 | 田 瑀 | 田宏偉

屠環宇 | 陶 燦 | 萬建軍 | 王大鵬 | 王東傑 | 王 剛

王君正 | 王 涵 | 王 俊 | 王 培 | 王 鵬 | 王 熱

王延飛 | 王宗 合 | 王克玉 | 王 景 | 王詩瑤 | 王曉明

王奇瑋 | 王筱苓 | 王園 | 王 垠 | 王文祥 | 王 睿

王海濤 | 王登元 | 王 健 | 王德 倫 | 王藝偉 | 王浩冰

王 斌 | 王小寧 | 王 浩 | 魏曉雪 | 魏 東 | 韋明亮

翁啟 森 | 吳 星 | 吳 達 | 吳培文 | 吳豐樹 | 吳 印

吳 渭 | 吳 越 | 吳 弦 | 吳 堅 | 吳 悠 | 伍 旋

武 傑 | 蕭瑞瑾 | 蕭威兵 | 蕭 覓食 | 謝書英 | 謝振東

徐荔蓉 | 徐志敏 | 徐 成 | 徐 斌 | 徐 博 | 徐志華

徐習佳 | 徐 爽 | 許文星 | 許 炎 | 許望偉 | 許利明

薛冀穎 | 夏 雨 | 顏 媛 | 閆 旭 | 楊 棟 | 楊 浩

楊 瑨 | 楊銳文 | 楊 帆 | 楊岳斌 | 楊 明 | 楊 飛

楊曉斌 | 姚 躍 | 姚志鵬 | 葉 松 | 葉 展 | 易智泉

易小金 | 於 渤 | 於 洋 | 於善輝 | 於浩成 | 於 鵬

俞曉斌 | 袁 宜 | 袁 航 | 袁 曦 | 袁多武 | 袁爭光

餘小波 | 餘芽芳 | 餘科苗 | 張丹華 | 張東一 | 張 凱

張 峰 富國 | 張 峰 農銀匯理| 張 鋒 | 張漢毅 | 張 暉

張 慧 | 張金濤 | 張 駿 | 張劍峰 | 張 萍 | 張 帆

張延鵬 | 張迎 軍 | 張益 馳 | 張鴻羽 | 張 弘 | 張 航

張 寓 | 張宇帆 | 張 楊 | 張 堃 | 張仲維 | 張 勳

張 靖 | 張 亮 | 張西林 | 張小龍 | 張浩佳 | 張亞輝

張 英 | 章 恆 | 章 暉 | 章旭峰 | 章秀奇 | 章鴿武

詹 成 | 趙大震 | 趙曉東 | 趙 強 | 趙 劍 | 趙浩添

趙 偉 | 曾 剛 | 鄭澄然 | 鄭慧蓮 | 鄭 科 | 鄭 磊

鄭巍 山 | 鄭 偉 | 鄭澤鴻 | 鄭 日 | 週應 波 | 周克平

週 良 | 週雪軍 | 週 雲 | 週 楊 | 週 崟 | 周寒穎

週智碩 | 週文群 | 朱 平 | 朱 賟 | 朱曉 亮 | 鐘 賟

鐘 帥 | 朱 熠 | 左金保 | 趙 蓓 | 智 健 | 鄒立虎

鄒維娜 | 鄒 唯 | 鄒 曦

以上是百歲基辛格談人工智慧：不要等到危機來臨才開始重視的詳細內容。更多資訊請關注PHP中文網其他相關文章！