對話胡泳：ChatGPT影響力堪比iPhone，最擔心AI武器化丨亮見29期

丨劃重點

#1. iPhone讓不精通技術的人也能輕鬆上手，並開發了一整套應用商店模式，ChatGPT在這一點上，與蘋果的iPhone問世非常相似；

2. ChatGPT大流行，不僅是因為帶來許多實用的功能，也是因為它非常像人類，當科技具有明顯的人類特質時，會導致人們更喜歡科技；

3. 擬人化的人工智慧會阻礙我們進入其他人工智慧路徑，人工智慧的發展方向是增強人類的各種能力，而不是必須模仿人類，也不建議產業扎堆大模型；

4. 如果沒有某種全球監管，人工智慧競賽不會停止，因為它是基於商業邏輯的，馬斯克等人簽署公開信希望停止開發六個月，基本上是癡人說夢；

5. 更長遠、更令人擔憂的問題是將人工智慧應用於武器上，使武器實現自動化獲得大規模殺傷能力。

整理 / 趙楊博

丨概述

#2022年11月，OpenAI正式推出生成式預訓練模型ChatGPT-3.5，短短的5天時間即獲得100萬用戶，並在今年1月底實現用戶數突破1億，一舉成為科技互聯網行業近年來來最具代表性的「現象級」產品。

今年3月，OpenAI又趁熱打鐵推出ChatGPT-4，此時谷歌、百度、阿里等一眾中文網路公司紛紛下場，掀起「百模大戰」熱潮。

ChatGPT的走紅，留下了很多值得關注的問題，為什麼它來自OpenAI這樣的團隊；OpenAI又使用了什麼樣的增長魔法，讓其能夠在2個月實現1億的用戶；它的增長路徑是否具有可複製性，以及究竟能夠火化多久，或者會不會只是曇花一現？

北京大學新聞與傳播學院教授胡泳認為，隨著ChatGPT在全球引發的人工智慧浪潮，一場AI界的「軍備競賽」已經展開，如果沒有全球監管，競賽或許永遠不會停止。

針對愈演愈烈的「百模大戰」，胡泳教授提議產業嘗試探索大模型之外的更多可能，「大模型固然好，但它不是人工智慧發展的唯一路徑」，他強調「不應該把所有的資源都集中在一方面，成功有多種選擇」。

01

AI的「iPhone時刻」

劉興亮：微軟創辦人比爾蓋茲說，ChatGPT的意義不亞於PC和網路的誕生，這樣的描述是否準確？

胡泳：如果回歸到本質，ChatGPT其實是一種產品。我們可以從產品的角度來討論為什麼ChatGPT會如此流行。

過去的30年湧現了許多高科技產品，但我認為只有三個產品真正具備顛覆科技產業的能力：「Netscape Navigator」瀏覽器、Google搜尋、iPhone。

網景瀏覽器，來源：網頁

首先是網景的「Netscape Navigator」瀏覽器，沒有瀏覽器就沒有後來的萬維網；其次是谷歌的搜尋引擎，它對整個PC互聯網時代產生了巨大影響；第三個則是iPhone，後來人們也將iPhone誕生所帶來的巨大影響稱為「iPhone時刻」。這三種產品的出現推動了整個產業的發展，對使用者也扮演了重要的推動作用。

而ChatGPT的問世被比喻為AI版的「iPhone時刻」，說明了ChatGPT的顛覆性作用有多大。

iPhone之前主流手機是諾基亞和摩托羅拉，它們的介面與iPhone完全不同。 iPhone讓不精通技術的人也能輕鬆上手，它引入了多點觸控技術，並開發了一整套應用程式商店模式。從那時起，人人開始使用手機，而今天我們某種程度上已經離不開手機，這一切都要歸功於蘋果。

ChatGPT在這一點上，與蘋果的iPhone問世非常相似。

為什麼要把它比喻成「iPhone時刻」？ ChatGPT向任何一個對人工智慧一無所知的人展示了「什麼是人工智慧」。即使你以前從未聽說過人工智慧，也不知道它能做什麼，但ChatGPT告訴你，這就是人工智慧，它可以做這些事情。

劉興亮：ChatGPT大流行之後，會如何改變我們的生活方式?

#胡泳：第一個變化是簡單易用的介面，沒有這樣的介面就無法上手。一旦上手之後就要考慮要用它來做什麼，而「做什麼」其實就對應的是現實生活的改變。

我們發現，ChatGPT在那些流行的社交媒體帖子中，被描述為一個無所不能的傢伙，任何工作都可以交給它來嘗試。

舉個簡單易懂的例子，例如在一個情境中，有個男生向聊天機器人提出請求，說他的女朋友缺乏安全感。他希望機器人能幫他寫段話，用正確的措詞安撫她的情緒，人工智慧馬上也能執行這個需求。

各種推薦演算法，本質上都是人工智慧。例如，開車時使用地圖，它們會給你計算最佳路線，這也是人工智慧的一種應用，它甚至可以幫你叫車，只是用戶還沒有感知。但ChatGPT把對人工智慧的感知推到了普通人面前。

劉興亮：預測一下人工智慧在未來可能還會有什麼樣的發展趨勢和應用情境？

胡泳：人工智慧代表著現在高科技產業的覺醒，它本質上就是高科技產業的重要成果，且正在喚醒其他產業。

我認為接下來會發生的是每家雲端公司、軟體公司都會問自己，人工智慧發展到這個階段，對我們意味著什麼？這又引發了一波新的創業浪潮，因為數百家新創公司正在湧現。

同時，我們也看到了令人難以置信的應用案例，這些應用是透過生成式人工智慧建構的，現在人們熟知的圖像生成就是其中之一。

AI生成的機器人雜誌封面，圖片來源：Midjourney

另外，我認為還有一個要點是高科技領域的版圖可能會被重新劃分，這其中最引人注目的焦點就是Google。

Google擁有目前網路產業中最有利可圖的業務——搜尋引擎，但人工智慧的出現有可能會完全改變人們對搜尋的期望，使其成為競爭激烈的領域，但這也會帶來一些問題，沒有人考慮過——用戶使用搜尋引擎是從網站上獲取答案的，人工智慧直接將獲取的內容呈現在對話框中，而不會將流量傳送給這些網站。

沒有了流量，網站靠什麼來獲取收入？

如果失去了廣告收入，這些網站可能會萎縮和關閉，然而如果這些網站都消失了，那麼人工智慧的訊息從何而來？

我認為，這可能會對我們原有的網路生態系統造成一定的失衡，這也意味著我們現在可能需要問自己一個問題：網路是否已經走到了盡頭？

02

#ChatGPT大流行，因為越來越像人類

劉興亮：一夜之間ChatGPT飛入尋常百姓家，3月用戶已經破億，成為史上用戶破億最快的產品，原因是什麼？

胡泳：我認為人工智慧的擬人化是個重要原因，當你與它聊天時，你不禁會想知道你是在與真人聊天，還是與機器人聊天？這其實就是經典的「圖靈測試」，我們可以說——由於ChatGPT的推出，「圖靈測試」得以實現。

再用原始的問題為ChatGPT做測試可能現在已經沒有那麼大的價值，因為你會發現聊天機器人是有記憶的，它可以回憶起之前的對話線程。

根據無數用戶的測試結果，例如微軟的必應聊天機器人，他們發現「New Bing」不僅有記憶，還似乎具備情感。有時甚至發生了一些所謂的「想逃出聊天框」的故事，甚至愛上了人類用戶。

除了它帶給我們很多實用的功能，像是寫文案、篩選履歷等等，它還有一個非常重要的特點，就是它非常像人類，這可以解釋為什麼人們對它非常喜愛。

根據社會科學的研究，人們非常喜歡像人類一樣與科技互動。當科技具有明顯的人類特質時，會導致人們更喜歡科技。甚至當它犯了錯誤或搗亂、侮辱了你時，你可能會覺得更有趣，因為你並不希望只有一個機械地給你正確答案的工具，這些特質反而使你覺得它更親切。

嚴格來說，這與我們大腦的結構有關係，我們存在著一種認知偏見——我們非常喜歡將我們看到的對象賦予人的特質。

你可能看過波士頓動力公司發布的視頻，工程師們狠狠地踢機器人，而觀眾的反應都是說“你太殘忍了”，這表明我們對機器人有強烈的共情能力。甚至我們想像有一天機器人會對我們進行報復。這其實是將人對人的特質投射到機器人身上，更深層地滿足了我們的心理需求。這也可以解釋為什麼這種ChatGPT如此流行，因為這是人類特質的體現。

劉興亮：ChatGPT大概一週用戶量破100萬，兩個月用戶破億，在網路產業，這是什麼概念，它的紀錄還有可能被打破嗎？

胡泳：最直接比較是TikTok，大約花了九個月達到一億用戶的水平。而另一個令人印象深刻的是Instagram，他們用了兩年多才達到同樣的用戶量，這可以說是創造了一個前所未有的奇蹟。

我們無法確定後面是否還會有「兩個月用戶數破億」的現象，如果僅從消費者層面來看，毫無疑問ChatGPT代表著人工智慧領域找到了它的殺手應用。

由於機器學習的巨大成功，整個人工智慧的發展路徑似乎是千軍萬馬向大型模型發展。我個人對這個問題持懷疑態度,我認為人工智慧不一定只能走這一條路。

由於大型模型的巨大成功，目前全球最大的科技平台，包括中國和美國的主要科技公司，都將賭注押在大型語言模型上。如果沿著這條路走的話，可能會出現下一個里程碑式的現象。

如果人工智慧還有其他路徑，那麼當然也可能在其他路徑上發展出其他殺手應用，這完全取決於目前整體的大科技平台將其人力、物力和技術投入到哪個方向上。

03

#不建議扎堆大模型

劉興亮：ChatGPT能流行是因為它越來越像人，但是您又說又不想讓機器人擬人化，這是不是有矛盾的地方？

胡泳：不矛盾。現在的人工智慧越來越像人，指的是當前人工智慧的發展方向。但我並不希望它過度擬人化，也就我反對這種發展方向。

如果我們將其放在一個更廣闊的論辯中來討論，只是在討論兩種觀點：一方認為人工智慧必定會毀滅人類，另一方則認為人工智慧不會毀滅人類，它只會讓我們的生活變得更好。

無論是哪一方，他們對於人工智慧的行為預測都是基於擬人化的邏輯，也就是他們把自己的文化邏輯應用在人工智慧身上。

支持「人工智慧可能毀滅人類」觀點的人會說，通用人工智慧（AGI）會追求權力，在這個過程中，人工智慧本身也可能會質疑：「為什麼總是被人類操控，『我'是否可以擁有自主意識，自己做決定？」。

另一方支持「人工智慧不會對人類產生影響」觀點的人會認為，透過向人工智慧灌輸人類的道德規範，它會按照這些規範行事，就像使用阿西莫夫的機器人三定律，如果告訴人工智慧必須遵守這些規則，那麼它就不會對人類造成破壞。

問題在於，擬人化的人工智慧發展會阻礙我們進入其他人工智慧的路徑。我認為，人工智慧的發展方向是努力增強人類的各種能力，而不是必須模仿人類。

舉個例子，我們在工作或生活中，由於人類自身的天然限制，有很多事情我們無法做到最好。這時候應該希望透過發展人工智慧來彌補我們的不足之處，這時增強型人工智比擬人型人工智慧更有用。

例如智慧養老，如果床墊可以具備智慧功能，或是老人跌倒時有跌倒預警，當老人需要服藥時有提醒他該吃藥的功能。我認為這些東西真的可以對我們進入老齡社會有所幫助，而不一定要請一個機器人到家裡。現在產業正在朝著幫助人類的發展方向前進，但這還不夠。

目前大家都紛紛關注大語言模型，不是說大語言模型不好，但我不希望它成為人工智慧發展的唯一路徑，不應該把所有的資源都集中在這一個方面。

04

#馬斯克們的公開信是「癡人說夢」

#劉興亮：ChatGPT已經成為一款現象級，這種現象還能持續多久？

胡泳：從目前來看，業界稱為「軍備競賽」的大模型熱潮已經開始。

我們知道谷歌一直擁有大型語言模型，甚至Transformer技術也是由谷歌發明的，但是谷歌為什麼沒有成為這次競賽的引爆者，不是他們技術沒有足夠儲備，主要是谷歌非常謹慎。

//編註：2017年6月，Google Brain團隊在神經資訊處理系統大會上發表了一篇名為「Attention is all you need」《自我注意力是你所需要的全部》的論文，被視為了大語言模型的開山之作。

相較之下，微軟將這項技術很快速地應用到必應搜尋引擎甚至包括辦公室軟體上，這是因為微軟本身是OpenAI的重要投資者，其次微軟的搜尋引擎在全球市場只佔據了3%的份額，非常微弱，而谷歌佔據了超過90%，必應對微軟來說是「完全無所謂」的產品，那麼為什麼不冒一次險，大膽去顛覆谷歌？於是谷歌就陷入了被動的局面，開始應戰，進入了這場軍備競賽。

ChatGPT、Bard、Bing 圖表來源：網路

那競賽會持續多久？

我覺得如果沒有某種全球監管，這場競賽是不會停止，因為它是基於商業邏輯的。

最近馬斯克等人簽署了一封公開信，希望停止開發六個月，我覺得這封公開信基本上是癡人說夢。他們憑什麼會一致同意停止六個月？

甚至從公司的角度來看，由於巨大的利益或商業需求，他們可能會忽略某些後果。例如，微軟等公司會有免責聲明，表示他們仍有不足之處，希望大眾能更有耐心，提供更多數據來改善模型。透過這種方式，這些大型人工智慧公司巧妙地規避責任。

關於大模型的治理，如果要形成共識，要么全球各方找到一種共同的人工智能規範方法，要么公眾認為這個技術對我們產生了太大的影響，且已經超出經濟範疇，比如造成大規模失業，引起社會強烈反彈。

除了這兩種情況，我們目前看不到競賽的終點，它只會加速向前發展。

劉興亮：如果AI繼續一路狂奔，未來會有什麼問題和風險？

胡泳：短期來看，一個比較大的風險就是大規模的人類失業，這不是虛構的問題。

例如剛才我們聊天的時候提到過，以前我們需要插圖時就要尋找有版權的圖片，甚至找插畫家為我們繪畫，現在我們可以使用圖片生成器來生成圖片。如果每個有這種需求的人都使用圖片產生器，那麼插畫家就會失去市場，這已經是一個明顯的趨勢了。這個問題並非玩笑，確實會導致許多人失業。

但更長遠、更令人擔憂的問題是什麼呢？我認為下一個焦點主要是致命的自主武器。

簡而言之，就是將人工智慧應用於武器上，使武器自動化，這種大規模殺傷能力沒有倫理約束，甚至可以實現無差別殺戮。

例如，在戰場上，即使我們知道對方是敵人，身為人類，士兵時還會感到矛盾，因為知道自己在奪走另一個人的生命，但是機器沒有這種意識，只要給它下達指令，它就可能去執行。

根據當前世界的情況，我們仍然存在著各種不平等和對抗。這種情況下人工智慧武器化是完全可能的，事實上也已經在現實中發生過，例如使用無人機精確打擊某個目標。

儘管我們現在很難想像像《魔鬼終結者》那樣，機器人完全取代人類統治地球的情景，但更現實的問題是，由於當前世界並不和平，如果某些國家獲得了這種技術並將其應用於武器，將會造成嚴重的後果。

如果談到追究責任，以自動駕駛為例，如果發生交通事故，責任當然是在自動駕駛系統上，因為它造成了交通肇事。但嚴格來說，自動駕駛車輛很難大規模地造成交通事故，例如連續撞擊多個人，這種可能性是非常小的，而自動化的殺人武器卻完全有可能一下子奪去多人的生命。

最後我想說，我認為今天討論人工智慧時，最重要的問題不是思考人工智慧本身會對我造成什麼影響，而是要思考自己是什麼樣的人。只有弄清楚這一點，我們才能在人工智慧時代生存並找到唯一的可能性。

以上是對話胡泳：ChatGPT影響力堪比iPhone，最擔心AI武器化丨亮見29期的詳細內容。更多資訊請關注PHP中文網其他相關文章！