近400位大佬簽署公開信警示AI風險，OpenAI創辦人也在列

經濟觀察網記者任曉寧美東時間5月30日，美國非營利組織人工智慧安全中心（CAIS）在其官網發布一封聯名公開信，稱AI堪比「大流行病和核戰”，有可能給人類帶來滅絕風險。

公開信只有一句話：「減輕人工智慧帶來的滅絕風險，應該與大流行病和核戰等其他社會規模的風險等級一樣，成為一個全球性的優先事項。」

目前已有超過370位AI大佬簽署了上述聯名公開信，包括OpenAI首席執行官Sam Altman、谷歌DeepMind首席執行官Demis Hassabis和Anthropic首席執行官Dario Amode三大AI公司掌門人等。

圖靈獎得主、被譽為人工智慧「教父」的Geoffrey Hinton和Yoshua Bengio也簽署了這封公開信。

簽署名單裡也有中國學者的身影，包括中國工程院院士、清華大學智慧產業研究院院長張亞勤，中國科學院自動化研究所人工智慧倫理與治理研究中心主任曾毅，清華大學副教授詹仙園。

名單主要以全球知名大學教授為主，其次是人工智慧科學家，此外還有政界人士，例如愛沙尼亞共和國前總統Kersti Kaljulaid。

這個名單人數還在持續增加中。經濟觀察網記者在CAIS官網看到，人工智慧科學家或名人（高階主管、教授、領導）都可提交簽署聲明，並收到確認郵件。

位於美國舊金山的非營利組織CAIS專注於人工智慧安全。他們在官網上表明，只要能夠安全地開發和應用人工智慧(AI)，就有望帶來許多全球福音。儘管人工智慧有了巨大的進展，但在人工智慧安全方面，仍有許多基礎問題有待解決。他們的使命是透過進行安全研究、建立人工智慧安全研究領域和倡導安全標準來降低與人工智慧相關的社會規模風險。

今年3月，國外上千位知名人士也簽署過公開信，警示AI風險。 3月29日，特斯拉創辦人馬斯克、圖靈獎得主Yoshua Bengio等人在非營利組織「生命未來研究所(Future of Life Institute)」網站上發布聯名公告，呼籲暫停開發比GPT-4更強大的AI系統至少6個月，稱其「對社會和人類構成潛在風險」。

目前，OpenAI已經暫停開發GPT-5。

Yoshua Bengio提到簽署原因時說，這封公開信可以提醒學界和工業界：我們必須花時間更好地了解這些系統，並在國家和國際層面製定必要的框架，來增加對公眾的保護。儘管簽署此公開信的影響可能不會那麼顯著，但至少會引起全社會的討論。

在國外，由於ChatGPT應用更廣泛，暴露的風險也逐漸增加。 3月28日，根據比利時媒體LaLibre報道，比利時30歲男子在與聊天機器人ELIZA密集交流數週後自殺身亡，ELIZA是由EleutherAI開發的開源人工智慧語言模型。

圖片顯示，五角大廈附近地區於5月22日發生了一次爆炸事件並迅速在社群媒體上傳播。這張假照片的廣泛傳播導致標準普爾500指數在短期內下跌約0.3％至盤中低點，並從上漲轉為下跌。隨後美國國防部發言人證實，這是一張由AI生成的虛假圖片，這張圖具有明顯的AI生成特徵，例如路燈有些歪，圍欄長在了人行道上等。

AI翻唱歌曲成為一種潮流後，控制全球音樂市場近三分之一份額的環球音樂，已經發函要求蘋果、Spotify等串流平台封禁侵犯公司旋律、歌詞版權的AI作品。

以上是近400位大佬簽署公開信警示AI風險，OpenAI創辦人也在列的詳細內容。更多資訊請關注PHP中文網其他相關文章！