公開信敦促暫停人工智慧研究

生命未來研究所（Future of Life Institute）發布了一封公開信，呼籲暫停某些形式的人工智慧研究六個月。該組織以「對社會和人類的嚴重風險」為由，要求人工智慧實驗室暫停對比GPT-4更強大的人工智慧系統的研究，直到可以在它們周圍設置更多的「安全護欄」。

生命未來研究所在3月22日的公開信中寫道：「具有與人類競爭的人工智慧系統會給社會和人類帶來巨大風險。」「先進的人工智慧可能代表著地球生命史的深刻變化，應該以相應的謹慎和資源進行規劃和管理。不幸的是，這種水平的規劃和管理並沒有實現。」

該研究所認為，如果沒有人工智慧治理框架——例如阿西洛馬人工智慧原則（Asilomar AI Principles，是著名的阿西莫夫的機器人三大法則的擴展版本。這23條準則由該研究所牽頭制定。）—我們就缺乏適當的檢查機制來確保人工智慧以有計劃和可控的方式發展。 這就是我們今天面臨的情況。

"信中寫道：「不幸的是，這種程度的規劃和管理並沒有發生，儘管最近幾個月人工智慧實驗室陷入了一場失控的競賽，以開發和部署越來越強大的數字思維，而沒有人——甚至他們的創造者——能夠理解、預測或可靠地控制這些思維。”

# #在人工智慧研究人員沒有自願暫停的情況下，生命未來研究所敦促政府採取行動，防止對大型人工智慧模型的持續研究造成傷害。

頂尖的人工智慧研究人員在是否暫停研究的問題上存在分歧。 5000多人簽名支持這封公開信，其中包括圖靈獎得主Yoshua Bengio、OpenAI聯合創始人伊隆馬斯克和蘋果聯合創始人史蒂夫沃茲尼亞克。

然而，並不是每個人都相信禁止研究比GPT-4更強大的人工智慧系統符合我們的最大利益。

「我沒有簽署這封信，」Meta首席人工智慧科學家、圖靈獎得主Yann LeCun（2018年與Bengio和Geoffrey Hinton一起獲得圖靈獎）在推特上說。 「我不同意它的前提。」

LeCun、Bengio和Hinton被美國電腦協會（ACM）稱為「深度學習革命之父」，他們在十多年前透過對神經網路的研究掀起了當前的人工智慧熱潮。當年，深度神經網路是世界各地人工智慧研究人員的主要關注點。

隨著Google2017年發表的Transformer論文，人工智慧研究進入了超速狀態。很快，研究人員注意到大型語言模型意外出現的能量財富，例如學習數學的能力、思維鏈推理和指令遵循。

2022年11月下旬，當OpenAI向世界發布ChatGPT時，大眾嚐到了這些LLM能做什麼的滋味。從那時起，科技界一直致力於在他們所做的一切中實施LLM，而建造更大、更強大的模型的「軍備競賽」也獲得了額外的動力，正如3月15日GPT-4的發布。

儘管一些人工智慧專家對LLM的負面影響表示擔憂，包括說謊傾向、私人資料揭露風險以及對就業的潛在影響，但它並沒有使大眾對新人工智慧功能的巨大需求降溫。英偉達執行長黃仁勳（Jensen Huang）稱，我們可能正處於人工智慧的轉折點。但精靈似乎已經從瓶子裡出來了，不知道它下一步會去哪裡。

以上是公開信敦促暫停人工智慧研究的詳細內容。更多資訊請關注PHP中文網其他相關文章！