美媒：人工智慧危險程度堪比疫情、核戰

#參考訊息網5月31日報道美國《財富》雜誌網站5月30日發表題為《薩姆·奧爾特曼和其他技術專家警告，人工智慧構成「滅絕風險”，危險程度與疫情、核戰不相上下》的報道，全文摘編如下：

技術專家和電腦科學專家警告說，人工智慧對人類生存構成的威脅與核戰和全球大流行病相比不相上下，就連替人工智慧打頭陣的商界領袖也對這項技術威脅人類的生存發出了警告。

非營利研究機構人工智慧安全中心30日發表了一份“關於人工智慧風險的聲明”，在聲明上簽字的有300多人，開放人工智慧研究中心的首席執行官薩姆·奧爾特曼也是其中一個。這封信雖然簡短，但它概括了人工智慧的風險。信中說：「降低人工智慧滅絕人類的風險以及降低流行病和核戰等其他影響全社會的風險，應該成為全球優先考慮的事項。」

這封信的開頭表明，聲明的目的是啟動討論，為應對人工智慧技術可能導致世界末日的能力做好準備。約舒亞·本喬和前谷歌工程師傑弗裡·欣頓，還有其他簽名者都加入了這個行動。由於這兩人對現代電腦科學的貢獻，他們被譽為人工智慧教父。近幾週來，本喬和欣頓已多次就人工智慧技術在不久的將來可能發展出何種危險能力發出警告。欣頓最近離開了谷歌，以便能夠更公開地討論人工智慧的風險。

這不是第一封呼籲進一步關注先進人工智慧研究在沒有政府更嚴格監管的情況下可能帶來何種災難性結果的信。今年3月，超過1,000名技術專家以此技術具有破壞性的潛力為由，呼籲暫停研究先進人工智慧6個月，伊隆馬斯克也是其中之一。

奧爾特曼本月警告國會，隨著科技快速發展，監管已經跟不上了。

奧爾特曼最新聲明與先前的信件不同，沒有明確提出任何具體目標，僅呼籲展開討論。而欣頓本月稍早在接受美國有線電視新聞網（CNN）採訪時說，他沒有在3月的那封信上簽字。

儘管包括開放人工智慧研究中心甚至谷歌在內的頂尖人工智慧研究機構的高管呼籲各國政府在監管人工智慧方面盡快採取行動，但一些專家警告說，在當前的一些問題——包括虛假資訊和可能存在的偏見——已經造成嚴重破壞的情況下，討論這項技術未來威脅人類生存的風險是適得其反的。還有人甚至認為，奧爾特曼等執行長藉著公開討論人工智慧的風險，實際上一直試圖轉移人們對該技術目前已存在問題的注意力。

但預言人工智慧將帶來世界末日的人也警告說，這項技術發展得過快，以至於風險可能很快變成一個問題，是人力所不能及的。超級人工智慧能夠自我思考和思辨的能力日益成熟，這讓越來越多人感到擔憂，速度甚至超出了許多人的預期。一些專家警告說，這項技術目前並不符合人類的利益和福祉。

欣頓本月在接受《華盛頓郵報》採訪時說，超級人工智慧正在快速發展，現在可能只剩下20年的時間了，現在是時候就先進人工智慧的風險進行對話了。

他說：「這不是科幻小說。」（編譯/塗頎）

以上是美媒：人工智慧危險程度堪比疫情、核戰的詳細內容。更多資訊請關注PHP中文網其他相關文章！