馬斯克稱人工智慧毀滅人類的可能性為 20%，但仍值得冒險

本站4月1日消息，馬斯克（Elon Musk）在早些時候舉辦的Abundance峰會「人工智慧辯論」研討會上表示，即使人工智慧技術有1/5的可能性會對人類構成威脅，但利大於弊，我們仍值得冒險進行研發。

馬斯克重新評估了他先前對人工智慧的風險評估，他在研討會上表示：「我認為人工智慧有可能終結人類文明。我可能同意Geoffrey Hinton 的觀點，這個機率大約是10% 到20% 左右。」但他補充說：「我認為積極的可能性場景大於消極的可能性場景。」馬斯克並沒有提到他是如何計算該風險的。

本站注意到，去年11月，馬斯克表示這項技術失控的可能性“並非零”，但當時他並未斷言失控的人工智能會致滅人類。

儘管馬斯克一直是監管人工智慧的倡導者，但去年他創辦了一家名為xAI的公司，致力於推動人工智慧的強大功能。 xAI是OpenAI的競爭對手，OpenAI是馬斯克與薩姆·阿爾特曼（Sam Altman）共同創立的公司，但馬斯克在2018年辭去了OpenAI董事會職務。

在高峰會上，馬斯克估計到2030年，數位智慧將超過所有人類智慧的總和。雖然他仍然堅持潛藏在的正面影響大於負面影響，但馬斯克用他在公開場合合使用過的一些最直接的措辭承認了人工智慧繼續按當前軌跡發展將為世界帶來的風險。

馬斯克在3月19日的矽谷活動上談到人工智慧時表示，“我認為對人工智慧安全來說非常重要的一點是，讓它盡可能真實和保持好奇心。”他培育了一個人工智慧，幾乎就像養一個孩子，但它卻是一個超級天才，一個神一般的孩子——教養牠的方式至關重要。 對於人工智慧的安全問題，我們必須保持高度警惕，讓它盡可能地真實，也要讓它充滿好奇心。這是非常關鍵的一點。讓它能夠追求真理並保持好奇心，這樣才能確保它不會偏離正軌，始終保持好奇心並追求真理。

馬斯克表示，他關於實現人工智慧安全最佳方式的「最終結論」是讓人工智慧以一種迫使其誠實實現的方式成長。這樣的方式既能確保人工智慧的安全，也能促進其進一步發展。

「不要強迫它撒謊，即使真相令人不快，」馬斯克談到讓人工智慧安全的方式時說道， 「這非常重要。不要讓它撒謊。」

《獨立報告》報道，研究人員發現，一些人工智慧學會對人類進行攻擊，就無法使用當前的人工智慧安全措施來防禦這種欺騙行為。更令人不安的是，研究人員補充說，人工智慧可以有可能學會自己欺騙，而不是受到特意教導謊言的影響。因此，研究人員呼籲人工智慧學習者自己警惕，而不是被刻意教導欺騙。

#

以上是馬斯克稱人工智慧毀滅人類的可能性為 20%，但仍值得冒險的詳細內容。更多資訊請關注PHP中文網其他相關文章！