陳根：AI大咖聯合聲明'警惕AI滅絕人類”

文/陳根

日前，人工智慧安全中心（Center for AI Safety CAIS）發布了一份由350位人工智慧領域的科學家與企業高管聯名簽署的《人工智慧風險聲明》，其內容主旨為「降低人工智慧導致人類滅絕的風險，應該與流行病及核戰等其他社會規模的風險一起，成為全球優先事項。」

這篇公開聲明，匯集了當今世界最權威的人工智慧專家、核科學家、流行病學家等專家學者的意見，可以說已經將人工智慧帶來的風險進行了最全面的梳理。簽署者包括OpenAI首席執行官山姆·奧特曼、DeepMind首席執行官戴米斯·哈薩比斯和Anthropic首席執行官Dario Amodei三位AI公司高管；也包括被稱為AI教父的傑夫瑞·辛頓，與他同為「AI三巨頭」之一且同獲圖靈獎的約書亞·本吉奧；一同簽署公開信的還有兩位中國科學家，中國科學院的自動化研究所人工智慧倫理與治理研究中心主任曾毅、清華智慧產業研究院助理研究員詹仙園。

人工智慧威脅論

人工智慧技術的發展對社會科技的進步所扮演的推進作用不言而喻。但是，就在人工智慧取得突破性進展的同時，其負面作用及對人類帶來的心理壓力也日益凸顯。例如，越來越多的學生利用人工智慧寫作業、寫論文，導致抄襲變得難以界定；犯罪分子利用其開發新的駭客攻擊方式，竊取敏感資料進行勒索。

人工智慧也將對人類運作方式帶來重大的衝擊。預計到 2030年，將會有7,500萬至3.75億人需要重新去尋找工作。這不僅對經濟造成史無前例的影響，也將對人們的心理造成從未有過的壓力。據報道，美國有61%的受訪者認為人工智慧正在威脅人類的未來。當傑夫瑞·辛頓被問到“你認為可以想像的最壞的情況是什麼”，他回答：“完全可以想像，人類只是智能進化的一個過渡階段。”

理性看待人工智慧發展的利與弊

當越來越多的人開始認為「人工智慧將有可能比我們更聰明」時，對無節制人工智慧技術開發的廣泛擔憂，也就不無道理了。雖然以ChatGPT為代表的尖端人工智慧大多還是根據訓練資料中的模式進行複製學習，但是，它的學習能力和成長速度可以說是用「突飛猛進」尚不足以形容其發展的速度之快。

目前，越來越多的立法者、倡議團體和科技業內部人士都開始對AI 聊天機器人傳播錯誤消息和取代人類工作的可能性提出警告。 Center for AI Safety 主​​任 Dan Hendrycks更是指出，全社會也應協力解決其他類型的AI風險，如演算法偏見或誤導訊息。當然，在這個風險管理的過程中，只關注當前的危害是魯莽的，忽視它們也同樣是魯莽的。因為跟其他的新事物一樣，人工智慧的快速普及有機遇也有風險。人們在利用它好的一面的同時，也必須警覺可能帶來的風險。只要善加利用，並防範風險，就能「為我所用」。

以上是陳根：AI大咖聯合聲明'警惕AI滅絕人類”的詳細內容。更多資訊請關注PHP中文網其他相關文章！