參議院司法聽證會：AI 不易管控，有可能被惡意分子利用來研發化武器

7 月26 日消息，據外媒TechCrunch 報道，美國國會參議院司法委員會在昨日舉行了人工智慧聽證會，在會中，多名AI 行業從業者警告稱，人類無法妥當控制快速發展的AI，因此未來幾年內AI 恐造成嚴重危害，惡意分子有可能利用繞過監管的AI 工具製造生化武器。

參議院司法委員會小組委員會主席 Richard Blumenthal 主持了此次聽證會，他表示，人類已經證明自己有能力發明當時令人難以置信的新技術。他把 AI 比作美國的第二次“曼哈頓計劃”或 NASA 的第二次“載人登月計劃”，但台下的業界代表卻更多表現出對 AI 的擔憂。

美國AI 新創公司Anthropic 的CEO Dario Amodei 在聽證會上表示，他擔心尖端AI 技術可能在短短兩年時間內就會被用來製造危險的病毒和其他生化武器，該公司先前從Google獲得了3 億美元（IT之家注：約21.47 億元人民幣）的投資，並依靠Google的資料中心來訓練「更具信賴性」的AI 模型。

蒙特利爾大學AI 教授、「現代AI 科學之父」 Yoshua Bengio 則表示，他對GPT-4 等模型實現的巨大飛躍感到震驚，他認為，當下各國之間應當積極進行合作來控制AI 的發展，建立類似核子技術監管規則的製度。

斯圖爾特·拉塞爾，加州大學柏克萊分校電腦科學教授，認為當前人工智慧的工作方式充滿了不可預測性，與其他可控制的強大技術相比，現階段的人工智慧缺乏一種超級管理工具，因此我們無法準確了解人工智慧的真實意圖和其可能採取的所有行為

據報道，近半年來，業界普遍認為好萊塢大片中「超級AI」可能出現的時間點從幾十年後提前到了僅僅幾年後，這引發了社會各界對於「超級AI」可能帶來的各種問題的普遍擔憂

以上是參議院司法聽證會：AI 不易管控，有可能被惡意分子利用來研發化武器的詳細內容。更多資訊請關注PHP中文網其他相關文章！