全球首個AI安全研究所將在英國成立

IT之家10 月27 日消息，綜合CNBC、路透社等報道，當地時間週四，英國首相蘇納克宣布計劃成立世界上第一個AI 安全研究所，並於11 月1-2日舉行AI 安全高峰會。此次峰會將匯聚世界各國 AI 公司、政府、民間團體和相關領域專家，旨在討論如何透過國際協調行動來降低 AI 帶來的風險。

圖源 Pexels

蘇納克在演講中表示，這個即將成立的研究所將推動世界對AI 安全的認識，並將對新型AI 技術進行仔細研究、評估與測試，以便了解每種新模式的能力，並探索從「偏見和誤導」等社會危害到「最極端風險」的所有風險。

蘇納克稱，「AI 可以讓製造化學或生物武器變得更容易，但這項技術也會被犯罪分子所利用。在最不可能但最極端的情況下，人類甚至有可能透過有時被稱為超級智慧的AI，在AI 面前完全失控。」

此外，在下週舉行的AI 安全峰會上，蘇納克將提議成立一個「真正全球化的專家小組」— 該小組的成員由與會國家和組織提名，屆時還將發布一份AI 科學現況報告。

另據IT之家先前報告，英國反壟斷監管機構 CMA（競爭與市場管理局）上個月提出了管理 AI 模式的新標準，涵蓋了問責、訪問和透明度等事宜。 CMA 當時公佈的監管原則中，包括 AI 開發人員和部署人員應對輸出內容負責、不得從事反競爭行為等內容。

以上是全球首個AI安全研究所將在英國成立的詳細內容。更多資訊請關注PHP中文網其他相關文章！