OpenAI公佈網路安全計畫：耗資百萬美元，未來或讓AI自動修補網路漏洞

出品｜搜狐科技

作者｜鄭松毅

#北京時間6月2日，美國OpenAI人工智慧研究公司公佈網路安全資助計畫（Cyber​​security Grant Program），將耗資100萬美元，旨在提升和量化AI驅動的網路安全能力，並促進高水平AI網路安全討論。

近日，因AI技術濫用造成的網路安全問題頻發，馬斯克等人對於「AI安全危機」的預言已提前兌現。據了解，全國近期發生多起高科技詐騙事件，犯罪者利用「AI換臉」及「AI語音模仿」技術，偽裝成受害者好友，9秒內詐騙金額高達百萬元人民幣。

有業內專家分析，AI技術本身也存在安全漏洞，當前主流的深度神經網路等技術具有「黑盒子」屬性，會導致部分AI演算法存在不可解釋性，這也意味著AI技術在演算法安全性上存在不確定因素，可能在產業應用落地中出現安全隱患和風險。

OpenAI官網介紹，「我們的目標是透過撥款和其它支持，為防禦者推動開發基於人工智慧的網路安全能力。」

據介紹，該計劃共包含三個主要目標：

1.為防禦者賦能：希望確保最前線的AI功能先讓防禦者受益。

2.衡量能力：努力開發量化 AI 模型的網路安全能力的方法，以便更好地理解和提高它們的有效性。

3.提升討論：致力於在 AI 和網路安全的交匯處促進嚴格的討論，鼓勵對該領域的挑戰和機會進行全面而細緻的理解。

OpenAI表示，「網路安全的傳統觀點認為，這種環境自然會使攻擊者比防御者更有優勢。一句老掉牙的公理總結了這一點：『防禦必須100% 正確，攻擊者只需正確一次。'雖然攻擊者面臨更少的限制並利用他們的靈活性可能是真的，但防御者有更有價值的東西- 協調以實現保護人們安全的共同目標。」

據悉，OpenAI現階段對於該計畫的構想包括但不限於讓AI自動修補網路漏洞、自動識別網路原始碼中的安全問題、以及利用欺騙技術誘捕攻擊者等。

OpenAI現已公開專案招募計劃，OpenAI 將評估和接受資金或其他支援的申請，將優先考慮人工智慧在防禦性網路安全（工具、方法、流程）中的實際應用。 OpenAI將從 100 萬美元的基金中以 API 積分、直接資助和/或等價物的形式提供 1萬美元的增量資助。

OpenAI強調，目前不會考慮資助進攻性安全項目。

以上是OpenAI公佈網路安全計畫：耗資百萬美元，未來或讓AI自動修補網路漏洞的詳細內容。更多資訊請關注PHP中文網其他相關文章！