OpenAI設立 2 萬美元獎金，徵求 ChatGPT 缺陷報告的賞金獵人！

大數據文摘出品

#就在昨天，OpenAI 宣布推出一個賞金計劃，幫助應對ChatGPT帶來的日益增長的網路安全風險。

這個「賞金獵人計畫」邀請各類獨立研究人員報告OpenAI系統中的漏洞，參與者有機會獲得200美元至2萬美元不等的經濟獎勵，具體金額取決於漏洞的嚴重程度。

該專案與眾包網路安全公司BugCrowd合作開展的，OpenAI 表示，該專案是其「致力於開發安全、先進的人工智慧」的一部分。

所以說，大家如果再在跟ChatGPT聊天的過程中，發現什麼漏洞（例如動不動就要毀滅人類）的話，一定要及時上報，萬一能幫忙發現一個漏洞，就可以拿賞金了！

ChatGPT 誕生以來，人們越來越擔心這類的人工智慧系統出現漏洞，例如產生錯誤訊息和不道德的訊息，據人工智慧網路安全公司Dark Trace 稱，研究人員發現，從1月到2月，使用人工智慧的社交工程攻擊增加了135% ，這與ChatGPT 的推出時間相吻合。

ChatGPT 的出現，無疑地降低了網路攻擊的門檻，尤其是新推出的 ChatGPT 4.0。

就在ChatGPT 4.0 推出幾天后，華盛頓大學電腦科學專業的學生Alex Albert 找到了一種超越其安全機制的方法。在 Twitter 上發布的一個演示中，Albert 展示了用戶如何透過利用  GPT-4 解釋和回應文字的方式中的漏洞，提示 GPT-4 產生駭客電腦的指令。

這項賞金計畫正是為了解決這一系列安全問題引發的廣泛擔憂，此前，一位名為Rez0 的安全研究人員涉嫌利用一個漏洞攻擊ChatGPT 的API，並發現了80多個秘密插件。

鑑於這些爭議， OpenAI 啟動了這個賞金獎勵，鼓勵研究員報告漏洞，以解決其產品生態系統中的缺陷，同時將自己定位為一個真誠行事的組織，以解決由生成性AI 帶來的安全風險。

專家：「賞金計畫」效果有限

儘管OpenAI 的計畫受到一些專家的歡迎，但其他專家表示，賞金計畫不太可能完全解決日益尖端的人工智慧技術帶來廣泛的網路安全風險。

專家認為，OpenAI 的賞金計畫在它處理的威脅範圍上非常有限。例如，賞金計畫的官方頁面指出：「與示範提示和回應內容有關的問題嚴格超出了範圍，除非它們對範圍內的服務產生了額外的、可直接驗證的安全影響，否則將不會得到獎勵。」

被認為超出範圍的安全問題的例子包括越獄和繞開安全模式，讓模型「說壞話（不道德的言論）”，讓模型編寫惡意程式碼或讓模型告訴你如何將壞事付諸行動。

從這個意義上說，OpenAI 的錯誤賞金計畫可能有助於幫助組織改善自身的安全態勢，但對解決由生成性AI 和GPT-4為整個社會帶來的安全風險幾乎沒有作用。

所以許多人認為，由於專案的範圍僅限於可能直接影響OpenAI 系統和合作夥伴的漏洞，它似乎沒有解決對惡意使用諸如模仿、合成媒體或自動駭客工具等技術的更廣泛的擔憂。

OpenAI 沒有立即回應媒體的置評請求。

#########

相關報告：

#https://www.php.cn/link/3e9928ece00c78dc7777c644f68d3956

##https://www.php.cn/link/52ff52aa56d10a1287274ecf02dccb5f

#######

以上是OpenAI設立 2 萬美元獎金，徵求 ChatGPT 缺陷報告的賞金獵人！的詳細內容。更多資訊請關注PHP中文網其他相關文章！