OpenAI 開發了一種工具來檢測 ChatGPT 產生的內容，準確率達到 99.9%，但沒有計劃發布它

這家加州公司長期以來一直暗示它正在研究可以檢測人工智慧（AI）內容的技術，但它讓客戶相信這項技術還需要數年時間才能實現。

據報導 OpenAI 開發了一種工具，可以檢測某人何時使用 ChatGPT 生成內容，準確率高達 99.9%，但該公司沒有計劃向公眾發布。

這家加州公司長期以來一直暗示它正在研究可以檢測人工智慧（AI）內容的技術，但它讓客戶相信這項技術還需要數年時間才能實現。然而，據接受《華爾街日報》(WSJ) 採訪的內部人士透露，該工具已經推出數月了。

隨著採用率的飆升，偵測人工智慧產生的內容已成為一項重大挑戰。立法者制定了法律，要求人工智慧開發者在此類內容中包含浮水印和其他顯著特徵，但尚未生效。

這種挑戰在某些領域更為普遍，例如教育系統，最近的一項研究發現，60% 的中學生和高中生使用人工智慧來幫助完成學業。

據 OpenAI 內部人士透露，這項挑戰在一年前就被一個團隊解決了，該團隊在檢測 ChatGPT 生成的內容方面能夠達到 99.9% 的準確率。然而，該公司並不打算向公眾發布該工具。

「這只是按一個按鈕的問題，」一位消息人士說。

OpenAI 表示，為了保護用戶，延遲是必要的，因為該工具有「重大風險」。

公司發言人告訴《華爾街日報》：“考慮到所涉及的複雜性及其可能對 OpenAI 之外更廣泛的生態系統產生的影響，我們認為我們採取的深思熟慮的方法是必要的。”

該公司還聲稱，如果每個人都可以使用該技術，那麼不良行為者就可以破解該技術並開發解決方法。

然而，消息人士稱，真正的動機是留住用戶。去年的一項公司調查發現，70% 的 ChatGPT 用戶不喜歡這個新工具，三分之一的人表示他們會退出聊天機器人並轉向競爭對手。

從那時起，高階主管就壓制了該工具，聲稱它還沒有準備好公開發布。在兩個月前的會議上，高層表示，這個依賴浮水印輸出的工具爭議太大，公司必須探索其他選項。

以Google（納斯達克股票代碼：GOOGL）為首的 OpenAI 競爭對手也沒有表現得更好。這家搜尋引擎巨頭的 Gemini LLM 是行業領導者之一，它開發了一款類似的工具，名為 SynthID，但尚未公開發布。

為了讓人工智慧（AI）在法律範圍內正常工作並在面臨日益嚴峻的挑戰時蓬勃發展，它需要整合一個企業區塊鏈系統來確保資料輸入品質和所有權——使其能夠保證資料安全，同時也保證資料的不變性。

CoinDesk 訂閱者可以在這裡存取完整的故事。

觀看：變革性人工智慧應用即將到來

區塊鏈新手？請參閱 CoinGeek 的區塊鏈初學者部分，這是了解更多區塊鏈技術的終極資源指南。

以上是OpenAI 開發了一種工具來檢測 ChatGPT 產生的內容，準確率達到 99.9%，但沒有計劃發布它的詳細內容。更多資訊請關注PHP中文網其他相關文章！