OpenAI發布ChatGPT人工智慧文字產生檢測工具

ChatGPT

ChatGPT是OpenAI 2022年11月推出的互動式自然語言對話模型。 OpenAI使用RLHF（從人類回饋進行強化學習）來訓練ChatGPT，與InstructGPT使用的方法相同，但資料收集設定時有明顯的差異。在訓練初始模型時使用有監督調整（參）：人類AI訓練器提供的會話。訓練員有存取模型建議的權限以幫助訓練器更好地完成回應。然後將新產生的會話資料集與InstructGPT資料集混合，形成對話格式。

ChatGPT發布後在業界引發了震動，隨後給各方廣泛試用，其中就包括學生。有學生試用ChatGPT來寫論文、作業和寫程序，老師很難分辨論文、作業和寫的程序是否是由學生自己完成的。此外，也出現了許多署名ChatGPT的待發表論文。

為因應此問題，全球學校紛紛採取措施，例如禁用該平台。根據BusinessInsider的數據，ChatGPT目前已被紐約、西雅圖、洛杉磯等地的初高中禁用，法國和印度的大學電腦也禁用了該平台。

ChatGPT偵測工具

1月31日，OpenAI 宣布推出人工智慧文字分類器，旨在偵測輸入內容是否是由ChatGPT這樣的人工智慧工具產生的。

OpenAI稱其分類器並不完全可靠。在英文文本測試時，分類器正確辨識了26%人工智慧產生的文本，約9%人類寫出的內容錯誤標記為人工智慧產生的。隨著輸入文字長度的增加，分類器的效能有所提高。與先前其他分類器相比，此分類器的準確率高於其他檢測分類器。

分類器試用網址：http://platform.openai.com/ai-text-classifier

OpenAI表示由於結果不完全可靠，因此不建議將該工具用作決策，而是作為其他檢測工具和方法的補充。

 ChatGPT試用網址：https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-written- text

本文翻譯自：https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-written-text/

以上是OpenAI發布ChatGPT人工智慧文字產生檢測工具的詳細內容。更多資訊請關注PHP中文網其他相關文章！