OpenAI：我們正努力減少ChatGPT偏見和不良行為

2月17日訊息，熱門聊天機器人ChatGPT背後的AI研究公司OpenAI表示，它正在努力減少系統中存在的偏見和不良行為，並將允許用戶自訂聊天機器人的部分行為。此前，有大量關於ChatGPT與用戶互動不當和結果錯誤的報告。

OpenAI在發佈​​在其公司網站上的部落格文章中承認：」自從推出ChatGPT以來，用戶已經分享了許多他們認為有偏見、冒犯性或其他令人反感的輸出。在許多情況下，我們認可了這些擔憂，它們揭示了我們系統的真正局限性，因此我們希望解決這些問題。「

該公司繼續寫道：「我們正在投資研究和工程，以減少ChatGPT在回應不同輸入時存在明顯和微妙的偏見。在某些情況下，ChatGPT目前拒絕了它不應該拒絕的輸出。而在其他情況下，在它應該拒絕的時候卻沒有拒絕。「

OpenAI此舉旨在回應有關ChatGPT本身存在偏見、結果不準確和不當行為的報道，以及微軟和谷歌對目前正在測試的新AI搜尋產品的更廣泛批評。根據報道，在周三發布的部落格文章中，微軟詳細介紹了其基於OpenAI技術的新必應聊天工具的局限性，同時谷歌也已要求員工投入更多時間手動改進其Bard系統的答案。

OpenAI也表示，該公司正在加大對ChatGPT的開發力度，包括允許每個用戶進行有限的定制，以適應他們的品味、風格和視圖。

OpenAI在部落格文章中寫道：「我們認為，AI應該是對每個人都有用的工具，因此每個人都應該可以在社會規定的限度內進行客製化。這將意味著允許其他人(包括我們自己)可能強烈反對的系統輸出。將定制發揮到極致可能會導致惡意使用我們的技術，或者催生出盲目放大人們現有信念的'馬屁精式AI'，在這方面取得適當的平衡將是具大的挑戰。因此，系統行為總是需要限制。「

以上是OpenAI：我們正努力減少ChatGPT偏見和不良行為的詳細內容。更多資訊請關注PHP中文網其他相關文章！