OpenAI發布ChatGPT插件，引發擔憂：內容品質與安全性待衡量

3月24日訊息，美國當地時間週四，人工智慧研究公司OpenAI為其爆火聊天機器人ChatGPT發布了多個插件，它們將幫助ChatGPT連接網路以即時檢索資訊或使用第三方應用。

據悉，OpenAI的插件將允許ChatGPT存取第三方知識來源和資料庫，包括網絡，從而大大擴展了聊天機器人的能力。 OpenAI將向ChatGPT測試申請使用者和開發者提供Alpha版。在開放給大眾使用前，最初將優先考慮少數開發者和ChatGPT Plus訂閱者。

最吸引人的插件無疑是OpenAI的第一方網頁瀏覽插件，它允許ChatGPT從網路上尋找資料來回答向它提出的各類問題。而此前，ChatGPT的資訊內容僅限於2021年9月之前的日期、事件和人物。新外掛程式使用微軟必應搜尋API從網路上檢索內容，同時顯示它在概括答案時所造訪的網站，並在ChatGPT的回應中引用其來源。

不過，可以連網存取其他資訊來源的行為可能會有新的風險，正如OpenAI團隊先前的研究發現一樣。 OpenAI曾於2021年創建過名為WebGPT的實驗系統，它有時會引用不可靠來源的信息，並被誘導從用戶可能信任的網站上挑選數據，即使這些來源客觀上並不十分權威。 Meta後來下線的BlenderBot 3.0也可以訪問網絡，但很快就偏離了最初設想。當收到某些文字提示時，它會發布陰謀論或其他攻擊性內容。

與靜態訓練資料集相比，即時網路的精確度更低，而且這意味著過濾限制更少。 Google和必應等待搜尋引擎使用自己的安全機制來降低不可靠內容升至搜尋結果首位的幾率，但這些結果可能會被操縱，它們也不一定能代表整個網路。正如先前有報導稱，Google的演算法優先考慮使用加密、行動支援和模式標記等現代網路技術的網站。因此，許多擁有其他高品質內容的網站往往會被遺漏。

這給了搜尋引擎很大權力來挑選數據，這些數據可能會為網路語言模型的答案提供資訊。人們發現，Google在搜尋中優先考慮自己的服務，例如用Google Places的數據回答旅遊查詢，而不是從像TripAdvisor這樣更豐富、更社會化的資源匯總資訊。同時，搜尋的演算法方法也容易出現漏洞。 2020年，Pinterest曾利用Google圖像搜尋演算法的一個異常，在Google圖像搜尋中顯示了更多內容。

OpenAI承認，能夠連網的ChatGPT可能會出現所有類型的不良行為，如發送欺詐性訊息和垃圾電子郵件，繞過安全限制，並通常「增強那些欺騙、誤導或虐待他人的不良行為者的能力」。但該公司也表示，其已經在內部和外部“實施了幾項保障措施”，以防止這種情況發生。

除了瀏覽器插件，OpenAI還為ChatGPT背後的模型提供了一個在沙盒、防火牆執行環境中工作的Python 解釋器，以及一些臨時磁碟空間。這種外掛程式支援將檔案上傳到ChatGPT並下載結果。 OpenAI表示，它在解決數學問題、進行數據分析、視覺化以及文件格式之間轉換方面特別有用。

許多早期合作者已經為ChatGPT建立了插件，包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram以及Zapier。

在很大程度上，這些外掛的用途不言自明。例如，OpenTable插件將允許聊天機器人在餐廳中搜尋可用的預訂，而Instacart插件允許ChatGPT從當地商店下訂單。 Zapier是迄今為止可擴展性最強的應用之一，它可以與Google Sheets、Trello和Gmail等應用程式連接，從而觸發一系列生產力相關任務。

為了鼓勵開發者創建新插件，OpenAI已經開源了一個「檢索」插件，使ChatGPT能夠透過用自然語言提問來存取來自文件、筆記、電子郵件或公共文件等資料來源的文件片段。 OpenAI發文表示：「我們正在努力開發各類插件，並將它們帶給更廣泛的受眾。我們還有很多東西需要學習，在大家的幫助下，我們希望打造出既實用又安全的東西。」

對於ChatGPT來說，插件是不可或缺的補充。 ChatGPT曾經受到嚴格限制，只能從其訓練數據中學習，但在有了插件後，它突然變得更加強大，或許法律風險也更小。許多專家指責OpenAI透過利用未經許可的資料來訓練ChatGPT獲利，ChatGPT的資料集包含各種各樣的公共網站，而插件可能會透過允許公司保留對其資料的完全控制權來解決這個問題。 （小小）

以上是OpenAI發布ChatGPT插件，引發擔憂：內容品質與安全性待衡量的詳細內容。更多資訊請關注PHP中文網其他相關文章！