OpenAI CEO迫切要求監管大語言模型，警告生成式AI風險

微軟支持的OpenAI執行長山姆·阿爾特曼（Sam Altman）呼籲美國監管高級大型語言模型的部署，警告沒有堅實的政策框架的生成式人工智慧的危險。

在與美國參議院討論生成式AI治理的聽證會上，阿爾特曼認為，隨著對社會威脅的擔憂日益加劇，監管對於減輕日益強大的模型帶來的風險至關重要。

在他的證詞中討論的威脅，集中在與OpenAI如何訓練其模型相關的錯誤訊息的傳播和違反資料隱私法。

參議員理查德·布盧門撒爾（Richard Blumenthal）在聽證會上表示，未經充分訓練的人工智能的前景“非常可怕”，並認為新技術必須“擔負責任”。

他指出，OpenAI的ChatGPT具有模仿和模擬真實人類互動的能力，他以一段由經過語音訓練的模型產生的語音開始了他的證詞。

阿爾特曼建議稱，成立一個政府機構來監管人工智慧的訓練和部署將有助於開發，並解釋了對於開發者「許可和測試要求相結合」的必要性。

他還提議吊銷開發超出某些「閾值」或「能力」的人工智慧工具的開發者的許可，例如能自我複製或產生有害內容的模型。

阿爾特曼主張圍繞機器學習工具如何從網路手機資料以產生回應來製定管理規則。

「用戶應該可以選擇不讓我們這樣的公司或其他社群媒體公司使用他們的數據。」他補充道。

C114通訊網 蔣均牧

以上是OpenAI CEO迫切要求監管大語言模型，警告生成式AI風險的詳細內容。更多資訊請關注PHP中文網其他相關文章！