人工智慧公司將被要求向美國政府報告​​安全測試

拜登政府宣布將推出新的人工智慧規定，要求開發人員公開主要人工智慧系統的安全測試結果。

根據這些新規定，科技公司需要在使用大量運算能力訓練人工智慧模型時向政府發出通知。這項措施將確保美國政府能夠取得Google、AWS(亞馬遜網路服務)和OpenAI等公司的敏感數據，以便更好地監督和管理這些公司在人工智慧領域的活動。

美國國家標準與技術研究院正在努力確保人工智慧工具在發布前經過安全可靠的標準審查。同時，商務部將發布指南，要求為人工智慧生成的內容添加浮水印，以便清楚區分真實內容和人工智慧生成的內容。

在接受採訪時，白宮人工智慧特別顧問Ben Buchanan表示，政府希望在向公眾發佈人工智慧系統之前確保其安全性。總統已經明確表示，公司必須滿足這項標準。

美國政府正在把人工智慧當作主要經濟和國家安全問題加以關注。鑑於圍繞生成式人工智慧的炒作和市場投資所帶來的不確定性，這並不奇怪。

三個月前，美國總統簽署了一項旨在管理快速發展的技術的行政命令。該行政命令規定了對人工智慧發展的指導原則，其中包括既定的安全標準。

白宮人工智慧委員會近期舉行了會議，對審查行政命令的執行情況進行了討論。會議中涵蓋了來自多個美國聯邦部門和機構的高級官員。該委員會在聲明中表示，他們在努力保護美國人免受人工智慧系統潛在危害方面取得了實質進展。此外，拜登政府也積極與歐盟等國際盟友合作，共同製定跨境規則和法規，以管理這項技術。

新規定要求美國雲端公司確認外國實體是否在美國資料中心存取資料以訓練人工智慧模型。美國政府提出"了解你的客戶(KYC)"提案，要求雲端運算公司核實外國用戶的身份資訊。

新規定可能對亞馬遜和Google等美國科技公司造成額外挑戰，要求他們擷取外國客戶的姓名和IP位址，並向政府報告可疑活動，同時需要定期進行合規認證。

雖然自我報告規定可以為美國的利益提供一些保護，並鼓勵人工智慧開發者更加謹慎，但目前尚不清楚政府將如何處理那些選擇不準確報告或根本不報告的人。取得敏感資料也存在法律和道德方面的擔憂。

#

以上是人工智慧公司將被要求向美國政府報告​​安全測試的詳細內容。更多資訊請關注PHP中文網其他相關文章！