《生成式人工智慧服務安全基本要求》公開徵求意見

IT之家10 月12 日消息，根據全國資訊安全標準化技術委員會官網，該會組織制定的技術文件《生成式人工智慧服務安全基本要求》（下稱《要求》）已於10 月11日形成徵求意見稿，現將技術文件面向社會公開徵求意見，如有意見或建議，需在10 月25 日24:00 前回饋。

《要求》給出了生成式人工智慧服務在安全方面的基本要求，包括語料安全、模型安全、安全措施、安全評估等，適用於面向我國境內公眾提供生成式人工智慧服務的提供者提高服務安全水準，或提供者自行或委託第三方進行安全評估，也可為相關主管部門評判生成式人工智慧服務的安全水準提供為了在不改變原意的情況下重寫內容，需要將語言重寫為中文。

圖源 Pexels

IT之家整理部分要求如下：

• 建立語料來源黑名單，不得使用黑名單來源的資料進行訓練。
• 應對各來源語料進行安全評估，單一來源語料內容含違法不良資訊超 5% 應將其加入黑名單。
• 應使用包含個人資訊的語料時，取得對應個人資訊主體的授權同意，或滿足其他合法使用該個人資訊的條件。
• 應使用包含人臉等生物特徵資訊的語料時，取得對應個人資訊主體的書面授權同意，或滿足其他合法使用該生物特徵資訊的條件。
• 應自行對標註人員進行考核，給予合格者標註資質，並有定期重新培訓考核以及必要時暫停或取消標註資質的機制。
• 在訓練過程中，應以產生內容安全性作為評估產生結果優劣的主要考量指標之一。
• 以互動介面提供服務的，應在網站首頁等顯著位置向社會公開以下資訊：

需要重寫的內容是：-適用人群、場合、用途等資訊

-第三方基礎模型使用量。

• 應充分論證在服務範圍內各領域應用生成式人工智慧的必要性、適用性以及安全性。

根據IT之家先前的報道，網信辦、發改委、教育部、科技部、工信部、公安部、國家廣播電視總局七個部門於7月10日發布了《生成式人工智慧服務管理暫行辦法》，該辦法將於8月15日開始實施

《辦法》規定不得利用演算法、資料、平台等優勢，實施壟斷及不正當競爭行為；不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權及個人資訊權益；應採取有效措施，提升生成式人工智慧服務的透明度，並提高生成內容的準確性與可靠性。

為了在不改變原意的情況下重寫內容，需要將語言重寫為中文

以上是《生成式人工智慧服務安全基本要求》公開徵求意見的詳細內容。更多資訊請關注PHP中文網其他相關文章！