人工智慧機器人ChatGPT爆火沒多久，管理規定就推出了

上週爆紅的人工智慧聊天機器人ChatGPT，掀起了人工智慧問答潮流；還有之前的「過氣網紅」Deepfake深度合成技術，改進了技術和用戶體驗，為大家帶來了不少新鮮感。

但人工智慧問答有時真假難辨，有時還會陷入倫理道德困境。 ChatGPT的開發者曾表示，ChatGPT存在答案看似合理但不正確、答案過於冗長、回答模稜兩可問題時猜測用戶意圖、回應有害指令等問題。

Deepfake技術則被一些不法人員用於製作、複製、發布、傳播違法和不良訊息，甚至偽造他人身分實施詐欺等行為。最常見的濫用Deepfake技術是視頻偽造，俗稱“換頭視頻”，將模仿對象的視頻逐幀轉化為大量圖片，然後將目標模仿對象面部替換成目標對象面部並合成為假視頻。二深度合成技術可以使這個過程自動化，進一步降低違法犯罪門檻。

最近，國家互聯網資訊辦公室等三部門發布了《互聯網資訊服務深度合成管理規定》，對深度合成技術和服務做出管理規定。

根據中國網信網12月11日消息，近日國家互聯網資訊辦公室、工業與資訊化部、公共安全部聯合發布《網際網路資訊服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。

《規定》中提到，深度合成服務的監督管理單位為國家網信部門，負責統籌協調全國深度合成服務的治理和相關監督管理工作。國務院電信主管機關、公安部門依據各自職責負責深度合成服務的監督管理工作。

《規定》對深度合成服務提供者和技術支持者提出了詳細的要求。深度合成服務提供者需落實資訊安全主體責任、依法依約履行管理責任、加強內容管理和審核，同時以顯著方式提示深度合成服務技術支持者和使用者承擔資訊安全義務。

此外，深度合成服務提供者和技術支持者提供人臉、人聲等生物識別資訊編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，並取得其單獨同意。

深度合成服務提供者提供智慧對話寫作、合成人聲、人臉生成替換、沉浸式擬真場景等深度合成服務，可能導致公眾混淆或誤認的，應當在生成或編輯的資訊內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。

網信部門和相關主管部門發現深度合成服務存在較大資訊安全風險的，可以按照職責依法要求深度合成服務提供者和技術支持者採取暫停資訊更新、用戶帳號註冊或其他相關服務等措施。

附《規定》原文：

網際網路資訊服務深度合成管理規定

第一章總則

第一條為了加強網路資訊服務深度合成管理，推廣社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網路安全法》、《中華人民共和國資料安全法》、《中華人民共和國個人資訊保護法》、《網路資訊服務管理辦法》等法律、行政法規，制定本規定。

第二條在中華人民共和國境內應用深度合成技術提供網路資訊服務（以下簡稱深度合成服務），適用本規定。法律、行政法規另有規定的，依其規定。

第三條國家網信部門負責統籌協調全國深度合成服務的治理和相關監督管理工作。國務院電信主管機關、公安部門依據各自職責負責深度合成服務的監督管理工作。

地方網信部門負責統籌協調本行政區域內的深度合成服務的治理和相關監督管理工作。地方電信主管機關、公安部門依據各自職責負責本行政區域內的深度合成服務的監督管理工作。

第四條提供深度合成服務，應遵守法律法規，尊重社會公德和倫理道德，堅持正確政治方向、輿論導向、價值取向，促進深度合成服務向上向善。

第五條鼓勵相關產業組織加強產業自律，建立健全產業標準、產業準則和自律管理制度，督促指導深度合成服務提供者和技術支持者制定完善業務規範、依法開展業務和接受社會監督。

第二章一般規定

第六條任何組織和個人不得利用深度合成服務製作、複製、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

深度合成服務提供者和使用者不得利用深度合成服務製作、複製、發布、傳播虛假新聞資訊。轉載基於深度合成服務製作發布的新聞信息的，應當依法轉載互聯網新聞信息稿源單位發布的新聞信息。

第七條深度合成服務提供者應落實資訊安全主體責任，建立健全用戶註冊、演算法機制​​機理審核、科技倫理審查、資訊發佈審核、資料安全、個人資訊保護、反電信網路詐騙、緊急處置等管理制度，具有安全可控的技術保障措施。

第八條深度合成服務提供者應制定和公開管理規則、平台公約，完善服務協議，依法依約履行管理責任，以顯著方式提示深度合成服務技術支持者和使用者承擔信息安全義務。

第九條深度合成服務提供者應基於行動電話號碼、身分證件號碼、統一社會信用代碼或國家網路身分認證公共服務等方式，依法對深度合成服務使用者進行真實身分資訊認證，不得向未進行真實身分資訊認證的深度合成服務使用者提供資訊發布服務。

第十條深度合成服務提供者應加強深度合成內容管理，採取技術或人工方式對深度合成服務使用者的輸入資料和合成結果進行審核。

深度合成服務提供者應建立健全用於識別違法和不良資訊的特徵庫，完善入庫標準、規則和程序，記錄並留存相關網誌。

深度合成服務提供者發現違法和不良資訊的，應當依法採取處置措施，保存有關記錄，及時向網信部門和相關主管部門報告；對相關深度合成服務使用者依法依約採取警告、限制功能、暫停服務、關閉帳號等處置措施。

第十一條深度合成服務提供者應建立健全闢謠機制，發現利用深度合成服務製作、複製、發布、傳播虛假信息的，應及時採取闢謠措施，保存有關記錄，並向網信部門及相關主管機關報告。

第十二條深度合成服務提供者應設定便捷的用戶申訴和公眾投訴、舉報入口，公佈處理流程和回饋時限，及時受理、處理和回饋處理結果。

第十三條網路應用商店等應用程式分發平台應落實上架審核、日常管理、緊急處置等安全管理責任，核驗深度合成類應用程式的安全評估、備案等情況；對違反國家有關規定的，應及時採取不予上架、警示、暫停服務或下架等處置措施。

第三章資料與技術管理規格

第十四條深度合成服務提供者與技術支持者應加強訓練資料管理，採取必要措施保障訓練資料安全；訓練資料包含個人資訊的，應遵守個人資訊保護的有關規定。

深度合成服務提供者和技術支持者提供人臉、人聲等生物辨識資訊編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，並取得其單獨同意。

第十五條深度合成服務提供者和技術支持者應加強技術管理，定期審核、評估、驗證產生合成類演算法機制​​機制。

深度合成服務提供者和技術支持者提供具有以下功能的模型、模板等工具的，應依法自行或委託專業機構開展安全評估：

（一）生成或編輯人臉、人聲等生物辨識資訊的；

（二）產生或編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物辨識資訊的。

第十六條深度合成服務提供者對使用其服務產生或編輯的資訊內容，應採取技術措施添加不影響使用者使用的標識，並依照法律、行政法規和國家相關規定保存日誌資訊.

第十七條深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或誤認的，應在生成或編輯的資訊內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況：

（一）智慧對話、智慧寫作等模擬自然人進行文本的生成或編輯服務；

（二）合成人聲、仿聲等語音生成或顯著改變個人身分特徵的編輯服務；

（三）人臉生成、人臉替換、臉部操控、姿態操控等人物影像、影片產生或顯著改變個人身分特徵的編輯服務；

（四）沉浸式擬真場景等產生或編輯服務；

（五）其他具有生成或者显著改变信息内容功能的服务。

深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。

第十八条任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。

第四章 监督检查与法律责任

第十九条具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。

完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

第二十条深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。

第二十一条网信部门和电信主管部门、公安部门依据职责对深度合成服务开展监督检查。深度合成服务提供者和技术支持者应当依法予以配合，并提供必要的技术、数据等支持和协助。

网信部门和有关主管部门发现深度合成服务存在较大信息安全风险的，可以按照职责依法要求深度合成服务提供者和技术支持者采取暂停信息更新、用户账号注册或者其他相关服务等措施。深度合成服务提供者和技术支持者应当按照要求采取措施，进行整改，消除隐患。

第二十二条深度合成服务提供者和技术支持者违反本规定的，依照有关法律、行政法规的规定处罚；造成严重后果的，依法从重处罚。

构成违反治安管理行为的，由公安机关依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第五章 附则

第二十三条本规定中下列用语的含义：

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：

（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；

（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；

（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；

（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；

（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；

（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。

深度合成服务提供者，是指提供深度合成服务的组织、个人。

深度合成服务技术支持者，是指为深度合成服务提供技术支持的组织、个人。

深度合成服务使用者，是指使用深度合成服务制作、复制、发布、传播信息的组织、个人。

训练数据，是指被用于训练机器学习模型的标注或者基准数据集。

沉浸式拟真场景，是指应用深度合成技术生成或者编辑的、可供参与者体验或者互动的、具有高度真实感的虚拟场景。

第二十四条深度合成服务提供者和技术支持者从事网络出版服务、网络文化活动和网络视听节目服务的，应当同时符合新闻出版、文化和旅游、广播电视主管部门的规定。

第二十五条本规定自2023年1月10日起施行。

以上是人工智慧機器人ChatGPT爆火沒多久，管理規定就推出了的詳細內容。更多資訊請關注PHP中文網其他相關文章！