人工智慧時代下演算法治理的核心與路徑

2021年12月底，四部門聯名簽署對外公佈《互聯網資訊服務演算法推薦管理規定》(簡稱「《演算法推薦規定》」)，並已於2022年3月1日正式實施。基於此，有必要進一步釐清算法治理的基礎內核，探究演算法時代治理新路徑。

一、目前我國演算法治理的法律體系

目前我國演算法治理的立法體系已初步建成，建構起立法層級廣、多部門連動、快速擴張的法律體系。立法監管由此前聚焦在網路安全、資料資訊保護轉變為當前深度的治理，即人工智慧時代的演算法治理。

在頂樓設計方面，《法治社會建構實施綱要(2020-2025年)》就提出健全演算法推薦、深度偽造等新科技應用的規範管理辦法。另外，《「十四五」數位經濟發展規劃》指出加速建構算力、演算法、數據、應用資源協同的全國一體化大數據中心體系。

在法律法規依據方面，《民法典》《網路安全法》《資料安全法》《個人資訊保護法》《網路資訊服務管理辦法》分別從人格權、網路安全、資料安全、資訊保護利用、網路服務等角度進行了統籌性的規範。

在演算法的專門性規範方向，有2021年9月發布的部門規範性文件《關於加強網路資訊服務演算法綜合治理的指導意見》和2022年《演算法管理規定》對演算法相關規範進行了全面細緻的規範。

在其他規範性文件或國家標準方面，多部門對機器學習、人工智慧倫理、資訊合成、平台監管等多方面有間接性的規範，如《國務院反壟斷委員會關於平台經濟領域的反壟斷指南》《國家市場監督管理總局、國家網信辦、國家發展改革委、公共安全部、人力資源社會保障部、商務部、中華全國總工會關於落實網絡餐飲平台責任切實維護外賣送餐員權益的指導意見》《新一代人工智慧倫理規範》《互聯網資訊服務深度合成管理規定(徵求意見稿)》《資訊安全技術機器學習演算法安全評估規範(徵求意見稿)》《資訊安全技術個⼈信息安全規範》等。

雖然我們已經在多個層面進行立法，但是當前演算法相關立法體係還存在問題。一是立法層級分散，主要聚焦在部門規範文件。法律法規的製定時間成本明顯高於部門規章及各類規範性文件，這就導致目前針對演算法這一新興問題主要在部門規範性文件及國家標準中，容易出現強制性不夠、執法監管效果打折扣、部門職責劃分不清等問題。同時多部門的規範性文件給平台企業也造成無法適從、標準不統一、專案行動式的緊急應變等情形發生。二是對平台的監管主要在事後被動監管，缺乏精細化的平台監管規範。對平台的監管主要根據平台的過錯、行為、責任採取行政處罰措施，而此種監管模式在於缺乏事前的過程性監管，即便現在有算法備案製度，也是主要停留在特定重要領域的算法備案，再者對於備案的演算法審查邏輯和標準也需要根據演算法分級分類制度及時調整。三是對演算法的技術性規範監管較少，立法缺少迴歸演算法本源。演算法是一個技術概念，是“計算的方法”或“處理資料的方法”，同時演算法也是具備一定的學習能力的，能夠根據現有的演算法基礎和資料不斷演變。對於這些電腦指令的技術規範目前仍缺乏立法上的規範，目前主要規範是從網路安全、法律風險等角度來規制的。

二、演算法治理的核心、路徑與體系建構

為了促進演算法相關立法體系的完善，實現演算法的精準治理，筆者認為演算法治理的核心在於資料資訊安全。一方面演算法是在自然語言基礎上建構的一系列程式邏輯，本質上就是且、或、非的邏輯運算。但無論演算法多麼複雜，其本質也是“用資料訓練的模型”，也就是透過不斷投餵資料來實現演算法的不斷運行和進化。演算法離不開資料的支持，當資料的處理活動出問題，演算法必然就出問題。因此關注演算法的治理，本質就是資料的安全和合理處理。

另一方面自動化決策演算法引發的「大數據殺熟」等法律風險已引起越來越多的社會關注，這說明演算法治理的本質還在於資訊的合理利用。此外，演算法的靈魂在於其正向的價值觀。資料資訊的利用處分需要追求正向價值觀，逐步實現演算法的可驗證、可審核、可監督、可追溯、可預測、可信賴，同時具備普惠性、公平性和非歧視性。

要說明的是，資料資訊安全包括資料安全與資訊安全兩大塊，資料安全就是規範資料處理活動，保障資料安全，維護各方利益，保障資料開發利用和產業發展;資訊安全就是以《個人資訊保護法》為主體，規範個人資訊處理活動，促進個人資訊合理利用，從嚴保護個人隱私。

明晰了演算法治理的內核，才能聚焦立法規範和監管的重點，對於當前實踐中演算法治理的困境問題有新的解決方案。人工智慧乃至整個經濟社會的發展離不開海量資料和個人資訊的填充，自動化決策演算法充分利用資料資訊發揮更大的經濟和社會價值。因此，筆者認為應建構演算法治理的「兩內在一外延」保障路徑，兩個內在要素是強化隱私保護和拓寬資料的廣度、深度和精確度，一個外延保障是演算法安全保障機制。

一是強化隱私保護。 《民法典》對於隱私權的保護是在人格權編中的，足以顯示隱私保護的重要性。當下各大平台的隱私權政策都在調整更新，而這一輪的更新勢必會對相關平台的演算法無序發展帶來更多的限制。隱私保護與演算法發展是相對的，強化隱私保護勢必會阻礙演算法的更多元化發展，但正是基於隱私保護的重要性，避免演算法侵害他人合法權益。強化隱私保護可以從以下幾點著手：

其一，強化隱私保護體現在立法內容、演算法設計與應用、備案審查、執法監管重點、法律責任承擔等方面，這是演算法治理的基本理念也是底線原則。

其二，強化重點族群的隱私保護，特別是不滿十四歲的未成年人、老年人隱私保護，勞工和消費者等族群也十分重要。依照《民法典》隱私權保護相關規定及《個人資訊保護法》中敏感個人資訊的相關規定進行資訊保護與資料處理。個人資訊處理活動滿足個人資訊處理的五項重要原則，還有遵照「告知-知情-同意」的核心個人資訊處理規則。

其三，有關隱私保護的糾紛主要是透過私法救濟的方式解決，而演算法治理中涉及到的隱私保護問題就必然需要結合更多公法救濟的管道，因此更多公法治理演算法時需要關注隱私保護的傳統屬性與公私法治理的整合問題。

二是拓寬資料的廣度、深度和精確度。 演算法治理絕非過度強調監管懲罰，而是要強調事前的統籌管理。類似深度學習等自動化決策是需要大量資料的投餵，缺乏資料量基礎、資料不精準都會導致演算法算到錯誤的方向。如企業在進行「使用者畫像」的時候，當使用者資料基數少或某一維度資料缺失的時候，就無法精準推送相關資訊或提供對應服務。而在拓寬資料的廣度、深度和精確度的時候，必然要受到資料合法處理活動的限制，處理該問題的要點如下：

其一，拓寬資料的過程首要是保障資料安全，數據安全才能確保演算法的安全穩定，此為資料處理的基石。

其二，建立重要資料與資料分級分類管理制度。大量的資料湧入可能會打亂演算法的基本秩序，因而對資料進行分級分類是各大平台，尤其是超大型平台需要規範的。

其三，建立演算法中的驗證糾錯機制，即對資料的品質進行驗證，如抽檢機制、結果預警等發現資料的缺陷，以便及時糾偏。

三是演算法安全保障機制。 有了前兩者隱私保護和資料的基礎，接下來健全演算法安全保障機制就尤其重要。安全保障機制包括科技倫理審查、立法保障、安全評估監測與安全事件緊急處置等多方面，形成技術、法律、管理的多重保障。具體措施包括如下：

其一，演算法向善。演算法備案審查的基礎性要點在於科技倫理審查，此項審查的困難在於演算法的不可預判性，即便當下演算法規則審查合理，但隨著演算法本身外延式的延伸，就會導致演算法的結果存在不確定性。因此，應建立類似演算法倫理工作小組的專門組織，由科技、法律等領域專家及監管部門及第三方行業代表等共同組成，加強定期審查與追蹤監督，嚴防演算法價值問題。

其二，立法保障方面。 目前有關演算法治理的立法頂層設計已逐步完成，接下來除了演算法推薦管理外的其他演算法活動需要加以重視，如演算法的技術研發、資料探勘、規則內容、營運支援、人員管理等多角度建構起算法治理新格局。

其三，健全安全評估監控、安全事件緊急處置等管理制度及技術措施。 對企業來說，要落實演算法安全主體責任，守住演算法安全的第一道防線，建立健全演算法機制​​機理審核。對監管部門和產業組織來說，制定演算法安全產業標準體系，宣揚演算法安全基本概念，形成全社會多通路監督合力。

演算法化的時代為各行各業帶來了深刻的影響，也導致現在的組織形態發生新的動態變化。演算法濫用所導致的問題可能是產業龐大的，演算法治理需要跟演算法開發同步開展，有效建構演算法治理的「兩內在一外延」保障路徑，建立良好的數位營商環境，促進數位經濟社會的穩定健康發展。

以上是人工智慧時代下演算法治理的核心與路徑的詳細內容。更多資訊請關注PHP中文網其他相關文章！