人工知能時代のアルゴリズムガバナンスの核心と道筋

2021年12月末、4部門が連名で「インターネット情報サービスアルゴリズム推奨管理規程」（以下「アルゴリズム推奨規程」）を署名・公表し、2022年3月1日より正式施行されました。これを踏まえ、アルゴリズムガバナンスの基本的な核心をさらに明確にし、アルゴリズム時代のガバナンスの新たな道筋を模索する必要がある。

1. 私の国のアルゴリズム ガバナンスの現在の法制度

私の国のアルゴリズム ガバナンスの現在の法制度は、当初確立されており、幅広い立法レベルと多部門の連携を備えた法制度であり、急速に拡大している法制度。法的監督は、これまでのネットワーク セキュリティとデータ情報保護に焦点を当てていたものから、現在の徹底したガバナンス、つまり人工知能時代のアルゴリズム ガバナンスに移行しました。

トップレベル設計の観点からは、「法的社会の構築に向けた実行大綱（2020年～2025年）」において、アルゴリズム推奨やディープフォージェリなどの新技術適用のための標準化された管理手法の改善が提案されている。 。さらに、「第14次デジタル経済発展5カ年計画」では、コンピューティング能力、アルゴリズム、データ、アプリケーションリソースの相乗効果を備えた国家統合ビッグデータセンターシステムの構築の加速を指摘している。

法的および規制上の根拠という点では、民法、ネットワーク セキュリティ法、データ セキュリティ法、個人情報保護法、およびインターネット情報サービス管理措置がそれぞれ人格権、ネットワーク セキュリティ、データ セキュリティをカバーしています。情報の保護と活用、インターネットサービス等の観点からの取り組みを行っています。

アルゴリズムの専門的な規制の方向性としては、2021年9月に公表された部門別規範文書「インターネット情報サービスのアルゴリズムの総合的な管理の強化に関する指導意見」とアルゴリズム関連の2022年「アルゴリズム管理規程」がある。包括的かつ詳細な仕様が策定されました。

その他の規範文書や国家標準に関しては、多くの部門が機械学習、人工知能の倫理、情報合成、プラットフォームの監督などに関する間接的な規制を設けています。たとえば、「国務院プラットフォーム独占禁止委員会」などです。経済分野」「独占禁止ガイドライン」「国家市場規制総局、中国サイバースペース局、国家発展改革委員会、公安部、人的資源社会保障部、商務部、 「オンラインケータリングプラットフォームの責任の履行と食品配達員の効果的な保護に関する権利と利益に関する意見の指導」「新世代人工知能の倫理規定」「インターネット情報の深層合成の管理に関する規制」に関する中国全国労働組合総連合会「サービス（意見募集案）」「情報セキュリティ技術の機械学習アルゴリズムの安全性評価仕様書（意見募集案）」「情報セキュリティ技術個人情報安全仕様書」など

私たちは複数のレベルで立法を行ってきましたが、現在のアルゴリズム関連の立法体系には依然として問題があります。まず、立法レベルは細分化されており、主に部門の規範文書に焦点が当てられています。法律や規制の制定にかかる時間コストは、部門の規制やさまざまな規範文書に比べて大幅に高いため、主に部門の規範文書や国家標準で扱われるアルゴリズムに関する現在新たな問題が発生しており、施行が不十分で侵害される傾向があります。執行・監督効果の低下、部門の責任分担が不明確などの問題。同時に、複数の部門にまたがる規範文書により、プラットフォーム企業が適応できず、基準に一貫性がなく、特別な行動形式の緊急対応が必要になる原因にもなりました。第二に、プラットフォームの監督は主に事後受動的であり、洗練されたプラットフォーム監督規制が不足しています。プラットフォームの監督は主にプラットフォームの過失、行為、責任に基づく行政処罰措置を採用しているが、この監督モデルには事前のプロセス監督が欠如しており、アルゴリズム申告制度があっても主に特定の重要なアルゴリズム申告に留まっている。アルゴリズムのレビューロジックと登録基準も、アルゴリズムの分類システムに従ってタイムリーに調整する必要があります。第三に、アルゴリズムの技術仕様に対する監督はほとんどなく、立法にはアルゴリズムの原点への回帰が欠けています。アルゴリズムとは「計算方法」や「データ処理方法」という技術概念であると同時に、一定の学習能力を持ち、既存のアルゴリズム基盤やデータをもとに継続的に進化することができます。これらのコンピュータ命令の技術仕様については法的仕様がまだ整備されておらず、現時点では主な規制がネットワークセキュリティや法的リスクの観点から規制されている。

2. アルゴリズムガバナンスの核心、道筋、システム構築

アルゴリズム関連法制度の整備を促進し、アルゴリズムの正確なガバナンスを実現するためには、アルゴリズム ガバナンスはデータ情報セキュリティにあります。一方、アルゴリズムは自然言語に基づいて構築された一連のプログラム ロジックであり、本質的には AND、OR、NOT の論理演算です。しかし、アルゴリズムがどれほど複雑であっても、その本質は「データで訓練されたモデル」でもあり、つまり、アルゴリズムの継続的な動作と進化は、データを継続的に供給することによって実現されます。アルゴリズムはデータのサポートと切り離せないものであり、データ処理アクティビティに問題がある場合、必然的にアルゴリズムにも問題が発生します。したがって、アルゴリズムのガバナンスに注意を払う本質は、データのセキュリティと合理的な処理です。

一方で、自動意思決定アルゴリズムによる「ビッグデータ殺害」などの法的リスクが社会的にますます注目を集めており、アルゴリズムガバナンスの本質が情報の合理的な利用にあることを示しています。 。さらに、アルゴリズムの真髄はその正の値にあります。データ情報の使用と処理は、プラスの価値を追求し、検証可能、監査可能、監視可能、追跡可能、予測可能、信頼できるアルゴリズムを段階的に実現する必要があり、同時に包括的、公平、非差別的である必要があります。

データ情報セキュリティには、データ セキュリティと情報セキュリティという 2 つの主要な部分が含まれることに注意してください。データ セキュリティとは、データ処理活動を規制し、データ セキュリティを確保し、すべての当事者の利益を保護し、データの開発と利用と産業を確実にすることです。 「個人情報保護法」は、個人情報の処理活動を規制し、個人情報の合理的な利用を促進し、個人のプライバシーを厳格に保護する主体です。

アルゴリズム ガバナンスの核心を明確にすることによってのみ、立法規範と監督に重点を置くことができ、現在の実務におけるアルゴリズム ガバナンスのジレンマに対する新たな解決策を得ることができます。人工知能、さらには経済社会全体の発展には、膨大なデータや個人情報の充満が不可欠であり、自動意思決定アルゴリズムはデータ情報を最大限に活用し、より大きな経済的、社会的価値を発揮します。そこで筆者は、プライバシー保護の強化とデータの幅・深さ・正確性の拡大という、アルゴリズムガバナンスの「2つの内部と1つの外部」の保証パスを構築すべきであると考えている。アルゴリズムのセキュリティ保証メカニズム。

まず、プライバシー保護を強化します。 民法におけるプライバシー権の保護は人格権の条項に含まれており、プライバシー保護の重要性を示すのに十分です。現在、主要なプラットフォームのプライバシー ポリシーは調整および更新されており、今回の一連の更新により、関連するプラットフォームでのアルゴリズムの無秩序な開発にさらなる制限がもたらされることは間違いありません。プライバシー保護とアルゴリズム開発は相対的なものであり、プライバシー保護の強化は必然的にアルゴリズムの多様な開発を阻害することになりますが、プライバシー保護の重要性に基づいてこそ、アルゴリズムが他者の正当な権利利益を侵害することを回避することができます。プライバシー保護の強化は、次の点から始めることができます。

まず、プライバシー保護の強化は、立法の内容、アルゴリズムの設計と適用、申請と審査、法執行機関の監督の重点、法的責任などに反映されます。これが基礎です。基本的な概念は、収益の原則でもあります。

第二に、主要なグループ、特に14歳未満の未成年者、高齢者、労働者、消費者のプライバシー保護を強化することも非常に重要です。情報の保護およびデータ処理は、民法のプライバシー保護に関する関連規定および個人情報保護法の要配慮個人情報に関する関連規定に従って行われます。個人情報処理活動は、個人情報処理の 5 つの重要原則を満たし、個人情報処理の中核となる「通知・通知・同意」の原則を遵守します。

第三に、プライバシー保護に関する紛争は主に私法救済を通じて解決されますが、アルゴリズム ガバナンスに関わるプライバシー保護問題は必然的により多くの公法救済チャンネルと組み合わせる必要があるため、現時点ではより多くの公法ガバナンス アルゴリズムが必要です。 、プライバシー保護と公法および私法ガバナンスの伝統的な属性の統合に注意を払う必要があります。

2 つ目は、データの幅、深さ、精度を広げることです。 アルゴリズム ガバナンスは、決して規制上の罰則を過度に強調するものではなく、むしろ事前の全体的な管理を重視します。ディープラーニングなどの自動意思決定には大量のデータを入力する必要があり、データ量が不足していたり​​、データが不正確であると、アルゴリズムが間違った方向に計算してしまいます。たとえば、企業が「ユーザープロファイリング」を行う場合、ユーザーデータベースが小さかったり、特定の次元のデータが欠落していたり​​すると、関連する情報を正確にプッシュしたり、対応するサービスを提供したりすることができません。データの幅、深さ、正確性を拡張する場合、法的なデータ処理活動によって制限する必要がありますが、この問題に対処するための重要なポイントは次のとおりです。セキュリティ: セキュリティは、データ処理の基礎であるアルゴリズムの安全性と安定性を保証します。

第二に、重要なデータとデータの階層的かつ機密管理システムを確立します。大量のデータの流入はアルゴリズムの基本的な順序を混乱させる可能性があるため、主要なプラットフォーム、特に非常に大規模なプラットフォームではデータの階層分類を標準化する必要があります。

第三に、アルゴリズムに検証およびエラー修正メカニズムを確立します。つまり、ランダム検査メカニズム、結果警告などのデータの品質を検証して、データの欠陥を発見し、逸脱を修正できるようにします。はやくて。

3 つ目は、アルゴリズムのセキュリティ メカニズムです。

プライバシー保護とデータの最初の 2 つの基盤では、アルゴリズムのセキュリティ メカニズムを改善することが特に重要です。安全保証の仕組みには、科学技術倫理審査、法的保証、安全性評価・監視、安全事故時の緊急対応などが含まれ、技術、法律、管理の多重保証を形成しています。具体的な対策としては次のようなものが挙げられます。

まず、アルゴリズムが優れています

。アルゴリズム登録審査の基本は科学技術倫理審査にあるが、この審査の難しさはアルゴリズムの予測不可能さにある、現在のアルゴリズムルール審査が合理的であっても、アルゴリズム自体が拡張するにつれて、その結果がアルゴリズムに一貫性がなくなる可能性があります。したがって、定期的なレビューとフォローアップの監督を強化し、厳重に防止するために、技術、法律、その他の分野の専門家、規制当局およびサードパーティ業界の代表者で構成されるアルゴリズム倫理ワーキンググループと同様の専門組織を設立する必要があります。アルゴリズムの値に関する問題。

第二に、法的保護。

アルゴリズムガバナンスに関する現行の法的トップレベルの設計は徐々に完了しており、次に、アルゴリズムの推奨管理に加えて、アルゴリズム技術の研究開発、データマイニング、ルールの内容など、他のアルゴリズムの活動にも注意を払う必要があります。 、運営サポート、人事管理、その他の観点から、アルゴリズム ガバナンスの新しいパターンを構築します。

第三に、安全評価の監視や安全事故への緊急対応などの管理システムと技術的対策を改善します。 企業の場合、アルゴリズムのセキュリティに対する主要な責任を実装し、アルゴリズムのセキュリティに対する防御の第一線を守り、アルゴリズムのメカニズムのレビューを確立および改善する必要があります。規制当局や業界団体は、アルゴリズムセキュリティの業界標準体系を策定し、アルゴリズムセキュリティの基本概念を推進し、社会全体に対するマルチチャネルの監督部隊を形成する必要がある。

アルゴリズムの時代はあらゆる分野に大きな影響を与え、現在の組織形態にも新たなダイナミックな変化をもたらしました。アルゴリズムの悪用によって引き起こされる問題は業界で非常に大きい可能性があり、アルゴリズムのガバナンスはアルゴリズムの開発と同時に実行され、アルゴリズムガバナンスの「2つの内部と1つの外部」の保証パスを効果的に構築し、良好なデジタルビジネス環境を確立し、アルゴリズムの開発を促進する必要があります。デジタル経済と社会の安定した健全性、発展。

以上が人工知能時代のアルゴリズムガバナンスの核心と道筋の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。