AI契約理論⑤：生成型AIは数千の帆と競争、ルールを使って「舵を切る」方法

21st Century Business Herald記者、Cai Shuyue Guo Meitingインターン、Tan Yanwen Mai Zihao、上海と広州からのレポート

編集者注:

2023 年のここ数か月、大手企業は大規模モデルの開発を急ぎ、GPT の商用化を模索し、コンピューティング インフラストラクチャに楽観的です...15 世紀に幕を開けた大航海時代のように、人的交流、貿易、富は爆発的に成長し、宇宙革命が世界を席巻しています。同時に、変化は、データ漏洩、個人のプライバシーのリスク、著作権侵害、虚偽の情報などの秩序を維持するための課題ももたらします...さらに、AI によってもたらされるポストヒューマニストの危機がすでに表れています。人間と機械の混合によって引き起こされる神話に直面していますか?

現時点では、AI ガバナンスに関する合意を求め、新たな秩序を再構築することが、すべての国が直面する課題となっています。 Nancai Compliance Technology Research Instituteは、AIガバナンスに関するいくつかのアイデアを提供することを目的として、中国および外国の規制モデル、主体の責任の割り当て、コーパスデータのコンプライアンス、AIの倫理、業界の発展などの側面を分析する、AI契約理論に関する一連のレポートを発表する予定です。責任あるイノベーションを計画し、保証します。

自己生成型 AI 技術の台頭により、現在の「数百機種の戦い」が起こり、この技術の業界チェーン マップも初期の形を整えてきました。

(AIGC産業チェーンマップ。図/南彩コンプライアンス技術研究所、21世紀ビジネスヘラルド記者)

生成 AI が一般的なテクノロジーになる前に、生産チェーンのすべての参加者は、生成 AI を「制御可能な」ツールにする方法を検討する必要があります。

今年3月下旬、テスラCEOのイーロン・マスク氏、アップル共同創設者スティーブ・ウォズニアック氏、そして1000人以上の起業家や学者が「大規模人工知能の停止」を求める書簡に署名した。「インテリジェント実験」公開書簡解放されました。

この書簡では、世界中の人工知能研究所が、テクノロジーの開発者を含む、より強力なデジタルマインドの開発と導入を目指してここ数カ月間、制御不能な競争に巻き込まれているにもかかわらず、「誰もこのテクノロジーを真に理解し、予測し、完全に制御することができます。」

清華大学ジャーナリズム・コミュニケーション学院の源石文化研究室も、「AIGC開発研究」報告書の中で、AIGCの世界産業チェーンへの強い関与により、プログラマー、グラフィックデザイナー、顧客サービスが包括的に置き換えられるだろうと指摘した。コストに上限が設けられれば、第三世界の産業チェーンは大きな影響を受けることになる。

これは、大規模なコンピューティング能力に支えられた AIGC が、多国籍企業の世界的な産業チェーンを分断する鋭利な刃となる可能性があること、また「地球村」の幻想を切り裂く短剣となる可能性があることを意味します。

したがって、AIGC の急速な発展に伴い、その背後にある生成 AI テクノロジーを規制の檻に入れ、業界チェーンのすべての当事者の責任を明確にすることが、世界中の国々にとって緊急に対処すべき課題となっています。

規制政策の見直し:産業研究開発の明確な最終ラインを引く

現在、我が国はすでに生成型AI技術規制の道を歩んでいます。今年4月、中国サイバースペース局は「生成型人工知能サービスの管理に関する措置（意見草案）」（以下「措置」という）を発行しました。これは、我が国初の生成型AI技術を対象とした規制文書です。 。

一般的に、「措置」は、「インターネット情報サービス深層合成管理規則」、「インターネット情報サービスアルゴリズム推奨管理規則」、「ネットワークオーディオおよびビデオサービス管理規則」を規制する既存の深層合成規制の枠組みに基づいています。 「規制」および「インターネット情報サービス深層合成管理規則」。「ネットワーク情報コンテンツの生態学的ガバナンスに関する規則」の改良 個人情報保護の一般的な義務に加えて、人工知能サービスプロバイダーは、さらに次のことも要求されます。セキュリティ評価、アルゴリズムの提出、コンテンツの識別などの義務を果たします。

上記の関連政策文書の公布に関して、北京大城法律事務所のシニアパートナーであるシャオ・サ氏は、21世紀ビジネス・ヘラルド紙の記者とのインタビューで、関連企業は既存のアルゴリズム推奨サービスとの接続に注意を払う必要があると指摘した。 、深層合成サービスおよびその他の人工知能 規制の要件に従って、当社は内部コンプライアンスを達成し、テクノロジーと法的権限を組み合わせて創造的なコンプライアンスソリューションを提案し、産業発展のためのより多くの制度的スペースを獲得するよう努めています。

業界のほとんどは、人工知能技術の開発を規制する「措置」やその他の法案を次々と提出し、支持しています。 LiangfengtaiのシニアプロダクトディレクターであるWei Chaoqun氏は21人の記者とのインタビューで自身の見解を語った。同氏は、生成型 AI テクノロジーが始まったばかりの段階では、関連する管理手法の導入が業界全体の健全な発展にとって極めて重要であり、これらの手法がそれを促進する上で重要な役割を果たすだろうと考えています。

「一方で、「措置」の公布は、業界全体が企業の研究開発プロセスの完全な指針となる明確な運用仕様を持つことを意味します。また他方で、それはまた、何ができるか、何ができないかを含む、業界全体の研究開発の収益。」 Wei Chaoqun 氏は指摘しました。

たとえば、「措置」の第 17 条では、人工知能サービスプロバイダーに対し、「事前トレーニングとトレーニングのソース、規模、種類、品質などの説明を含む、ユーザーの信頼と選択に影響を与える可能性がある必要な情報を提供する」ことを義務付けています。最適化されたトレーニング データ、人工知能のラベル付けルール、手動でラベル付けされたデータの規模と種類、基本的なアルゴリズムと技術システムなど」を使用して、大量のデータと不安定なルールを含む人工知能技術のガバナンスを実現します。

しかし、人工知能に関連する現在の国内法、規制、政策文書はさらに改善する必要があると考える人もいます。

蕭沙氏はインタビューの中で、「措置」は生成型人工知能がもたらすリスクと影響に対応したものであるが、その内容を整理すると、責任の面で多くの違いがあることが分かると述べた。規制上の義務やその他の側面に関する規定は比較的広範です。

たとえば、「措置」第 5 条では、生成型人工知能製品を使用するサービス提供者 (つまり主体) がコンテンツ制作者の責任を負う必要があると規定しています。

元の記事では、生成人工知能製品を使用してチャットやテキスト、画像、音声生成などのサービスを提供する組織や個人には、プログラム可能なプログラムを提供することで他者がテキスト、画像、音声などを生成するのをサポートすることも含まれると記載されています。インターフェイスおよびその他のメソッドは、この製品で生成されたコンテンツに対する責任を負い、プロデューサーが責任を負います。

ただし、「措置」では、サービスプロバイダーが負うべき具体的な法的責任についてはまだ詳しく説明されていません。

開発の難しさ: 規制とテクノロジーのバランスをとる方法

技術革新と開発を前提として人工知能の監視システムを改善し、データコンプライアンスやアルゴリズムガバナンスとの接続と連携を強化する方法は、緊急に解決する必要がある問題です。

中でも、AIGCの各産業チェーンリンクの責任主体を明確にし、「責任ある」AI技術を創出することは、監督が注視すべき重要なポイントの一つである。

「措置」の第 5 条で言及されている主体の責任の配分の問題に加えて、最近 EU は改正「人工知能法」の中で次のことにも言及しました。人工知能のバリュー チェーン、あらゆる配布 作成者、輸入者、展開者、またはその他の第三者は、高リスクの人工知能システムのプロバイダーとみなされ、対応する義務を履行する必要があります。

たとえば、高リスク人工知能システムの名前と連絡先情報を示し、データ仕様またはデータセット関連情報を提供し、ログを保存するなどします。 北京理工大学法科大学院の助教授である Pei Yi氏も21人の記者に対し、企業

はAIサービスを提供する上で重要な存在として、一方では透明性のあるデータの収集と処理を確保する必要があると指摘した。データ収集および処理の目的をデータ主体に通知し、必要な同意または許可を取得します。データの機密性と完全性を確保するために、適切なデータ セキュリティとプライバシー保護措置を実装します。一方で、準拠したデータ共有も必要です。複数の当事者間でのデータ共有またはデータ取引を行う場合は、準拠したデータ使用権と承認メカニズムを確保し、適用されるデータ保護法および規制を遵守してください。

21 記者らは、一部の人工知能企業が現在、責任ある主体としての義務を明確にしていると観察しました。

たとえば、OpenAI はユーザー向けに「セキュリティ ポータル」を特別にオープンしました。このページでは、

ユーザーは、バックアップ、削除、「データ セキュリティ」の静的データを含む、企業のコンプライアンス文書を閲覧できます。 App Security のコード分析、認証情報管理なども可能です。

(OpenAI の「Secure Portal」ページ。出典/OpenAI 公式 Web サイト)

AI ペイント ツール Midjourney の公式 Web サイトが公開したプライバシー ポリシーでは、

にもユーザー データの共有、保持、送信のシナリオと使用方法に関する具体的な指示が記載されており、同時に、アプリケーションがユーザーにサービスを提供するプロセスでは、ID、ビジネス情報、生体情報など 11 種類の個人情報を収集する必要があります。

注目に値するのは、上海の新興テクノロジー企業の法務担当者が21人の記者との会話の中で、同社の社内人工知能関連ビジネスの利用規約は現在策定中であると述べたことだ。責任分担ルールについては、OpenAI のアプローチを参照してください。

一方、生成 AI サービスのプロバイダーとして、企業は内部コンプライアンスにも注意を払う必要があります。

Xiao Sa氏は、AIGC関連企業のビジネスは膨大なデータと複雑なアルゴリズムに依存する必要があり、その適用シナリオは複雑かつ多様であり、企業はさまざまなリスクに陥りやすく、依存するのは非常に難しいと指摘した。 AIGC の社内コンプライアンス管理を強化してください。

一方では、規制当局は、企業のコンプライアンス改革を包括的に実施する機会を捉え、ネットワークデジタル分野に関わる企業のコンプライアンス改革の推進を積極的に検討し、第三者による監督・評価メカニズムを導入し、制度の確立と改善を行うべきである。コンプライアンス管理の仕組みを構築し、インターネット犯罪を効果的に防止します。一方で、事前のコンプライアンス構築から事後のコンプライアンス是正を促進するための規制の道筋も積極的に模索し、ネットワーク規制当局とインターネット企業が共同でデータコンプライアンスガイドラインを調査・策定してデジタルデータ通信の健全な発展を確保することを促進する必要もあります。経済。

「規制当局の最も重要な任務は、最終的な利益を引き出すことです。

その中でも、「技術倫理」と「国家安全保障」は、譲り渡すことのできない 2 つの最終的なラインです

. 最終的な利益の中で、業界はテクノロジーがコンプライアンス遵守のために臆病になったり開発が制限されたりすることのないよう、開発の余地はある」とペイ・イー氏は21人の記者団に語った。

コーディネーター: ワン ジュン

記者: 郭美庭、蔡書月、タン・ヤンウェン、マイ・ジハオ

絵: 蔡書月

詳細なコンテンツについては、21 Finance APP をダウンロードしてください

以上がAI契約理論⑤：生成型AIは数千の帆と競争、ルールを使って「舵を切る」方法の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。