AI 顔変更ソフトウェアはオンラインで公に販売されていますが、法的境界はどこにありますか?

最近、AIによる顔変更技術による詐欺事件が注目を集めています。大規模な AI モデルの開発に伴い、「顔交換」技術の適用範囲はますます広がっており、技術の進歩により、顔を交換した後のキャラクターの表情や動作の詳細もよりリアルになりました。重大な危害を引き起こす可能性があります。記者の調査によると、 AI 顔変更ソフトウェアはインターネット上で非常に簡単に入手できます . AI 顔変更ソフトウェアの使用の法的境界はどこですか?事前の監督をうまく行うにはどうすればよいでしょうか?

01

AI顔を変える有料ソフトがインターネットに登場

パッケージ価格は499元から2888元です

現在、大規模なモデルとアルゴリズムのブレークスルーに依存して、AI 顔変更はより広範囲のアプリケーションで使用されており、より多くの懸念を引き起こしています。顔を変えるソフトウェアの使用法と効果を示すチュートリアルがインターネット上にたくさんあります。一般の人が「試してみる」ための多数の無料ソフトウェアとは異なり、記者は、インターネット上には 有料の AI 顔変更ソフトウェアが数多くあることを発見しました。 これらの有料ソフトウェアの違いは何ですか?ソフトウェアとフリーソフトウェア?

「AI 顔変更ソフトウェア」を検索した後、記者は開発者に連絡し、そのソフトウェアを使用して顔変更を実装するデモ ビデオを記者に提供しました。デュアル ウィンドウ ページの左側がオリジナルです。顔変更前の動画、右側が顔変更後の動画 肉眼では、顔変更後の「デジタルヒューマン」の口の形、表情、細かな動きはほぼ完璧です。

△販売者による素人変顔効果(Sは元動画、Dは差し替え後)

ソフトウェア開発者は、販売 Web サイトで、2 人の有名な女優の目と口をつなぎ合わせて新しい「デジタル ヒューマン」のビデオを生成する方法も実演しました。

△販売者は顔の部分的な交換を示しています

この有料ソフトウェアには、ベーシック (LV1) からアドバンスト (LV4)、フルセット (LV5) までのさまざまなバージョンが用意されています。エントリーレベルのパッケージの場合、499元でソフトウェアインターフェイス、ビデオガイダンス、顔交換モデルなどが提供されます。2,888元を費やすと、ビデオ顔交換モデルのフルセット（LV5）を入手できます。

△さまざまなレベルのさまざまな顔を変えるソフトウェア製品がインターネット上で入手可能です

02

「顔は好きなように変更できます」

AI大型モデルは複数の機能を統合して「デジタルヒューマン」を作成可能

Web サイトを開きます。

下部には、登録済みであることを示すテキストはありません。 販売者も非常に慎重で、プロセス全体を通じてコミュニケーションにテキストのみを使用します。ジュニア（LV1）からスーパー（LV4）までのパッケージに比べ、フル（LV5）版は回数が多く、機能も強化されており、顔の変化効果もよりリアルになっていることが分かると氏は述べた。 ビデオ顔変更を実現できるだけでなく、ライブ顔変更もサポートします。

記者はさらに、自分の必要に応じて顔を変えることができるのかと尋ねました。ソフト開発者は「顔を好きなように変更して、トレーニング用の素材として活用できる」としている。

△ソフトウェア開発者と記者との会話のスクリーンショット

AI 開発に携わる技術者は次のように述べています。

これは、制御が困難なリスクがさらに存在する可能性があることを意味します。 「ディープフェイクに似た AI 顔変更技術はオープンソースです。最近、大規模な AI モデルが普及しており、そのアルゴリズムが更新されています。これは、Vincent 写真、Vincent テキスト、Vincent オーディオ、Vincent ビデオ、および顔を統合できます。を変更したり、これらの機能を組み合わせたりすることで、まったく新しい「デジタルヒューマン」や「AIヒューマン」を生み出すことができ、監視のコストと難易度は桁違いに高くなります。」

△販売者が表示するユーザーのフィードバック

03

専門家: 効果的な表示監視システム

AIによる顔の変化によって生じる曖昧な境界を事前に明確にできるようにする

北京嘉威法律事務所の弁護士でIT法の専門家である趙戦燦氏は、攻撃後の観点から見ると、刑法には詐欺罪に関する規定があり、民法には国民が権利を享受すると明確に規定されていると述べた。肖像、名前、評判など、およびその他の対応する公民権。言い換えれば、これに関連して他人の肖像画を詐欺に使用した事件があれば、 犯罪者は事後的に法的に拘束され、制裁を受ける可能性があります。 しかし、人工知能テクノロジーの急速な発展に伴い、 効果的な予防を事前に達成する方法も検討する必要があります。

たとえば、「インターネット情報サービスの深層合成に関する管理規定」では、 深層合成サービスが公衆の混乱や誤解を引き起こす可能性がある場合、深層合成サービスの提供者は、生成または編集されたサービスにおいて合理的な立場をとらなければなりません。情報コンテンツ、エリアが明確にマークされています。

「生成型人工知能サービスの管理に関する措置 (意見募集草案)」では、生成型人工知能製品を使用して公衆にサービスを提供する前に、 は国家サイバーセキュリティおよび情報化部門にセキュリティに関する報告を行う必要があります。関連する規制に従った評価; 他者の正当な利益は尊重されなければなりません; 製品プロバイダーは、生成人工知能製品の事前トレーニング データの合法性、トレーニング データ ソースの最適化などに責任を負う必要があります。

浙江大学国際共同ビジネススクールのデジタル経済・金融イノベーション研究センターの共同所長であるパン・ヘリン氏は、今後は、ラベル表示要件が効果的に実施され、効果的な規制システムが実現できれば、次のように考えています。 AI による顔の変更によってもたらされる曖昧な境界を事前に明確にすることは、かなりの程度まで達成できます。

パン・ヘリン: 現在の AI 顔変更の識別監視システムはまだ確立されていません。ラベルのないコンテンツは技術的手段によって識別され、 ラベルのない個人または個人が識別されなければなりません。部隊組織には、特定の懲罰措置、基準、システムがなければなりません。

Zhao Zhan 氏は、

長期的には、立体的で効果的なガバナンス計画を形成するために、技術開発とともに監督と処罰の措置を継続的に「反復」する必要があると考えています。

出典: Voice of China WeChat公式アカウント

転載元：人民日報クライアント

以上がAI 顔変更ソフトウェアはオンラインで公に販売されていますが、法的境界はどこにありますか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。