最近、AIによる顔変更技術による詐欺事件が注目を集めています。大規模な AI モデルの開発に伴い、「顔交換」技術の適用範囲はますます広がっており、技術の進歩により、顔を交換した後のキャラクターの表情や動作の詳細もよりリアルになりました。重大な危害を引き起こす可能性があります。記者の調査によると、 AI 顔変更ソフトウェアはインターネット上で非常に簡単に入手できます . AI 顔変更ソフトウェアの使用の法的境界はどこですか?事前の監督をうまく行うにはどうすればよいでしょうか?
01
AI顔を変える有料ソフトがインターネットに登場
パッケージ価格は499元から2888元です
現在、大規模なモデルとアルゴリズムのブレークスルーに依存して、AI 顔変更はより広範囲のアプリケーションで使用されており、より多くの懸念を引き起こしています。顔を変えるソフトウェアの使用法と効果を示すチュートリアルがインターネット上にたくさんあります。一般の人が「試してみる」ための多数の無料ソフトウェアとは異なり、記者は、インターネット上には 有料の AI 顔変更ソフトウェアが数多くあることを発見しました。 これらの有料ソフトウェアの違いは何ですか?ソフトウェアとフリーソフトウェア?
「AI 顔変更ソフトウェア」を検索した後、記者は開発者に連絡し、そのソフトウェアを使用して顔変更を実装するデモ ビデオを記者に提供しました。デュアル ウィンドウ ページの左側がオリジナルです。顔変更前の動画、右側が顔変更後の動画 肉眼では、顔変更後の「デジタルヒューマン」の口の形、表情、細かな動きはほぼ完璧です。
ソフトウェア開発者は、販売 Web サイトで、2 人の有名な女優の目と口をつなぎ合わせて新しい「デジタル ヒューマン」のビデオを生成する方法も実演しました。
この有料ソフトウェアには、ベーシック (LV1) からアドバンスト (LV4)、フルセット (LV5) までのさまざまなバージョンが用意されています。エントリーレベルのパッケージの場合、499元でソフトウェアインターフェイス、ビデオガイダンス、顔交換モデルなどが提供されます。2,888元を費やすと、ビデオ顔交換モデルのフルセット(LV5)を入手できます。
02
「顔は好きなように変更できます」
AI大型モデルは複数の機能を統合して「デジタルヒューマン」を作成可能
Web サイトを開きます。下部には、登録済みであることを示すテキストはありません。 販売者も非常に慎重で、プロセス全体を通じてコミュニケーションにテキストのみを使用します。ジュニア(LV1)からスーパー(LV4)までのパッケージに比べ、フル(LV5)版は回数が多く、機能も強化されており、顔の変化効果もよりリアルになっていることが分かると氏は述べた。 ビデオ顔変更を実現できるだけでなく、ライブ顔変更もサポートします。
記者はさらに、自分の必要に応じて顔を変えることができるのかと尋ねました。ソフト開発者は「顔を好きなように変更して、トレーニング用の素材として活用できる」としている。
AI 開発に携わる技術者は次のように述べています。
これは、制御が困難なリスクがさらに存在する可能性があることを意味します。 「ディープフェイクに似た AI 顔変更技術はオープンソースです。最近、大規模な AI モデルが普及しており、そのアルゴリズムが更新されています。これは、Vincent 写真、Vincent テキスト、Vincent オーディオ、Vincent ビデオ、および顔を統合できます。を変更したり、これらの機能を組み合わせたりすることで、まったく新しい「デジタルヒューマン」や「AIヒューマン」を生み出すことができ、監視のコストと難易度は桁違いに高くなります。」
△販売者が表示するユーザーのフィードバック
03
専門家: 効果的な表示監視システム
AIによる顔の変化によって生じる曖昧な境界を事前に明確にできるようにする
北京嘉威法律事務所の弁護士でIT法の専門家である趙戦燦氏は、攻撃後の観点から見ると、刑法には詐欺罪に関する規定があり、民法には国民が権利を享受すると明確に規定されていると述べた。肖像、名前、評判など、およびその他の対応する公民権。言い換えれば、これに関連して他人の肖像画を詐欺に使用した事件があれば、 犯罪者は事後的に法的に拘束され、制裁を受ける可能性があります。 しかし、人工知能テクノロジーの急速な発展に伴い、 効果的な予防を事前に達成する方法も検討する必要があります。 たとえば、「インターネット情報サービスの深層合成に関する管理規定」では、 深層合成サービスが公衆の混乱や誤解を引き起こす可能性がある場合、深層合成サービスの提供者は、生成または編集されたサービスにおいて合理的な立場をとらなければなりません。情報コンテンツ、エリアが明確にマークされています。 「生成型人工知能サービスの管理に関する措置 (意見募集草案)」では、生成型人工知能製品を使用して公衆にサービスを提供する前に、 は国家サイバーセキュリティおよび情報化部門にセキュリティに関する報告を行う必要があります。関連する規制に従った評価; 他者の正当な利益は尊重されなければなりません; 製品プロバイダーは、生成人工知能製品の事前トレーニング データの合法性、トレーニング データ ソースの最適化などに責任を負う必要があります。 浙江大学国際共同ビジネススクールのデジタル経済・金融イノベーション研究センターの共同所長であるパン・ヘリン氏は、今後は、ラベル表示要件が効果的に実施され、効果的な規制システムが実現できれば、次のように考えています。 AI による顔の変更によってもたらされる曖昧な境界を事前に明確にすることは、かなりの程度まで達成できます。
パン・ヘリン: 現在の AI 顔変更の識別監視システムはまだ確立されていません。ラベルのないコンテンツは技術的手段によって識別され、 ラベルのない個人または個人が識別されなければなりません。部隊組織には、特定の懲罰措置、基準、システムがなければなりません。
長期的には、立体的で効果的なガバナンス計画を形成するために、技術開発とともに監督と処罰の措置を継続的に「反復」する必要があると考えています。
転載元:人民日報クライアント
以上がAI 顔変更ソフトウェアはオンラインで公に販売されていますが、法的境界はどこにありますか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

大規模な言語モデル(LLM)は人気が急増しており、ツールコール機能は単純なテキスト生成を超えて機能を劇的に拡大しています。 これで、LLMSは動的なUI作成や自律的なaなどの複雑な自動化タスクを処理できます。

ビデオゲームは不安を緩和したり、ADHDの子供を焦点を合わせたり、サポートしたりできますか? ヘルスケアの課題が世界的に急増しているため、特に若者の間では、イノベーターはありそうもないツールであるビデオゲームに目を向けています。現在、世界最大のエンターテイメントインダスの1つです

「歴史は、技術の進歩が経済成長を促進する一方で、それ自体が公平な所得分布を確保したり、包括的な人間開発を促進したりしないことを示しています」とUNCTADの事務総長であるRebeca Grynspanは前文で書いています。

簡単な、Generative AIを交渉の家庭教師およびスパーリングパートナーとして使用してください。 それについて話しましょう。 革新的なAIブレークスルーのこの分析は、最新のAIに関する私の進行中のフォーブス列のカバレッジの一部であり、特定と説明を含む

バンクーバーで開催されたTED2025会議は、昨日4月11日の第36版を締めくくりました。サム・アルトマン、エリック・シュミット、パーマー・ラッキーを含む60か国以上の80人の講演者が登場しました。テッドのテーマ「人類が再考された」は、仕立てられたものでした

ジョセフ・スティグリッツは、2001年にノーベル経済賞を受賞した経済学者であり、2001年にノーベル経済賞を受賞しています。スティグリッツは、AIが既存の不平等を悪化させ、いくつかの支配的な企業の手に統合した力を悪化させ、最終的に経済を損なうと仮定しています。

グラフデータベース:関係を通じてデータ管理に革命をもたらす データが拡大し、その特性がさまざまなフィールドで進化するにつれて、グラフデータベースは、相互接続されたデータを管理するための変換ソリューションとして浮上しています。伝統とは異なり

大規模な言語モデル(LLM)ルーティング:インテリジェントタスク分布によるパフォーマンスの最適 LLMSの急速に進化する風景は、それぞれが独自の長所と短所を備えた多様なモデルを提供します。 創造的なコンテンツGenに優れている人もいます


ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

SublimeText3 英語版
推奨: Win バージョン、コードプロンプトをサポート!

Safe Exam Browser
Safe Exam Browser は、オンライン試験を安全に受験するための安全なブラウザ環境です。このソフトウェアは、あらゆるコンピュータを安全なワークステーションに変えます。あらゆるユーティリティへのアクセスを制御し、学生が無許可のリソースを使用するのを防ぎます。

ZendStudio 13.5.1 Mac
強力な PHP 統合開発環境

Dreamweaver Mac版
ビジュアル Web 開発ツール

ドリームウィーバー CS6
ビジュアル Web 開発ツール
