AI詐欺はすぐそこまで来ていますが、どうやって防ぐべきでしょうか?

どんなテクノロジーも諸刃の剣です。人工知能 (AI) は私たちにどのような害をもたらすのでしょうか?

現在、科学者、起業家、メディア、その他周囲の人々を問わず、私たちは AI の長期的な害について議論しています。AI が労働者の職を失い、人間の思考を超えたり代替したり、さらには人間に害を及ぼす可能性さえあるなどです。文明や支配などへの興味を失うこと。

しかし、AI が私たちにもたらす害は、私たちの目の前にあります。そして、ほとんどの人は、直接経験するまで、自分が被害者であることに気づきません。

最近、「会社の上司がAI顔変更詐欺に遭い、10分で430万元を騙し取られた」というニュースが、一時、大手ニュースサイトのホット検索リストに載った。被害者によると、詐欺師はAI変顔技術や擬音技術を使って友人になりすまし、詐欺を行ったという。ビデオを見たので、その時になって初めて私たちは警戒を緩めました。」

今回の事件で「AI顔面変更」詐欺の認知度が高まったが、実際には「AI顔面変更」の事例は他にもたくさんある 人気芸能人が生放送ルームでグッズ販売、わいせつな動画も画像内の顔などはすべて犯罪者がAI技術を利用して作成した詐欺である可能性があります。

さらに、犯罪者は AI 技術を利用して他人の WeChat アカウントを盗んだ後に音声ファイルを抽出したり、WeChat の音声を転送して詐欺を行うこともあります。

問題は、AI技術がもたらす利便性を享受する一方で、「AI顔面変更」などの新たな詐欺にどう対処すべきかということだ。

昨年 12 月、中国サイバースペース局、工業情報化部、公安部は共同で「インターネット情報サービスの深層合成の管理に関する規則」を発行し、その中で次のように言及されました。サービスプロバイダーは、サービスを使用して生成または編集されたコンテンツを厳密に管理しており、情報コンテンツには、その使用に影響を与えないロゴを追加する必要があります。インテリジェントな対話、合成された人間の音声、顔の生成、没入型のシミュレーションシーンなど、情報コンテンツを生成または大幅に変更する機能を提供するサービスは、公衆による混乱や誤解を避けるために明確にマークされなければなりません。

今月初め、ショートビデオプラットフォームは「人工知能生成コンテンツに関するプラットフォーム仕様と業界の取り組み」もリリースしました。これは、生成人工知能技術を使用して侵害コンテンツを作成および公開することを明確に禁止しています。肖像権、知的財産権等に限定されており、発見した場合にはプラットフォーム側から厳罰に処せられます。

グッズのライブ配信などの商業活動を伴う場合、上記の顔交換ライブ配信は当該芸能人やアーティストの肖像権侵害に該当する可能性があり、事態はより深刻となります。なお、顔を交換する生放送は、娯楽目的で営利を目的としない場合であっても、肖像権者の許諾がなければ権利侵害となります。

では、個人的には、「AI 顔変更」などの新たな詐欺にどのように警戒すべきでしょうか?

5 月 24 日、中国インターネット協会は、「AI 技術を利用した新たな詐欺に直面して、一般大衆はより警戒し、防止を強化する必要がある!」と警告を発しました。情報セキュリティ、また、リモートで資金を送金する場合は、必ず複数の認証を実行し、「お金の袋」をしっかりと管理してください。

業界に関しては、本紙の特別コメンテーターであるXiong Zhi氏は、情報保護のレッドラインを明確にし、技術サービスプロバイダーの行動の標準化と指導を強化するために、できるだけ早く規制を確立する必要があると考えています。すべてのリンクには AI の顔の変更、AI のオノマトペなどのみが含まれており、証拠に基づいた厳格な承認を取得し、不正行為をより困難にすることによってのみ、すべての人の情報と財産のセキュリティをより適切に保護することができます。

最後に、AI の顔変更、AI のオノマトペ、その他の詐欺に苦しんでいる、または苦しんでいると感じている場合は、「法」を使って「AI の魔法」を打ち破る方法を学ばなければなりません。もちろん、それに対処する最善の方法は、それを信じないことを選択することです。

以上がAI詐欺はすぐそこまで来ていますが、どうやって防ぐべきでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。