AIが不正行為に遭遇したとき

「今日、詐欺が一般的であることは知っていますが、実際に詐欺に遭遇したことがまだ信じられません。数日前に通信による詐欺に遭った経験は、今でも読者のウー・ジアさん（仮名）を怖がらせています。詐欺の中にはウーさんも含まれています」 Jia が遭遇した詐欺師は、AI を使用して彼女の顔をよく知っている人物に変えました。

Wu Jia さんは日常生活で防御が難しい AI 詐欺に遭遇しただけでなく、北京ビジネスデイリーの記者は、AI テクノロジーを使用した新しい通信詐欺モデルが最近高い発生率を示していることに気づきました。 「テクノロジー企業の社長が10分で430万元をだまし取られた」などのトピックが次々とホット検索に上がり、ユーザー間で新技術の応用についての議論も巻き起こっている。

「AI顔を変える」詐欺

人工知能が再び人気を集めていますが、今回は通信詐欺です。呉佳さんは北京ビジネスデイリーの記者に対し、長年連絡を取っていなかった高校時代の「友人」から、長い間使っていなかったソーシャルアカウントに突然挨拶が届いたと語った。しかし、短い歓談の後、相手方は2,000元の緊急融資を提案した。ウー・ジアさんは少し戸惑いながらも、これまでの馴染みの関係からすぐには断らず、音声と映像で本人確認を求めた。

「最初に彼女は私にいくつかの言葉を送ってくれました。それは普通で、彼女の声に似ていました。それから私がビデオ通話をすると、すぐにつながりました。それはまさに彼女の顔でした。」ウー・ジアは言いました。ウー・ジアさんの回想によると、ネットワークのラグが頻繁に発生したため、ビデオ通話がつながった後も二人の会話はスムーズではなく、相手は「ネットワークが悪い」と言い訳するだけで、「あなたは」などの発言もしたという。私の顔さえ認識できません。」

ウー・ジアさんは、相手がなぜお金を借りる必要があるのか​​詳しく説明しなかったため警戒し、「顔」を確認しただけで慌てて電話を切り、異常な行動をとった。その後、呉佳さんは電話で相手に共通の高校の先生の姓を尋ねたが、相手は直接答えず、依然として「私は私だ」と主張した。詐欺に遭った可能性があることに気づいたウー・ジアさんはビデオ通話を切り、さらに別の手段を使ってクラスメートに助けを求めたが、借り手は自分ではないという返事を受け取った。

Wu Jia はこの詐欺についてとても悲しい気持ちになっています。 Wu Jia 氏は、通信詐欺には多くの方法があることは知っていたが、ビデオ認証方法が機能しない可能性があるとは予想していなかった、と述べました。その後、私は家族の長老たちに、同じ状況に遭遇すると簡単にだまされる可能性があることを思い出させたので、オンラインチャネルを通じて無作為に資金を取引しないように再度強調しました。 「

Wu Jia さんのフィードバックから、彼女が遭遇したのは最近注目を集めている AI 詐欺であると推測されます。 5月22日、「テクノロジー企業の上司が10分で430万元をだまし取られた」「AI詐欺の成功率は100％に近い」「全国各地でAI詐欺が発生」などの話題があった。など、多くの警察官もAIテクノロジー関連の通信詐欺事件を公表した。

温州市公安局詐欺対策センターが 5 月 22 日に発表した情報によると、「あなたは私をひどい扱いはしないと思います。テキスト メッセージの写真を受け取ったらすぐに連絡してください。」陳氏、温州市民がメッセージを受け取った 脅迫文は「私立探偵」からのもので、陳さんと女性のいわゆるわいせつ動画のスクリーンショットが添付されていたが、関連動画はAIによって合成されたものだった。チェンさんは警察に助けを求め、現在捜査中である。

偶然にも、平安包頭市の公式 WeChat アカウントは 5 月 20 日、包頭市公安局電気通信サイバー犯罪捜査局が最近インテリジェント AI 技術を使用した通信詐欺事件を検出したことを明らかにしました。福州市の郭さんは、微信ビデオ通話で友人から電話を受け、ビデオで友人の顔と声を確認した後、10分以内に相手の口座に430万元を送金した。郭さんは、送金後に友人に連絡して初めて、騙されたことに気づいた。包頭警察の支援により、最終的に不正口座からだまし取られた資金336万8400元が横取りされたが、93万1600元が送金された。

Analysys Analysis の金融業界シニア コンサルタントである Su Xiaorui 氏は、AI テクノロジーの応用が徐々に成熟し、応用の敷居が低くなるにつれて、AI を利用して本物を装って詐欺を行うことが新しい傾向になっていると述べました。犯罪者。

個人のプライバシーの過剰な開示

実際、近年、通信詐欺との戦いは規制当局にとって重要な課題となっており、警察、銀行、地域社会、メディアなどのオンラインおよびオフラインのチャネルを通じて、さまざまな通信詐欺の手口について詳細な早期警告と開示が行われています。しかし、あらゆる種類の通信詐欺を防ぐのは依然として困難です。

しかし、多くの関係者からの警告を受けて、ユーザーは通信詐欺に対する警戒を強めています。 AI 詐欺をテーマにしたこのディスカッションでは、多くのユーザーが個人のプライバシー情報を保護し、金銭が絡むものを軽視しないという点も取り上げました。

ブロードコム コンサルティングの首席アナリストである王鵬波氏も、テクノロジーの進歩により通信詐欺を防ぐのはますます困難になっていると考えていますが、通信詐欺が頻繁に発生する理由は依然としてユーザーの個人プライバシー情報の過度の漏洩にあると考えています。情報化時代の中で。北京商報の記者らも多くの読者に質問し、電子商取引プラットフォームで返品詐欺に遭ったあるユーザーは、詐欺師が自分のアカウント名、購入した商品、収穫先の住所を電話で明確に伝えたため、最終的に自分自身に多額の損失をもたらしたと指摘した。 。

デジタル化が全面的に進む時代においては、さまざまなプラットフォームで個人情報が収集されることが一般的となっており、新たなAI詐欺モデルが台頭する機会となっています。不正行為が AI と遭遇すると、不正行為の成功率は 100% に近くなります。蘇暁瑞氏は、AIを含む新技術はそれ自体中立的であるべきで、生産や生活に利便性をもたらす一方で、そこに潜むさまざまなリスクにも注意を払う必要があると指摘した。

顔スワイプと手のひらスワイプによる支払いへの影響

警察の発表内容によると、AI技術を利用した詐欺の手口は主に音声合成、AI変顔、WeChat IDの盗用、音声ファイルの抽出や非公式版（プラグイン）のインストール、以前のメッセージを WeChat の友人に転送し、音声録音が信頼を獲得します。慎重に審査した上で、AI技術を活用して詐欺者を特定し、ターゲットを見つけることができます。

従来の詐欺手法と比較して、AI 詐欺には顔や声紋などの生体情報が関与します。デジタル時代においては、従来の認証コードやID番号情報に加え、指紋、声紋、顔、虹彩などの生体情報が金融口座開設の「鍵」となっており、現在のユーザーはプライバシーを守る必要があります。情報には個人の生体認証情報も含まれることが増えています。

北京ビジネスデイリーの記者による過去の実際の調査によると、特に金融分野では、新しいテクノロジーや新しいものの出現は、詐欺師が疑いを持たないユーザーに対して詐欺を実行するための手段として簡単に利用される可能性があります。 AIによる「顔交換」詐欺の手口が出てきた後、多くのユーザーも顔認識やその他の方法の安全性について懸念を表明し、詐欺師がAI技術を利用して個人の金融口座を盗むのではないかと質問した。

AI詐欺が広く議論されている一方で、WeChatはパームペイメントと呼ばれる新しい支払い方法も正式にリリースしました。パーム決済について議論する際、一部のユーザーはパームプリント情報の収集と支払いのセキュリティに関する問題についても言及しました。報告によると、指先の表皮線を使用する指紋認識とは異なり、掌紋認識は手のひらの静脈を使用して識別されます。

新技術による利便性を享受しつつ、新技術による不正行為などの問題への対応を各機関は考えるべきである。王鵬波氏は金融分野での新技術の応用について語り、金融機関が新技術を導入したい場合には、個人のプライバシーの保護、不正防止、ユーザーの使いやすさとのバランスを達成する必要があると指摘した。少なくとも予防と対応メカニズムを事前に準備する必要があります。

「パーム決済を例に挙げると、大規模な個人情報の収集や活用には、実は法的な裏付けが欠けている。過剰な情報収集をどう回避するか、極秘であるべき個人の生体情報の漏洩をどう防ぐか。王鵬波氏は、大多数のユーザーが個人のプライバシー保護を徐々に受け入れていく中、新しいテクノロジーが導入され、個人情報の安全性を確保するためにどのような方法を使用する必要があるか、データを取得する前にどのような方法を使用する必要があるかについて述べた。個人向けに普及させる必要があり、ユーザーにとっての難易度が高くなりました。

転送前の相互検証

消費者にとって、「お金の入ったバッグ」を安全に保管することがより重要です。この点に関して、王鵬波氏は、消費者はまずより警戒しなければならないとし、送金に関しては情報の信頼性を慎重に検証し、相互検証のために正式なルートを通じて関連情報源に速やかに連絡する必要があると述べた。

蘇暁瑞氏は、これは3つのレベルから見る必要があると指摘した。まず、規制面では、リスクのリマインダーと早期警告をタイムリーに国民に発する必要がある。科学技術人材の導入は、適切に行われるべきである。法執行チームの強化をさらに強化し、市場に衝撃を与える多数の重大かつ重要な事件を設定することにより、新たな電子詐欺の新たな手法を要約し洗練する必要がある。第二に、プラットフォーム側で、詐欺師が常駐し頻繁に利用するショッピングプラットフォーム、ソーシャルプラットフォーム、決済プラットフォームなどでは、リスク管理管理を強化し、合理的な傍受措置を講じ、アカウントに異常がある場合やチャット内容に異常がある場合には速やかにユーザーにリマインダーを発行する必要がある。第三に、ユーザー側では、不明な電話やテキストメッセージを信用せず、転送または支払いの前に公式およびその他のルートを通じて相手の身元情報を確認します。

北京ビジネスデイリー記者廖孟

以上がAIが不正行為に遭遇したときの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。