「AI顔変え」詐欺にご注意！この記事を読めば騙されることはありません！

真偽の判別が困難になるAI技術の発達により、オンライン詐欺の検出はさらに困難になっています。巨額の金銭が絡むAI詐欺事件が明るみに出たことで、こうした事件に対して誰もが冷笑的な目を向けるようになった。この記事では、AI 詐欺について詳しく紹介し、それを検出する方法について説明します。

「罠」はどこにでも潜んでおり、「マスク」の真偽を見分けるのは難しい！聞いたことありますか？ 5月25日、またもやとんでもないAI顔変え詐欺事件がマスコミに暴露されました！今回、詐欺の金額は245万件にも上り、詐欺全体のプロセスはさらに短く、わずか9秒でした。本当に驚きました！私たちの財産の安全はすでにあらゆる場所で脅かされているのでしょうか? ！次の被害者になる前に、これらの新しい詐欺について学んでください。

以前「10分でAI変顔で430万元を詐取」という事件が世間の注目を集めたが、5月25日にはさらに恐ろしいAI変顔詐欺事件が発覚した。詐欺の金額は245万元に上ると報じられた。さらに恐ろしいのは、このプロセス全体にかかった時間はわずか 9 秒だったことです。

これら2つの事件は、人工知能技術の普及に伴い、オンライン詐欺の手口も絶えず進化していることを改めて人々に思い起こさせる。人々はさらに警戒し、用心深くなり、「AI による顔の改変」の罠をマスターして特定し、次の犠牲者にならないようにする必要があります。

01 ルーティンは全く同じ：「馴染みの友人＋馴染みの声」

最近、包頭市公安局は人工知能（AI）を使った通信詐欺の事例を報告した。 2023年4月20日正午、福州市のテクノロジー企業の法定代表者である郭さんは友人からWeChatのビデオ通話を受けた。相手側は430万元の保証金が必要だとして、その金を公的口座に振り込むよう要求した。

友人を信用しすぎたため、相手は知能AIによる顔変換や音声合成技術を使用していたため、郭さんは何も言わずに10分以内に430万元を2回に分けて相手の銀行カードに送金した。その後、郭さんは友人に電話をして騙されたことに気づいたが、損失を取り戻すには遅すぎた。その後、福州市と包頭市の警察は速やかに支払い停止メカニズムを発動し、336万8400元の支払いを阻止することに成功したが、93万1600元は依然として送金されていた。

これは孤立したケースではありません。 5月25日の新聞報道によると、安徽省安慶市の何さんも5月22日に同様の詐欺に遭った。その日、何さんは知人からビデオ通話を受け、送金を手伝ってほしいと頼まれた。しかし、9秒後、相手は「会議中」「WeChatも電話も使えないので、QQを追加してください」と言ってすぐに電話を切りました。

その後、その「友人」はQQで何氏に、運転資金を必要とするプロジェクトの入札があり、まずはそのお金の支払いを手伝ってほしいと伝えた。 「ビデオ通話だったし、相手も知り合いだったので」「あまり深く考えず、お金を振り込んでしまった」何氏は「知人」を信頼していたため、ためらうことなく、すぐに家族に依頼して245万元を相手方の指定口座に振り込んだ。後になって相手に電話をかけて初めて、彼は騙されていたことに気づいた。

安徽省安慶市の被害者である何さんのWeChatのスクリーンショット（出典：Da Wan）

幸いなことに、騙されたことに気づいた何さんはすぐに警察に通報した。特別警察は直ちに関連口座を凍結し、一夜にして北京に急行して詐欺に関わった容疑者3人を逮捕し、何氏が騙し取られた132万元を回収した。

2つの事件を振り返ると、詐欺師がインテリジェントAIの顔変換や擬音語技術を使用すると、身近な友人や家族の声や画像を模倣して、被害者に信頼感を与えることができることがわかります。こうしたタイプの「個人情報詐欺」は、一般的に知っている人を信頼する傾向があるため、陥りやすいものです。

どちらの事件でも、詐欺師は同じような手口を使っていた。WeChatの電話や友人のIDを使って事件に侵入し、AI技術を使って被害者の知り合いに変装し、信頼を得て送金するよう誘導していたのだ。この手法では、AIによる顔変換や擬音技術によって詐欺師の外見や声を被害者の身近な人物に非常に似せることができるため、被害者が本物と偽物を区別することが困難になります。

地図: 文化産業評論 石信義

したがって、日常生活では、警戒心を強め、WeChatや他のソーシャルメディア上の見知らぬ人を簡単に信用せず、相手の正体を確認するように注意する必要があります。詐欺の疑いがある場合は、必ず警察に電話してすぐに助けを求めてください。同時に、政府と関係部門は、このようなインテリジェントなAI顔変換や音声擬音技術を使用した通信詐欺に対抗するために、監督と技術的予防を強化する必要があります。

02 AI顔を変える技術詐欺の4つの重要な特徴

AI顔変換技術は主にソフトウェアを使用して、人物の顔の特徴、表情、動きなどの情報を別の人物の写真やビデオに転送し、リアルな顔変換効果を実現します。

現在、AIによる顔変換技術は、映画やテレビ番組の制作、デジタルエンターテインメント、バーチャルリアリティなどの分野で広く活用されており、人々にさらに多彩な視聴覚体験をもたらしています。しかし、この技術は一部の犯罪者に悪用される機会も提供しており、オンライン詐欺や個人情報の盗難などの犯罪行為の強力なツールとなっています。従来の通信詐欺と比較して、AI 顔変換詐欺には次の 4 つの重要な特徴があります。

1. 低コストの投資

従来の通信詐欺では、通常、電話販売員の採用やオフィススペースのレンタルなど、一定の人的および物的コストが必要であり、また、計画と詐欺行為を行うために一定の時間とスペースも必要です。対照的に、AIによる顔を変える詐欺は、携帯電話やコンピューターと何らかのソフトウェアを介して実行できるため、低コストで迅速に実行できます。これは、詐欺師がより早く利益を得ることができ、追跡が困難になることを意味します。

地図: 文化産業評論 石信義

2. 成功の可能性が高まる

従来の通信詐欺は、通常、公安、司法、銀行の顧客サービス、賞品交換プラットフォームになりすまして脅迫したり騙したりする手法が用いられ、成功率は比較的低い。 AI による顔を変える詐欺では、感情的な手段を使って詐欺をより現実的に見せかけ、被害者が罠に陥りやすくしています。この手口は、相手が病気で治療が必要だとか、会社が大きなプロジェクトの入札に協力が必要だとか言って相手の感情的な弱点を突いて同情心を抱かせ、騙すことが多い。これにより、AI による顔変更詐欺の成功率も高まり、被害者は騙されやすくなります。

地図: 文化産業評論 石信義

3. キャラクターの変装が増える

前述のAI顔変換技術を利用して知人や友人になりすまして詐欺を働くことに加え、一部の犯罪者はAI技術を利用してリーダーのQQやWeChatアカウントに偽装し詐欺を働いています。部下やサービス対象者を追加して信頼を得た後、親戚や家族が緊急にお金を必要としていると主張し、相手に売り上げの援助や指定口座への振り込みを依頼します。被害者は上司を畏敬しており、指示に疑問を抱く勇気がないため、簡単に騙されてしまいます。最近、貴州省三都県公安局は、何者かがリーダーになりすまして19万元もの資金を詐取したWeChat詐欺事件を首尾よく摘発した。

上記はWeChat詐欺の参考画像です（出典：インターネット）

4. 予防がより困難

近年、州政府や地方自治体は、従来の通信詐欺に対する成熟した防止策をいくつか開発してきました。特に金融機関は、従来の通信詐欺の防止策をより多様化しており、社会レベルでの防止意識も継続的に高まっています。しかし、AI による顔変換詐欺に対する適切な解決策は現在のところ存在しません。詐欺師はさまざまなソーシャルメディアプラットフォームを利用して詐欺を働く可能性があり、単純な判断で真偽を見分けることが難しいため、短期間で追跡して捕まえることは困難です。

地図: 文化産業評論 石信義

03 AI詐欺の6つの新たな手口を特定し、注意する

まとめると、従来の通信詐欺と比較すると、AI顔変換詐欺はコストが低く、速度が速く、文字数が多く、確率が高く、防止が難しいという特徴があり、社会に与える損害は大きい。したがって、AI ベースの詐欺の 6 つの新しい手口に対して、私たちは厳重な警戒をしなければなりません。

1. 偽の音声詐欺

AI技術を利用して偽の音声メッセージを生成し、親戚や友人などになりすまして詐欺行為を行う。例えば、犯罪者は AI 技術を使用して親戚からの偽の音声メッセージを生成し、自宅で緊急事態が発生し、緊急に資金を送金する必要があると主張しました。被害者は親族の声を聞いてパニックと不安に陥り、深く考えずに送金してしまった。

画像出典：新華網

2. 偽ビデオ詐欺

AI技術を使用して、よりリアルな偽の動画を生成し、よりリアルな人物や状況を作り出し、被害者が騙されやすくします。たとえば、近年では、犯罪者が実在の人物の顔を映画スターの顔に置き換えてソーシャルメディアを通じて拡散し、ユーザーやファンがリンクをクリックしてマルウェアをダウンロードしたり、個人情報を入力したりするように誘導しています。

3. 虚偽の脅迫詐欺

光明オンラインによると、多くのネットユーザーが最近、同様の虚偽の脅迫や詐欺のテキストメッセージを受け取ったという。テキストメッセージには、相手がクレジット詐欺で法執行機関に所在を突き止められ、未払いの借金を午後2時までにすべて返済するよう要求する内容が書かれていた。その日、そうしなければ彼は玄関先で「撃たれる」ことになるだろう。しかし、このような「低IQ」詐欺の手法は、AIが最も騙されやすい人々、特に教育水準が低く社会経験の少ない脆弱なグループを排除するために使われる可能性が非常に高い。

画像出典：新華網

4. 偽のカスタマーサービス詐欺

AI テクノロジーを使用して偽の顧客サービス ダイアログ ボックスを生成し、銀行や決済機関などになりすまして詐欺行為を働きます。例えば、ある詐欺事件では、詐欺師が銀行のカスタマーサービス担当者を装い、WeChatを通じて被害者に連絡し、相手の銀行口座が異常であると嘘をつき、被害者に銀行カードのパスワードを入力するよう求め、その結果、被害者の銀行カードを盗みました。

詐欺師がJDのカスタマーサービス担当者を装って詐欺行為を行っている（出典：深セン詐欺防止センター）

5. フィッシング詐欺

AI テクノロジーを使用して偽の Web サイトや電子メールなどを生成し、ユーザーを騙して個人情報を入力させたり、悪意のあるソフトウェアをダウンロードさせたりします。例えば、フィッシング事件では、ハッカーがAI技術を利用して偽の銀行ウェブサイトを生成し、テキストメッセージを通じて相手に銀行ウェブサイトを開くように指示し、確認のために銀行カード番号とパスワードを入力するよう求め、その結果、被害者の銀行カードが盗まれました。

6. 標的型攻撃を実行する

ハッカーはAI技術を利用してターゲットユーザーの行動特性や個人情報を分析し、的確な標的型攻撃を仕掛け、機密性の高い個人情報を盗み出す可能性があります。たとえば、標的型攻撃では、ハッカーは AI 技術を使用して偽のソーシャル メディア アカウントを作成し、そのアカウントを通じてフィッシング リンクを送信し、ターゲット ユーザーの個人情報を盗み出すことに成功しました。

こうした新たな詐欺はより隠密かつ効率的となり、一般大衆にとってより大きな脅威となる可能性があります。そのため、AI技術に対する監督と管理を強化し、国民の安全意識を高め、将来出現する可能性のある新しいタイプの詐欺に共同で対処する必要があります。

04 AIによる顔変換などの不正行為防止ガイドラインと対策

中国インターネット協会は5月24日、ディープシンセシス製品やサービスの増加に伴い、「AI変顔」「AI変声」などの偽の音声や動画を使った詐欺や名誉毀損などの違法行為が横行しているとの発表を行った。一般の人々は警戒し、予防策を講じる必要があります。

この点について、Cultural Industry Review（ID：whcypl）は、AIによる顔の改変などの詐欺行為を防止し、対応するには、同様の詐欺事件の発生を効果的に防止または軽減するために、個人、政策、技術など、複数の側面からの同時的な取り組みが必要であると考えています。

1. 個人レベルでは、「8つのしてはいけないこと」と「3つのしてはいけないこと」に従う

個人としては、さまざまな「人皮仮面」の中で冷静さを保ち、虚偽の宣伝に陥らないことに加え、常に変化するAI詐欺に対して警戒心を持ち、実際に「聞かない、信じない、送金しない」ことがより重要だ。

（１）個人情報を保護し、「８つのしてはいけないこと」を守る

まず、顔や指紋などの個人の生体認証情報を簡単に提供しないでください。 2 番目に、身分証明書、銀行カード、認証コードなどの情報を簡単に開示しないでください。 3番目に、IDカードや銀行カードの写真を携帯電話に直接保存しないでください。 4番目に、見慣れないリンクをクリックしないこと。 5番目に、見慣れないソフトウェア（APP）をダウンロードしないでください。 6番目に、知らない人を気軽に友達として追加しないでください。 7番目は、知らないQRコードを気軽にスキャンしないことです。 8番目は、見知らぬ人との携帯電話の画面共有を有効にしないことです。

地図: 文化産業評論 石信義

（２）偽りの身元を特定し、以下の３つのことを避ける。

もし誰かが「親戚」「先生」「上司」などを名乗り、WeChat、電話、ビデオ、QQなどのソーシャルソフトウェアを通じてあなたに連絡し、「緊急」「指導者の私事」「不幸」などの理由で送金を要求してきたら、まず警戒してください。いかなる状況下でも、相手が誰であろうと、トラブルを恐れたり、人を怒らせたり、物事を遅らせたりしてはいけません。複数のチャネルを通じて相手の身元を確認し、決して勝手に送金しないでください。 「危険な行動を取るよりも、100 歩遠回りしたほうが良い」ということを覚えておいてください。

画像出典：新華網

2. 政策レベルでは、以下の4つの側面を強化すべきである。

2022年12月、中国サイバースペース管理局と他の3つの部門は「インターネット情報サービスのディープ合成管理規則」を発行し、顔の生成、置き換え、操作、人間の声の合成、声の模倣などを明確に制限しました。しかし、AIによる顔を変える詐欺の現状と手法を考えると、予防と管理をさらに強化する必要があります。

（１）AI顔変換技術の監視強化

関連する法律や法規をさらに充実・改善し、AI変顔技術の開発、使用、管理措置を科学的に標準化し、AI変顔技術の使用の法的範囲を明確にし、AI変顔技術を利用した詐欺、サイバー暴力、プライバシー侵害などの違法行為を厳しく取り締まります。

（２）技術的予防措置の開発を強化する

AI変顔技術の技術研究と予防措置の開発を強化し、AI変顔技術の安全性と信頼性を向上させ、真贋を判別するよりインテリジェントな認識システムを開発し、このような詐欺行為の生存空間を減らします。

（３）部門間の連携強化

公安機関、サイバーセキュリティ部門、金融機関などの部門は、コミュニケーションと連携を強化し、共同の力を形成し、インターネットの生態系と社会の調和と安定を共同で維持する必要があります。例えば、金融機関は顧客ID、携帯電話番号、メールアドレスなどの情報を通じて多重検証を実施し、異常な取引を迅速に検出して対処する必要があります。

（４）公共安全意識教育の強化

AI 合成された顔や偽の音声・動画には通常、非現実的な画像や支離滅裂な音声などの特徴があります。関係部門は、AI変顔技術を使った犯罪事件の広報を強化し、国民の安全意識と自己防衛意識を高め、詐欺の被害者にならないようにする必要がある。

画像出典：新華網

つまり、AI による顔変換詐欺は、深刻な社会的危害をもたらす新しいタイプのサイバー犯罪です。そのためには、個人の予防意識を高めることに加え、技術、政策、法執行、教育などの面で総合的な対策を講じ、AI技術の監視と犯罪活動の取り締まりを強化し、同様の事件の発生を効果的に減らし、国民の正当な権利と利益、社会の安全と安定を守る必要がある。
著者: 小君歌 編集者: タイム 編集者: 半島

出典公開アカウント: 文化産業評論 (ID: whcypl)、中国の文化産業のトップ新メディア。