AIを使った最新の詐欺手口【ディープフェイク・音声クローン・生成AI悪用】
生成AIの急速な普及により、詐欺の手口が従来とは次元の異なるレベルに進化しています。著名人の顔・声を本物そっくりに再現したディープフェイク動画、数秒の音声から親族の声を複製する音声クローン詐欺、AIが量産する偽サイト・偽画像――。これらの手口と見分け方を知っておくことが、被害を防ぐための第一歩です。
ディープフェイク動画を使った著名人なりすまし詐欺
総務省の調査では、ディープフェイク技術を悪用した詐欺・なりすましコンテンツが2023年以降急増しており、特に投資詐欺への活用が深刻化しています。ディープフェイクとは、AIを使って人物の顔や声を別の映像に合成・置き換えた偽動画のことです。詐欺への悪用が急増しており、特に以下の手口が問題になっています。
- 著名人・経営者による「投資推奨」動画：著名な実業家や俳優の顔・声を使って「この投資で大きく稼いだ」と語らせる偽動画をSNS広告で大量配信する
- 政治家や専門家のなりすまし：「○○首相が特別な資産運用を推奨」などの偽動画で信頼性を演出する
- 動画の精度が急速に向上：2024〜2025年時点で、静止した状態の動画であれば一般人には判別がほぼ不可能なレベルに達している
著名人の動画があっても100%信用しない
有名人が動画で投資を推奨していても、それがディープフェイクである可能性があります。公式SNSアカウントや公式サイトで同じ内容を発信しているか必ず確認してください。
音声クローンで親族を偽る「AIオレオレ詐欺」
音声クローン技術により、わずか数秒〜数分の音声サンプルから特定人物の声を複製できるようになっています。これを悪用した「AIオレオレ詐欺」が海外で多発しており、日本でも同様の被害が懸念されています。
- 手口の流れ：SNSや動画投稿に残った声のデータから音声を複製→「お母さん、事故を起こした。今すぐお金が必要」と電話→焦った家族が振り込む
- 見分けにくい理由：家族の声の特徴（話し方・口癖・イントネーション）までを再現するため、電話だけでは判別が困難
- 対策：家族間で「合言葉」を事前に決めておく。「本当にあなた？」という質問に答えられないなら詐欺の可能性が高い
緊急を演出して「すぐに振り込んで」と急かすのは詐欺の典型的なパターンです。どんなに切迫した状況でも、直接電話をかけ直して本人に確認してください。
生成AIで作られた偽画像・偽サイト
生成AIを使うと、偽サイト・偽広告・偽書類を短時間で大量に作れます。以下のような悪用が増えています。
- 偽のECサイト量産：プロが作ったように見える偽ショッピングサイトをAIで大量生成する。日本語の自然さも向上しており従来の「翻訳っぽい文章」での見分けが困難になっている
- 偽の資格・実績画像：「○○認定」「金融庁登録済み」などの偽証明書・バッジ画像をAIで生成して信頼性を偽装する
- 偽ニュース記事・偽レビュー：信頼性の高いメディアそっくりのデザインでAI生成した偽記事を拡散する
AIチャットボットを使った恋愛詐欺の精度向上
ロマンス詐欺（恋愛詐欺）にもAIが活用されており、被害の規模が拡大しています。
- 24時間対応の自動会話：AIチャットボットが複数の被害者と同時に「恋愛関係」を演じ、寝る間も惜しまず連絡を続ける
- 個人に合わせた話題・言葉遣い：相手のSNS情報を分析して好みや興味に合わせた会話を自動生成する
- 感情を揺さぶる文章：生成AIが人間が感じやすい共感ポイントを計算した文章を送り続ける
「会ったことがない相手からのお金の要求」は詐欺
どんなに会話が自然でも、実際に会ったことのない相手からお金・投資の話が出た時点で詐欺を疑ってください。AIは感情を持っておらず、すべては誘導のための演技です。
見分けるためのチェックポイント
ディープフェイク動画を見分けるためのポイントを押さえておきましょう。ただし技術向上により完全な判別は難しくなっています。
動画の不自然さ
- まばたきのタイミングが不自然・回数が多すぎる/少なすぎる
- 顔の輪郭や髪の毛の際が不自然にぼやけている・ゆれる
- 表情と声のトーン・タイミングが微妙にずれている
- ネックライン・耳・歯の形が不自然
内容面のチェック
- 著名人が投資・送金を直接勧めることは通常ない
- 公式SNS・ウェブサイトで同じ内容を発信していない
- 急いで決断させようとしている
- 特定のSNSグループ・チャットへの誘導がある
ビデオ通話での本人確認方法
「ビデオ通話で顔を見たから安心」という思い込みは危険です。リアルタイムのディープフェイク技術も進歩しています。本人確認には以下の方法を組み合わせてください。
- 事前に決めた合言葉・質問を使う：家族間で「本人だけが知っている質問」を事前に決めておき、緊急時に確認する
- 不自然な動きを指示する：「鼻を触ってください」「右に向いてください」など予測できない指示に自然に対応できるか確認する
- 別の手段で直接連絡する：通話中に「一度電話を切って、こちらから電話し直す」と伝え、相手が知っている番号に直接かけ直す
今後の詐欺対策の方向性
AI技術の進歩は詐欺師の武器になる一方で、対策技術も進化しています。
- ディープフェイク検出AI：動画・音声がAI生成かどうかを判定するツールが開発・普及しつつある
- 電子透かし・デジタル証明：本物のコンテンツにデジタル署名を埋め込み、改ざんを検出できるようにする取り組み（C2PA規格）が進んでいる
- 個人の「デジタルリテラシー」の向上：技術的な対策とともに、「疑う習慣」を持つことが最も効果的な防衛手段
結局のところ、「急かされたらまず疑う」「お金が絡んだら立ち止まる」というシンプルな原則が、AI詐欺に対しても最も有効です。