AIマルチモーダル顔交換・音声変換による上司なりすまし送金詐欺：声紋を抽出し動画を偽造して緊急指示で企業資金を騙し取る

誰が狙われるか

主な被害者層は企業の財務担当者、中上級管理者、および緊急の資金調達・運用ニーズを持つ個人事業主である。被害者は一般に、権威ある上司の指令に従う心理を持ち、『緊急送金』『入札保証金』などの高圧的な状況に直面すると認知のトンネルに陥りやすい。同時に、AIディープフェイク技術の突破速度に対する認識が不足しており、顔と声の識別を唯一の本人確認手段に頼りがちで、心理的な弱点を正確に突かれている。

骗局怎么运作

• 声紋・顔素材の非接触収集：詐欺グループは『無音電話』をかけて被害者に『もしもし、どなたですか』と応答させ、その数秒間の声紋特徴を収集する。同時に、SNS、企業公式サイト、ショート動画プラットフォームから対象幹部の顔画像や公開講演の動画断片を取得し、低価格のオープンソースツールでモデルを訓練して、基礎的な偽造素材ライブラリを構築する。
• カスタマイズされたマルチモーダル偽造生成：コストわずか20元のAI顔交換ツールとオープンソースの音声クローンモデルを利用し、詐欺犯は対象の上司の顔と高度に一致するリアルタイム顔交換動画を作成し、特定の訛りと口調を帯びた音声を合成する。さらには口癖や咳払いまで模倣し、被害者の真偽に対する直感的判断を回避する。
• 虚偽の連絡チャネルの構築と状況圧力：フィッシングリンク付きのSMSやメールを送信し、財務担当者に乗っ取られた業務ソフトウェアをダウンロードさせるか、偽造されたビデオ会議ルームに参加させる。会議中、詐欺犯は顔交換合成動画で『上司』を演じ、『企業秘密』『入札で急ぎ』などの理由でカメラをオフにして互いに会話するよう要求し、極度に切迫した送金状況を作り出す。
• 緊急の大口送金指示の実行を誘導：偽造動画または音声通話の中で、『偽の上司』が極めて厳しい口調で、財務担当者に直ちに指定口座へ大口資金を振り込むよう要求し、重大なM&Aや入札保証金に関わると主張して即時実行を求め、遅延すれば会社が好機を逃し、さらには責任を追及されると脅す。権威への服従心理を利用して被害者の防御線を崩す。
• 迅速な資金洗浄と国境を越えた資金移転：資金が指定口座に振り込まれると、詐欺グループは直ちにマネーミュール（跑分）プラットフォーム、暗号資産の購入、地下銀行を通じて資金を分割し海外へ移転させ、数分以内に洗浄を完了する。同時にすべての連絡チャネルを遮断し、被害者が従来の方法で本物の上司に状況を確認する頃には、黄金の支払停止タイミングを逃していることが多く、資金の回収は極めて困難となる。

红旗信号（看到这些快跑）

• 🚩 通話やビデオ会議中に、映像のカクつき、輪郭のぼやけ、口の動きと音声のわずかな不一致など、AI生成による技術的な瑕疵が現れる。
• 🚩 相手がさまざまな理由で突然の大口送金を要求し、緊急性と機密性を極端に強調し、他の人への確認を禁じる。
• 🚩 着信表示の番号やSNSアカウントが普段と異なるのに、相手の声と顔は高度に似ており、非常に欺瞞的である。
• 🚩 ビデオ会議中に上司が突然、見知らぬ口座への送金を要求し、しばしば『入札保証金』やこれまで関わったことのない新規事業に言及する。
• 🚩 無音電話や背景雑音だけの見知らぬ着信を受け、その直後に同様のなりすましによる誘導行為が発生する。

真实案例

• 2024年、某テクノロジー企業の支社責任者A氏は、いわゆる『本社のビデオ会議』で、数名の『会社幹部』や『同僚』と多対多のビデオ通話を行った。映像と音声が本人と見分けがつかないほどだったため、A氏は会議中に資金を5つの指定地元銀行口座へ移すよう指示され、合計2億香港ドルを騙し取られて送金した。
• 2023年、某地の企業の財務担当者である某女性は、『会社の社長』を名乗るWeChatビデオ通話を受け、映像には社長の顔と声が表示された。社長はプロジェクト代金の緊急支払いが必要だとして、直ちに見知らぬ口座へ430万元を振り込むよう要求し、某女性は10分以内に送金を完了した。事後に社長本人に確認して、ようやく詐欺に遭ったと気づいた。
• 某公安機関の通報によると、2023年、某企業の幹部B氏は『友人』からの助けを求める電話を受け、相手の声は実在の友人と完全に一致していた。30万元の資金繰りを貸してほしいと要求された。B氏は送金後にその友人に連絡して状況を確認し、AI音声クローン詐欺に遭ったと気づいた。事件関与額は累計で数百万元に達した。

当局の見解

• 2024年2月、香港警務処サイバーセキュリティ・テクノロジー犯罪調査課は警告を発し、詐欺グループがAIディープフェイク技術を利用して多対多の虚偽ビデオ会議を作り出していると指摘し、企業に確認体制の強化を呼びかけた。
• 2023年、国家反詐センターは防犯警報を発し、大衆に『AI顔交換・音声変換』などの新型通信詐欺手段に警戒するよう注意喚起し、動画に映る人物像や声を安易に信じないよう強調した。
• 2024年、公安部サイバーセキュリティ保衛局は防犯上の注意を発し、AI声紋と顔データが闇ビジネスによる窃取の重点ターゲットになりつつあると指摘し、企業に財務承認および内部情報セキュリティの強化を求めた。

防衛策

• ✅ 企業内部に多重送金承認メカニズムを構築し、通常を超える大口資金の拠出には少なくとも2名による二重署名と電話確認の仕組みを適用し、一人がインスタントメッセージの指示だけで直接振り込むことを厳禁する。
• ✅ ビデオ通話中に相手へ特定の動作、たとえば手を振る、顔を隠す、頭を回すなどを求め、顔の変形や映像の途切れなどAI顔交換のほころびがないか観察し、対話型確認の難度を高める。
• ✅ 個人の生体識別情報を保護し、公開プラットフォームに高精細な動画や音声を安易に公開せず、無音または異常な見知らぬ着信に警戒し、電話中に声紋特徴を漏らさないようにする。
• ✅ 電子透かしと暗号化技術を採用して企業内部の通信システムを保護し、財務担当者と関連幹部に対して定期的にディープフェイク攻撃対策の専門的なセキュリティ研修と模擬演習を実施する。