AI動画ツールSynthesia、審査義務怠り提訴：アバター悪用がBEC詐欺を助長

誰が狙われるか

被害者は主に企業の財務責任者、出納担当者、国際業務責任者、一般従業員で、彼らはビデオ会議を経営層の指示の権威ある情報源と見なすことに慣れており、画面上の「上司」の顔と声を検証する意識に欠けている。心理的な弱点は、権威への服従、指示の遅延で責任を問われることへの恐れ、技術的な不具合を本物の信号と誤認することにあり、緊急送金の指示の前で二次確認を放棄してしまう。

骗局怎么运作

• 犯罪グループはSynthesiaなどのAI動画合成サービスを購入または購読し、公開されている取締役会の写真や会議映像を利用して経営幹部のデジタル分身を生成する。仕組みは、これらのツールがユーザーにテンプレートと音声のアップロードを許可し、口の動きが同期した動画を自動生成でき、無料トライアル期間でも高精度の偽造コンテンツを作成できる点にある。プラットフォームのカスタマーサポートのトークは「動画1本と録音1本だけで、あなたのデジタル従業員を作成できます」と強調しがちで、適法用途の境界を誤らせる。
• LinkedIn、企業公式サイト、決算説明会動画を通じて、標的企業の経営幹部の顔、声紋、話し方の癖を収集し、個別化したAIモデルを訓練する。こうした公開データは許諾なしで収集可能であり、Synthesiaなどのプラットフォームは利用規約でアップロード者に人物肖像権の保有証明を義務付けていない。闇市場はダークウェブのフォーラムで「公開動画を使って30分でCEOをクローンする方法」という技術的経路を公然と議論している。
• 経営幹部のビデオ会議招待を偽造し、なりすましドメインや企業メールへの侵入によって財務部門に会議リンクを送信する。動画内の「CEO」は会議室で「緊急買収」や「機密プロジェクト」の指示を下す。この段階では、ディープフェイク映像をZoomやTeamsの本物のインターフェースに重ねることで一般的な視覚的審査を回避し、メール内で社内の慣用句をコピーし、「本取引は取締役会の承認済みであり、外部に漏らしてはならない」と強調する。
• ビデオ会議中に録画済みコンテンツをリアルタイムで再生したり、簡単に応答したりして、財務担当者に数時間以内に指定口座へ送金するよう求める。その仕組みは、時間的圧力と「経営層が同席している」という状況を利用し、従業員に通常の承認プロセスを飛ばさせることにあり、動画内の人物は「なぜ受取先を変更するのか」といった疑問にも答え、信頼性を高める。よく使われるトークは「私は休暇中だが、取引は待てない。すぐに緊急支払いルートで処理してほしい」というものだ。
• 成功すると直ちに資金を複数の少額クロスボーダー送金に分割し、会議記録とメールの痕跡を削除する。一部の銀行はクロスボーダー送金に対するAIリスク管理が不足しており、資金は30分以内にマネーロンダリング口座へ流入する。闇市場は、取引監視や後続の監査を回避するため、財務担当者に送金備考で「投資資金」「コンサルティング料」などの通常名目を使用するよう求める。

红旗信号（看到这些快跑）

• 🚩 動画内の人物の顔の輪郭がちらつく、まばたきの頻度が異常、口の動きと音声が同期していないなどは、ディープフェイクに最もよく見られるほころびであり、肉眼で観察するかスロー再生で識別できる。
• 🚩 会議リンクが送信者名と一致しない不審なドメインから送られている、または企業メールのドメインに余分な文字が1つある。たとえばcompany.comをcompany.coと書いている場合。
• 🚩 相手が「絶対厳秘」「直ちに実行」を求め、2人目の同僚への確認を拒否し、緊急を装う話術で理性的思考を抑え込む。
• 🚩 送金先の受取口座が個人名義口座や海外で新規登記された会社であり、契約書に登録されたサプライヤー口座ではない。また、受取人名義と業務内容が一致しない。
• 🚩 ビデオ会議終了後、相手は電話に出ない、または他のチャネルでも連絡が取れないが、メールやチャットツールでは依然として支払いを催促し続け、「声は聞けども折り返し電話はない」という異常を形成する。

真实案例

• 2024年の公開報道によると、約70人のオペレーターで構成される犯罪グループが、工業化された手段で某多国籍企業のCEOになりすまし、ビデオ会議で経営幹部の身分を偽造し、1.4億ユーロに関わる不正取引を計画した。被害者には複数の欧州製造業企業が含まれ、3週間以内に資金は数百件に分割されて海外口座へ送金された。
• 2023年、某海外政治家の古い動画が犯罪グループによってつなぎ合わされ、その人物がZoom会議に出席している映像が偽造され、その身分で多国間の要人や企業に緊急資金を要求し、累計で約500万元人民元を騙し取った。この事件は、攻撃者がリアルタイム合成を必要とせず、古い素材を編集するだけで「オンラインで同席している」という錯覚を作り出せることを示している。
• 2026年、中国国内のある大学の学生がAI顔偽造動画技術を利用して他人になりすまし、金融プラットフォームで顔認証を完了させ、5万余元を不正に引き出した。警察が背後にある黒色・灰色産業チェーンを摘発した際、動画合成ツールが明示的な価格で販売され、一部の売り手はカスタマイズされた「会議分身」サービスも提供しており、BEC詐欺の手口と同源であることが判明した。
• 2024年3月、南都の報道によると、香港警察は香港初のAI多人顔替え詐欺事件を公表した。某多国籍企業の香港支店の従業員が、本社の最高財務責任者（CFO）が開始した多人ビデオ会議に招待され、指示に従って2億香港ドルを15回に分けて5つの地元銀行口座へ送金し、後になって本社に問い合わせて初めて騙されたと知った。詐欺師はYouTubeから動画をダウンロードし、Deepfakeで会議参加映像を偽造していた。（出典：https://m.mp.oeeee.com/a/BAAFRD000020240301916066.html）
• 2023年5月、包頭市公安局電信ネットワーク犯罪捜査局はスマートAIによる通信詐欺事件を公表した。4月20日正午、福州のテクノロジー企業責任者の友人がWeChatビデオで連絡し、外地の入札に430万元の保証金が必要だとして口座を経由させようとした。詐欺師はスマートAIの顔替えと音声合成技術で友人を装い、10分で430万元を騙し取った。福州と包頭の両地の警察と銀行は支払い停止で336.84万元を阻止した。（出典：https://www.fjdaily.com/app/content/2023-05/23/content_1893368.html）

当局の見解

• 2026年6月22日、新華社は「新華調査丨『AI顔替え』詐欺のブラック産業チェーンを暴く」と題する特集報道を発表し、犯罪グループがディープフェイクツールを利用して詐欺素材を大量生成していることを体系的に明らかにした。また、企業と個人に対し、ビデオ会議での送金指示に警戒するよう呼びかけた。
• 2026年、西安警察はAIを利用して虚偽動画を大量生成し企業を攻撃していた犯罪グループを摘発したと通報した。4人が刑事拘留され、事件に関与したアカウントはすべて削除された。警察は、AI合成技術を利用した恐喝や商業詐欺が産業化段階に入っているとして、企業は対抗策を策定すべきだと注意を促した。
• 2026年9月2日、新浪財経は規制当局の通報を引用し、AIアプリの混乱事例を名指しで取り上げた。古典の「魔改」、公人へのなりすまし・模倣などの行為が含まれ、関連プラットフォームに深度合成コンテンツの表示義務とユーザー実名制の実施を求め、応じなければ法に基づいて処理するとした。

防衛策

• ✅ 二者承認制度を設ける。ビデオ会議での送金指示に関しては、必ず独立した電話または対面で確認し、社内の経営層だけが知る「合言葉」を設定して身元確認を行う。
• ✅ Microsoftの動画検証プログラムやIntel FakeCatcherなどのディープフェイク検出ツールを導入し、動画内の顔のピクセル変化や血流信号を自動分析して、会議開始前に参加者をスキャンする。
• ✅ メールセキュリティを強化する。ドメイン認証（SPF、DKIM、DMARC）と強制二要素認証を有効にし、なりすましドメインを定期監視し、販売代理店やサプライヤーからのメールには赤い外部マークを付ける。
• ✅ 四半期ごとに詐欺防止訓練を実施し、「AI経営幹部ビデオ会議」攻撃シナリオを模擬し、財務担当者が実際の操作で偽造の特徴を識別できるようにする。訓練結果は部門の業績評価に組み入れる。