AI视频工具Synthesia被诉未尽审核：化身滥用助长BEC诈骗

骗谁

受骗者主要为企业财务负责人、出纳、跨国业务主管和普通员工，他们习惯以视频会议作为高层指令的权威来源，对公屏中“老板”的面孔和声音缺乏验证意识。心理弱点在于服从权威、担心延误指令被追责，以及将技术故障误当作真实信号，从而在紧急转账指令前放弃二次核验。

骗局怎么运作

• 犯罪团伙购买或订阅Synthesia等AI视频合成服务，利用公开的董事会照片和会议录像生成高管数字分身。机制在于这些工具允许用户上传模板与音频，自动生成口型同步视频，且免费试用期即可产出高仿内容。平台客服话术往往强调“只需一个视频和一段录音，即可创建你的数字员工”，误导合法用途边界。
• 通过LinkedIn、公司官网和财报会议视频收集目标企业高管的面部、声纹与语言习惯，训练个性化AI模型。此类公开数据无需授权即可抓取，Synthesia等平台在用户协议中不强制要求上传者证明拥有人物肖像权，黑产在暗网论坛公开讨论“如何用公开视频30分钟克隆CEO”的技术路径。
• 伪造高管视频会议邀请，通过仿冒域名或入侵企业邮箱向财务部门发送会议链接，视频中“CEO”在会议室里下达“紧急收购”或“保密项目”指令。该步骤利用深度伪造画面叠加Zoom或Teams真实界面，规避常见的视觉审查，邮件内复制公司内部惯用语，并强调“本交易已获董事会批准，不得外传”。
• 在视频会议中实时播放预录内容或简单应答，要求财务在数小时内向指定账户转账。其机制是利用时间压力与“高层在场”情境，迫使员工跳过常规审批流程，视频中人物还会回应“为什么改变收款方”等质疑，增加可信度。常用话术为“我正在度假，但交易不能等，请立刻走紧急付款通道”。
• 得手后立即将款项拆分为多笔小额跨境转账，并删除会议记录与邮件痕迹。部分银行对跨境汇款缺少人工智能风控，资金在半小时内流入洗钱账户。黑产要求财务在汇款备注中使用“投资款”“咨询费”等常规名目，以此规避交易监控和后续审计。

红旗信号（看到这些快跑）

• 🚩 视频中人物面部边缘闪动、眨眼频率异常或口型与声音不同步，这是深度伪造最常见的破绽，可用肉眼观察或慢速回放识别。
• 🚩 会议链接来自与发件人姓名不符的奇怪域名，或企业邮箱域名多一个字母，例如将company.com写成company.co。
• 🚩 对方要求“绝对保密”“立即执行”，并拒绝与第二位同事确认，利用紧急话术压制理性思考。
• 🚩 转账收款账户为个人账户或海外新注册公司，而非合同中备案的供应商账户，且收款人名称与业务内容不符。
• 🚩 视频会议结束后，对方不接电话或无法通过其他渠道联系，但邮件或聊天工具仍持续催促付款，形成“只闻其人不见回电”的异常。

真实案例

• 据2024年公开报道，一个由约70名操作员组成的犯罪团伙，通过工业化手段冒充某跨国企业CEO，在视频会议中伪造高管身份，策划了涉及1.4亿欧元的欺诈交易，受害者包括多家欧洲制造业公司，三周内资金被拆分成数百笔汇往海外账户。
• 2023年，某海外政治人物的旧视频被犯罪团伙拼接，伪造其出席Zoom会议的影像，并以该身份向多国政要和企业发出紧急资金请求，累计骗走近500万元人民币。案件显示，攻击者无需实时合成，只需剪辑旧素材即可制造“在线在场”假象。
• 2026年，国内某高校大学生利用AI人脸伪造视频技术，冒充他人在金融平台完成人脸识别验证，盗刷5万余元。警方起底背后黑灰产业链时发现，视频合成工具被明码标价出售，部分卖家还提供定制“会议分身”服务，与BEC诈骗手法同源。
• 2024年3月，南都报道香港警方披露香港首起AI多人变脸诈骗案：一家跨国公司香港分部职员受邀参加总部首席财务官发起的多人视频会议，按指示将2亿港元分15次转到5个本地银行账户，事后向总部查询才知受骗，诈骗分子从YouTube下载视频并用Deepfake伪造参会画面。（来源：https://m.mp.oeeee.com/a/BAAFRD000020240301916066.html）
• 2023年5月，包头市公安局电信网络犯罪侦查局发布一起智能AI电信诈骗案：4月20日中午福州一家科技公司负责人的好友通过微信视频联系，以外地竞标需430万保证金为由借账户过账，骗子用智能AI换脸和拟声技术佯装好友，10分钟骗走430万元，福州、包头两地警银止付拦截336.84万元。（来源：https://www.fjdaily.com/app/content/2023-05/23/content_1893368.html）

官方态度

• 2026年6月22日，新华社发布《新华调查丨揭秘“AI换脸”诈骗黑色产业链》专题报道，系统披露犯罪团伙利用深度伪造工具批量生成诈骗素材，并提醒企业和个人对视频会议中的转账指令保持警惕。
• 2026年，西安警方通报打掉一个利用AI批量生成虚假视频攻击企业的犯罪团伙，4人被刑事拘留，涉案账号全部注销。警方提示，利用AI合成技术实施敲诈勒索、商业诈骗已进入产业化阶段，企业应建立反制预案。
• 2026年9月2日，新浪财经引述监管部门通报，点名一批AI应用乱象案例，涉及“魔改”经典、假冒仿冒公众人物等行为，并要求相关平台落实深度合成内容标识和用户实名制，否则将依法处理。

怎么防护

• ✅ 建立双人复核制度：任何视频会议中涉及转账指令，必须通过独立电话或当面确认，并设置只有内部高层知晓的“暗语”进行身份验证。
• ✅ 部署深度伪造检测工具，如微软视频验证程序或Intel FakeCatcher，自动分析视频中的面部像素变化和血流信号，在会议开始前对参与者进行扫描。
• ✅ 加强邮箱安全：启用域名验证（SPF、DKIM、DMARC）和强制双因素认证，定期监测仿冒域名，对来自渠道商、供应商的邮件增加红色外部标记。
• ✅ 每季度开展防诈骗演练，模拟“AI高管视频会议”攻击场景，让财务人员在实际操作中识别伪造特征，并将演练结果纳入部门绩效考核。