Zoom 正在与 Sam Altman 的 World 公司合作，推出一项新功能，通过 World ID Deep Face 技术验证参会者是真人，而非 AI 生成的深度伪造视频。此举旨在应对日益猖獗的视频会议诈骗，这类诈骗已给企业造成了数亿美元的财务损失，新功能通过多重人脸识别来保障在线会议的安全性。
问题的严重性：日益增长的深度伪造威胁
利用 AI 生成的深度伪造视频进行诈骗的风险真实存在，并且增长迅速。这对于经常通过视频进行高价值交易的企业来说，是一个严峻的挑战。
- 真实案例：2024年初，香港一家工程公司的一名员工，在一场看似平常的视频会议后批准了一系列转账，最终公司损失了 $2500万美元。事后发现，除了受害者本人，会议中的所有“同事”都是 AI 生成的深度伪造人物。
- 财务损失巨大：据估计，仅去年第一季度，由深度伪造引发的欺诈造成的财务损失就超过了 $2亿美元。
- 企业平均损失：根据安全行业的报告，企业在类似事件中的平均损失现已超过 $50万美元。
传统的逐帧视频分析方法正变得越来越不可靠，因为 AI 模型在不断进步。
解决方案：World ID 多重人脸验证
为了解决这个问题，Zoom 集成了 World 公司的 World ID Deep Face 技术，该技术采用三管齐下的方法来验证参与者是否为真人。
它通过以下三种方式进行交叉验证：
- 注册图像：与用户通过 World Orb 设备注册时拍摄的签名图像进行比对。
- 实时扫描：通过用户设备的摄像头进行实时人脸扫描。
- 会议画面：与会议中对其他参与者可见的实时视频画面进行比对。
只有当三者完全匹配时，系统才会确认用户身份，并在该参与者的名牌上显示一个 “已验证真人” (Verified Human) 的徽章。
如何在 Zoom 中使用
这项新功能为会议的组织和参与方式提供了更多安全保障。
- 会议主持人可以启用 “Deep Face 等候室”，要求所有参与者在加入会议前完成身份验证。
- 与会者也可以在通话过程中，要求任何一位参会者 当场进行身份验证。
Zoom 发言人表示，这种整合是其开放生态系统的一部分，旨在让客户根据自身需求，有更多方式来建立工作流程中的信任感。