OpenAI的CEO萨姆·奥特曼警告，人工智能技术已能完美复制人声，可能很快引发全球银行业的“欺诈危机”。他指出，许多金融机构仍依赖语音识别作为身份验证手段，这种方式在AI伪造面前已极度脆弱。奥特曼还预言，未来AI将能生成逼真的视频克隆，进一步加剧个人安全与机构信任的威胁。对此，美联储表示愿意与科技公司合作，而OpenAI也计划在华盛顿设立新办公室，以加强与监管机构的沟通与协作。
核心警告：语音验证已“完全失效”
萨姆·奥特曼在一次美联储会议上直接向数百名监管者和银行高管发出了警告。他指出，当前的AI模型仅需几秒钟的音频样本，就能完美复刻任何人的声音。
“让我感到恐惧的是，一些金融机构显然仍接受语音作为大额转账或其他操作的验证方式。继续这样做太疯狂了……人工智能已经完全攻破了这种方法。”
十多年来，银行一直依赖语音验证，客户通过重复特定短语来访问账户。但随着生成式AI的进步，这种“声纹”安全系统已经过时。奥特曼描述了一个迫在眉睫的风险场景：攻击者可以轻易模拟客户的声音，给银行打电话并通过所有安全测试，从而自由转移资金。
威胁已至：技术门槛并不高
奥特曼强调，即使像OpenAI这样的公司不出于安全考虑发布最先进的模型，也不能阻止技术的扩散。
“我们不发布这项技术，不代表它不存在。某些不法分子会发布它——这并不是一件特别难做到的事。”
他设想中最糟糕的情况是：
- 攻击者发动大规模、协同的攻击。
- 利用AI生成的语音，迅速攻破全球各大银行过时的安全措施。
- 这种攻击的范围和速度可能是前所未有的。
下一个前沿：从声音到视频
威胁并不仅限于声音。奥特曼进一步描绘了技术的下一个发展阶段，这将对个人安全和机构信任构成更大的挑战。
- 当前威胁： AI生成的语音通话。
- 未来威胁： AI生成的“视频克隆”，能够模仿一个人的外貌和言谈举止。
“现在是语音通话。很快，它将是视频通话，而且会与真人无法区分。”
寻求合作：科技与监管的共同应对
奥特曼的警告得到了美联储的回应。美联储副主席米歇尔·鲍曼表示，监管机构与科技领袖之间的合作至关重要，并暗示美联储愿意与OpenAI就此展开合作。
为了促进与监管机构和政策制定者的直接协作，OpenAI正计划在华盛顿特区设立新的办公室。此举旨在加强沟通，共同推动AI技术在金融等受监管领域的安全应用。