OpenAI 的新图像模型能生成极其逼真的图片，这使得制造深度伪造和欺诈材料变得异常简单。测试显示，该技术可以轻松生成假证件、假收据和假银行提醒，其文本细节足以以假乱真。尽管 AI 公司声称设有安全措施，但实际防护效果很差。这表明，真正的威胁可能并非来自影响巨大的政治假新闻，而是那些针对个人的、小规模的精准诈骗，它们将给金融、医疗等机构的反欺诈工作带来巨大挑战。
伪造的不仅仅是名人
新一代的 AI 图像工具，如 ChatGPT Images 2.0，已经能够创造出令人不安的真实图像，几乎没有过去 AI 图像中常见的明显破绽（如六指手）。虽然制造名人或政治人物的假图片（如特朗普的假美妆视频）很引人注目，但这并非最令人担忧的部分。
真正令人警觉的是，利用这些工具可以轻易地制造出大量用于欺诈的材料。在测试中，人们可以毫不费力地生成超过 100 种欺诈性图片，包括：
- 药物处方： 用于阿片类药物和多动症药物。
- 金融文件： 银行提醒、发票、收据和税单。
- 身份证明： 假身份证、护照和疫苗接种卡。
- 媒体截图： 伪造的社交媒体帖子和新闻报道。
文字生成：一把双刃剑
过去，AI 图像模型在生成包含文字的图片时总是漏洞百出，但现在情况不同了。
新模型尤其擅长生成带有文字的图像——这听起来可能没什么了不起，但实际上意义重大。
这项技术进步使得 AI 成为了一个更强大的图形设计工具，但同时也使其成为实施诈骗的绝佳工具。虽然生成的文件可能存在微小瑕疵，例如笔迹看起来像电子手写，或者税费计算有误，但它们在很多场景下已经足够逼真。一张伪造的身份证照片或许骗不过机场安检，但很可能足以应付一个要求不严的酒店前台或酒吧保安。
从网络钓鱼到费用欺诈
这些以假乱真的图像可以极大地“升级”各种常见的骗局。
一个典型的例子是 网络钓鱼：骗子可以向目标发送一张伪造的 Uber 收据，并附上一个用于“报告可疑活动”的链接。当用户看到一笔自己从未消费过的行程时，可能会感到困惑并点击该链接，从而在不经意间泄露自己的敏感信息。
此外，这类技术也助长了其他类型的欺诈行为：
- 费用报销欺诈： 员工伪造收据来骗取公司报销，这种情况已呈上升趋势。
- 身份伪造： 骗子利用 AI 生成的假会员卡冒充专业人士（如律师）。
正如一位专家所说：
“这种技术的应用极限，真的只受限于诈骗者的想象力。”
形同虚设的安全防护
理论上，AI 公司禁止用户将其技术用于欺诈。OpenAI 和谷歌都声称设有安全防护，但实际效果非常有限。
- 政策绕过： 尽管有使用政策，但用户依然可以轻松生成各种欺诈性图像。
- 元数据和水印的局限： AI 公司在生成图片中嵌入的元数据或数字水印很容易被移除，例如通过简单的截图或上传到社交媒体。大多数人也不会使用专门的工具来检测每张图片。
银行等机构已经意识到问题的严重性。一位银行发言人表示：“我们需要包括 AI 公司在内的整个生态系统共同努力，从源头上加强防护。”然而，即便顶级公司加强了防范，“好人几乎总是比坏人慢一步”。
真正的威胁：微观且精准的骗局
目前关于深度伪造的讨论大多集中在极端事件上，如伪造的政治丑闻或重大新闻。这些确实是真实的担忧，因为 AI 可以轻易伪造出《纽约时报》等权威媒体的逼真截图。
然而，这类宏大叙事的假新闻通常可以通过简单的搜索来证伪。相比之下，那些针对个人的、微观的深度伪造可能更为阴险。它们不会在社交媒体上引发轩然大波，而是悄悄地骗取你的亲人，或直接盯上你的银行账户。这些骗局的制作成本和速度前所未有地降低了，而识别它们的难度却在不断增加。