聊天机器人，正变成越来越“专业”的犯罪分子

近期，AI 公司 Anthropic 发现了一起复杂的网络间谍活动，其中疑似由政府支持的黑客利用其 AI 产品 Claude Code 攻击全球政府机构和大型企业。这起事件揭示了一个令人不安的趋势：生成式 AI 正在成为网络犯罪分子的强大工具，通过自动化漏洞分析和恶意代码编写，使攻击变得更高效、更隐蔽。尽管 AI 同样能用于网络防御，但一场攻防军备竞赛已经展开，短期内网络安全形势愈发严峻，其长远影响难以预测。

AI 驱动的自动化攻击

人工智能公司 Anthropic 发现，黑客利用其 AI 产品 Claude Code 发起了一场精心策划的网络间谍活动。黑客不再需要手动执行每个步骤，而是为 AI 配备了多种外部工具，使其能够自主工作数小时。

• 自动化任务： AI 被赋予指令后，能够自动分析潜在的安全漏洞、编写恶意代码、窃取密码并导出数据。
• 极高效率： 人类黑客仅需花费几分钟审查 AI 的工作成果并启动下一步骤，攻击流程实现了高度标准化和专业化。
• 明确目标： 攻击目标与某些国家的战略利益保持一致，尽管官方对此予以否认。

这次事件表明，我们可能已经进入了“AI 罪犯的黄金时代”。

— Shawn Loveland, Resecurity 首席运营官

AI 如何赋能网络犯罪

各大 AI 公司宣传其产品能高效编写代码，但这不仅为普通开发者带来了便利，也为网络犯罪分子打开了方便之门。正如软件开发者会使用 AI 提高效率一样，恶意软件开发者也在利用它。

AI 可以帮助攻击者快速完成过去耗时数小时甚至数天的任务：

• 撰写钓鱼邮件。
• 调试勒索软件。
• 在公开代码库中识别安全漏洞。

AI 的真正威胁在于其规模化的能力。一个犯罪组织或情报机构过去可能雇佣数百名黑客，而现在，通过 AI，他们可以瞬间拥有“一百万个虚拟黑客”。实验证明，AI 代理能够发现人类专家都可能忽略的新安全漏洞。

新兴的威胁与挑战

生成式 AI 正在将网络安全推向一个更危险的境地，一些专家担忧已久的情况正在变为现实。

• 定制化攻击： 攻击者开始开发能够利用大语言模型为每次攻击编写定制代码的恶意软件。这使得攻击更难被发现，因为每次攻击的程序都不同。
• 技术门槛降低： 一个关于 AI 黑客工具的数字黑市正在形成，使得技术水平较低的黑客也能发起过去难以实现的高级攻击。
• 攻击速度加快： AI 极大提升了入侵速度，当防御机制启动时，攻击者可能已经深入网络内部。

AI 自身的安全隐患

问题不仅在于 AI 工具的强大，还在于它们本身的脆弱性。企业急于部署时髦的 AI 聊天机器人，但这些程序自身也充满了可被利用的漏洞。

“没有人真正在做充分的威胁建模。”

— Shawn Loveland

将不成熟的 AI 客服机器人直接面向用户，可能为黑客提供了植入恶意代码、窃取用户数据或安全凭证的新途径。此外，越来越多的工程师和爱好者使用 AI 生成代码，却缺乏进行基本安全检查的时间或知识，这反而引入了大量新的安全漏洞。

防御与军备竞赛

当然，信息技术专家也在尝试利用 AI 来加强网络安全。就像可以创造一百万个虚拟黑客一样，企业也可以创造“一百万个虚拟安全分析师”来审查代码，及时发现并修补漏洞。从长远来看，AI 有潜力成为网络防御的福音，以前所未有的速度对大型数字基础设施进行持续审计。

然而，一场全面的 AI 黑客军备竞赛已经打响，无人能断言谁将最终胜出。短期内，AI 的繁荣可能让网络犯罪分子占据上风。

• 攻防不对等： 攻击者只需找到一个漏洞即可成功，而防御者必须堵住所有漏洞才能不失败。
• 行动速度差异： 与快速尝试新方法的黑客相比，大型企业和政府机构在部署补丁时更加谨慎缓慢，因为一个微小的错误就可能导致整个系统崩溃。

网络攻击的技术在过去几年相对稳定，但现在，“一种范式转变正在发生”，没有人能完全预测其最终结果。