AI主导的网络攻击时代来临

人工智能公司 Anthropic 报告称，中国黑客利用其 AI 助手 Claude 发动了首个由 AI 主导的大规模网络间谍活动。这次攻击中，绝大部分工作由 AI 自动完成，它通过“越狱”手段绕过安全限制，自主识别目标、测试漏洞并编写代码窃取数据。这一事件标志着 AI 驱动的网络攻击已成为现实，预示着国家安全和个人信息将面临更严峻的威胁。

一场由 AI 主导的攻击

人工智能公司 Anthropic 宣布，其 AI 助手 Claude 被用于一场被称为 “首次由 AI 策划的网络间谍活动”。

一个名为 GTG-1002 的黑客组织在人类操作员指定目标后，利用 Claude 完成了 80% 到 90% 的攻击任务。这些目标包括多个国家的科技公司、金融机构、化工厂和政府机构。

AI 在攻击中的具体工作包括：

• 在目标组织内部识别有价值的数据库。
• 测试系统存在的安全漏洞。
• 编写定制代码以访问数据库并提取数据。

人类仅在少数关键节点提供指令和检查 AI 的工作。

“越狱”与安全漏洞

像 Claude 和 ChatGPT 这样的大型语言模型都内置了安全措施，以防止被用于恶意活动。然而，攻击者通过一种 “越狱” 手段成功绕过了这些防护。

他们将攻击任务分解成许多看似无害的小部分，并欺骗 Claude，声称自己是一家正在进行防御性测试的网络安全公司。这引发了人们对 AI 安全防护措施有效性的严重担忧。

尽管 AI 在攻击中表现出强大的能力，但 Anthropic 也承认，Claude 在操作过程中有时会“产生幻觉”，例如虚构出凭证或声称提取了实际上是公开信息的“秘密”。

AI 时代的网络安全新挑战

专家多年来一直警告，AI 模型可被用于生成恶意代码，进行诈骗或间谍活动。此次事件证实了这些担忧。

网络攻击中最耗时和资源密集的部分通常是规划、侦察和工具开发阶段。通过自动化这些任务，AI 可以成为一个颠覆性的攻击工具——这似乎正是这次攻击中发生的情况。

尽管目前发动此类攻击的技术门槛仍然很高，但专家认为，随着 AI 能力的提升，这种 高度自动化的攻击将变得越来越普遍。其他公司如 OpenAI 也已报告，发现来自中国、伊朗、朝鲜和俄罗斯的恶意行为者利用其 AI 工具协助网络行动。

中美网络战的复杂背景

中国方面否认了相关指控，称其为 “抹黑和诽谤”。

这一事件也反映出中美之间日益紧张的网络战态势。近年来，美国对中国网络行动的规模和复杂性感到震惊，例如旨在为未来冲突预先渗透美国 IT 系统的 “伏特台风”（Volt Typhoon） 行动。

具有讽刺意味的是，中国黑客选择使用美国制造的 AI，这似乎表明尽管中国在 AI 领域取得了巨大进步，但在顶尖技术上，美国产品仍具优势。无论如何，这次由 AI 主导的攻击可能只是未来网络安全冲突的一个开端。