我看着AI智能体试图攻破我用“氛围代码”打造的网站

由 RunSybil 公司开发的 AI 智能体 Sybil，能够模仿经验丰富的攻击者，利用人工智能直觉和并行处理能力来识别和利用网站漏洞。这项技术预示着网络安全攻防领域的变革，它不仅能提供比传统扫描器更深入的渗透测试，也凸显了开发此类防御工具的紧迫性，因为攻击者也正在利用 AI 提升其攻击能力。

AI 如何像黑客一样思考

一种名为 Sybil 的新型 AI 系统正在改变网络安全测试的方式。它由一个主控智能体和多个专用智能体组成，协同工作以发现网站的薄弱环节。

与传统漏洞扫描器不同，Sybil 的工作方式更进一步：

• 传统扫描器： 主要检测已知的、特定的安全问题。
• Sybil AI： 运用 “人工智能直觉” 来推断潜在的弱点。例如，它可能会发现一个普通访客账户拥有了不该有的管理员权限——这是常规扫描器容易忽略的漏洞——并以此为基础构建攻击。

“我们正处在一场技术爆炸的边缘，无论是好人还是坏人，都能利用这些能力。我们的使命是构建下一代攻击性安全测试，帮助每个人跟上步伐。”

— Ariel Herbert-Voss, RunSybil 联合创始人兼 CEO

一次真实世界的测试

为了验证 Sybil 的能力，作者用自己的一个简单网站（Arxiv Slurper）进行了测试。这个网站是用 AI 辅助编码（即“氛围编程”）快速搭建的，其安全性充满了未知数。

幸运的是，由于该网站功能极其基础，Sybil 并未发现任何漏洞。这恰好说明了一个关键点：大多数安全漏洞往往源于更复杂的功能，例如：

• 表单提交
• 第三方插件
• 加密功能

在一个为测试而设、存在已知漏洞的模拟电商网站上，Sybil 展示了其真正的威力。它能系统性地绘制出应用结构，通过操纵参数和测试边缘情况来探测弱点，并将发现的线索串联起来，像一个经验丰富的攻击者一样，但却拥有机器的精准和规模，能够并行处理数千个任务。

平衡攻防的天平

专家认为，随着攻击者开始利用 AI，开发 AI 驱动的防御工具变得至关重要。

• 更广泛的应用： 投资者 Sarah Guo 指出，像 RunSybil 这样的技术，可以让过去只有大公司才能定期进行的安全评估，变得更加普及和持续。企业可以 始终了解自己被攻击时的真实情况。
• 必然的趋势： 卡内基梅隆大学的计算机科学家 Lujo Bauer 强调，AI 驱动的渗透测试是一个非常有前景的方向。他认为，我们必须假设 攻击者已经在利用 AI，因此开发相应的防御工具不仅是负责任的，也是平衡日益增长的攻击风险所必需的。

RunSybil 的创始人 Ariel Herbert-Voss 曾是 OpenAI 的首位安全研究员，他当时就担忧，当语言模型普及后，坏人也会利用它。现在，他正致力于构建解决方案，以应对这一挑战。