一份关于 Anthropic 公司人工智能 Claude 被滥用的新报告揭示了其被广泛用于恶意活动，包括国家级黑客攻击、网络犯罪、虚假信息宣传乃至生物武器的研发。尽管该公司表示已成功阻止这些行为，但这仍预示了人工智能可能带来的混乱未来。此外，本周其他重要的安全事件还包括：美国政府摧毁了最大的网络黑市之一 Xinbi Guarantee，一名 Conti 勒索软件团伙成员被判刑，以及 Meta 因未能有效处理 AI 生成的儿童虐待内容而面临审查。
Claude AI 的普遍滥用
Anthropic 公司发布的一份报告详细说明了其人工智能服务 Claude 在过去八个月中被滥用的情况。报告揭示了 AI 被用作各种恶意活动的生产力工具，其范围之广令人震惊。
- 国家级黑客攻击: 报告指出，被微软认定为 Midnight Blizzard 的俄罗斯国家黑客组织曾利用 Claude 进行侦察，入侵了包括乌克兰在内的欧洲政府网络。
- 网络犯罪活动: 著名的网络犯罪团伙 ShinyHunters 在其黑客攻击和勒索活动的几乎每个阶段都使用了 Claude。
- 虚假信息宣传: 从肯尼亚到孟加拉国，多地的政治虚假信息活动都借助了该工具。
- 生物武器研发: 最令人不安的是，Anthropic 发现有用户试图利用其工具开发潜在的生物武器，例如疾病病原体和毒素。
尽管 Anthropic 在报告中强调其成功阻止了这些威胁，但这些案例研究给人的感觉更多是不安而非放心。毕竟，无法保证该公司已经发现了其 AI 的每一次恶意使用。
考虑到其竞争对手以及防护措施较少的开源 AI 工具，这份报告不像是人工智能安全防护的胜利宣言，更像是对 AI 驱动的混乱未来的一次预演。
其他重大安全事件
美国政府捣毁最大网络黑市
美国政府本周采取行动，查封并制裁了网络黑市 Xinbi Guarantee。
- 该市场在四年间发展成为互联网上最大的非法交易平台，销售额估计超过 300 亿美元。
- 其主要业务是为“杀猪盘”加密货币诈骗活动进行洗钱，但也涉及性交易和雇佣骚扰等服务。
- 尽管一年前 Telegram 关闭了该平台，但它重建后规模变得更大。此次行动标志着西方执法部门开始正视这些广泛蔓延的犯罪活动。
Conti 勒索软件团伙成员被判刑
Conti 勒索软件团伙曾是世界上最危险的黑客组织之一，攻击了超过一千个目标并勒索了数百万美元。本周，该组织的一名成员，44 岁的乌克兰人 Oleksii Oleksiyovych Lytvynenko，被判处 4 年监禁。这是勒索软件犯罪分子在美国面临牢狱之灾的罕见案例。
Meta 未能有效处理 AI 生成的虐待内容
Meta 公司在处理有害内容方面再次面临困境。
- 研究发现，Facebook 未能拦截大约 350 个与 AI 儿童虐待相关的广告，其中一些甚至包含真实儿童的图像。
- 另外，据报道 Facebook 上存在一个庞大的账户网络，专门上传描绘暴力侵害儿童的 AI 生成视频。
- 令人担忧的是，即使用户举报，Meta 的处理速度也十分缓慢，有时甚至拒绝删除违规内容。Facebook 的推荐算法甚至会向用户推送更多类似视频，这表明其系统本身可以识别这类内容，却未能有效禁止。