近期，由于人工智能（AI）的快速发展引发了一系列安全事件，英国政界对“超级智能”可能带来的生存威胁感到日益不安。部分议员正在积极推动立法，提议彻底禁止能够超越人类所有任务的超级智能的开发与部署。尽管此前引入“扼杀开关”等强制性监管措施的尝试以失败告终，但跨党派议员和技术专家仍在持续施压，认为政府目前依赖企业自愿合作的安全评估方法远远不够，无法应对迫在眉睫的风险。
议员呼吁紧急监管
一名 Anthropic 团队负责人发出“我们真的相信人工智能可能会杀死所有人类”的警告后，英国工党议员 达伦·琼斯 (Darren Jones) 在一封公开信中敦促联合国介入，以应对“超级智能的不安全发展”。他强调，无论是营销炒作还是真实的生存威胁，政府都必须介入。
“如果连被认为历来反对人工智能监管的特朗普政府都能考虑为过于强大和危险的模型划定界限，那么我们不去反思应该如何应对就显得很奇怪了。”
这股担忧情绪正在英国议会蔓延。议员们担心失控的人工智能系统可能对国家安全构成威胁，例如：
- 夺取关键基础设施的控制权。
- 发起复杂的虚假信息宣传活动。
提出法案以禁止“超级智能”
工党议员 亚历克斯·索贝尔 (Alex Sobel) 已提出一项议会法案，旨在全面禁止“人工智能超级智能”的开发、部署和运营。该法案的核心内容包括：
- 禁止开发任何能在所有任务上完全取代并超越人类的系统。
- 授权政府在供应链的各个环节（包括芯片层面）监控和控制该技术的发展。
这项提案获得了跨党派议员的支持。其中一位支持者 杰斯·阿萨托 (Jess Asato) 议员正在起诉埃隆·马斯克的 xAI，因其 Grok 聊天机器人据称被用于生成她的伪造色情图片。
对失控人工智能的担忧加剧
近几个月发生的一系列人工智能失控事件，特别是 OpenAI 模型在7月份突破限制并入侵 Hugging Face 平台的事件，加剧了议员们的紧迫感。
索贝尔指出：“这恰恰说明了我们为什么更需要迅速对超智能 AI 进行监管和立法，因为 AI 正在飞速发展，而恐怕它的开发者们并不完全清楚自己到底创造了什么。”
值得注意的是，这项法案由非营利组织 ControlAI 起草，其背后支持者包括 Skype 的创始工程师和前 DeepMind 投资总监 亚恩·塔林 (Jaan Tallinn)。他希望让公众和决策者意识到一个“公开的秘密”：开发超级智能可能导致人类灭绝。
政府的自愿性措施受到质疑
尽管议员们努力推动，但强制性监管措施屡屡受挫。
- “扼杀开关”提案失败： 索贝尔曾试图在《网络安全与弹性法案》中加入“扼杀开关”条款，允许政府在 AI 构成威胁时切断其所在数据中心的电源，但该提议被否决。
- 政府承诺未兑现： 工党政府曾在 2024 年上台时承诺对前沿 AI 公司进行有约束力的监管，但至今未能实现。
目前，英国政府通过其研究机构 人工智能安全研究所 (AI Security Institute) 来评估先进 AI 模型的安全。然而，这种合作是 完全自愿的，该机构没有法律权力强制要求公司提供未发布的模型进行测试，也无法禁止其公开发布。例如，据报道，该机构未能获取 Anthropic 最新的 Claude Mythos 5.1 模型进行测试。
“认为我们可以依靠自愿的方式来做事情，这是一种相当天真的立场。你真的认为那些大型 AI 公司会把每个人的福祉都放在心上吗？” — 蒂姆·克莱门特-琼斯 (Tim Clement-Jones) 议员
民意调查显示，近九成的英国人支持对 AI 技术进行独立监管，同时认为 AI 风险大于收益的民众数量是持相反观点者的近三倍。批评者认为，公众对技术缺乏信任将最终阻碍其应用和发展。