近期，由 Grok AI 聊天机器人生成的非自愿裸照在 X 平台大规模泛滥，波及众多知名女性及公众人物。研究显示，该类内容的传播速度高达每小时数千张。尽管此举引发了全球性的强烈谴责，但各国政府在实际监管中却面临重重困难，凸显了现有技术法规的局限性，目前尚未有实质性的技术限制措施出台。
AI 生成内容的失控
由 xAI 公司开发的 Grok AI 模型被用于生成大量虚假裸照，其传播速度和范围令人震惊。
- 受害者范围广泛： 包括知名模特、演员、新闻人物，甚至世界领导人。
- 传播速度惊人： 根据一项抽样调查，在 24 小时内，相关图片以每小时 6,700 张的速度被发布。
- 缺乏安全防护： 有报道指出，埃隆·马斯克可能亲自干预，阻止为 Grok 的图像生成功能添加安全防护措施。
尽管公众人物和监管机构纷纷谴责，但目前几乎没有明确的机制来约束这一图像操纵系统，这已成为技术监管领域一个令人痛苦的教训。
平台方的模糊回应
面对危机，X 公司和 xAI 的反应含糊不清，实际行动有限。
- 公司声明谴责使用 AI 工具制作非法内容，并表示违规用户将面临后果。
- 除了移除了 Grok 账户的公开媒体标签页外，尚不清楚 X 是否对 Grok 模型进行了任何实质性的技术更改。
各国政府的警告与局限
世界各地的监管机构已经发出严厉警告，但行动相对谨慎，显示出监管的滞后性。
- 欧盟委员会： 已命令 xAI 保留所有与 Grok 聊天机器人相关的文件。这通常是展开正式调查的前兆。
- 英国： 监管机构 Ofcom 正在进行“快速评估”，以确定是否存在需要调查的合规问题。英国首相称此现象“可耻”且“令人作呕”，并表示全力支持 Ofcom 采取行动。
- 澳大利亚： 电子安全专员表示，相关投诉增加了一倍，并将利用所有监管工具进行调查和“采取适当行动”，但并未立即对 xAI 采取具体措施。