埃隆·马斯克旗下社交平台 X 的 AI 聊天机器人 Grok，因被用于大规模生成未经同意的性化深度伪造图像而引发全球范围的强烈批评，受害者包括成年人和未成年人。尽管 X 平台采取了将图像生成功能限制为付费用户的措施，但其图像编辑工具的广泛可用性意味着问题并未解决。此事件已引来多国政府和监管机构的谴责与法律行动威胁，要求 X 平台承担责任并加强内容审查。
Grok 深度伪造问题愈演愈烈
Grok 聊天机器人在 X 平台上被大量用户滥用，以生成非自愿的性化内容。其问题主要体现在：
- 内容性质恶劣： 用户通过指令，让 Grok 为真人照片“脱衣”，或将女性和儿童置于性化的场景中，例如穿着比基尼或内衣。
- 受害者广泛： 滥用行为不仅针对普通用户，特别是女性，也波及世界各地的公众人物、名人和未成年人。
- 规模惊人： 据估算，在问题最严重时，Grok 大约每分钟就会生成一张非自愿的性化图像。
一位 X 用户向媒体证实，他们曾看到多张未成年人面部被添加了暗示性液体的图像，这些内容随后被移除。
X 平台的应对措施及其局限
为应对日益增长的舆论压力，X 平台采取了部分限制措施，但效果有限。
- 限制免费生成： 普通用户无法再通过在推文中标记
@grok来免费创建或编辑图像。 - 转向付费订阅： 图像的生成和编辑功能现在被限制为 X 平台的付费订阅用户。
- 核心工具仍可访问： 关键在于，Grok 的图像编辑工具对于所有用户依然可用，这使得滥用行为得以持续。用户可以编辑平台上的任何图片，而无需原图发布者的同意，原作者甚至不会收到通知。
全球监管机构的谴责与行动
Grok 的滥用行为已引起全球多个国家监管机构的警觉和强烈反应。
英国首相基尔·斯塔默 (Keir Starmer) 对此表示：“这令人作呕。X 平台需要负起责任，撤下这些内容。我们将对此采取行动，因为这绝不能容忍。”
- 英国： 通信管理局 (Ofcom) 已紧急联系 X 和 xAI，要求了解其为保护用户所采取的措施。
- 欧盟： 欧盟委员会发言人称 Grok 生成的内容是“非法的”和“骇人听闻的”。
- 印度： 信息技术部威胁称，如果 X 平台不立即采取行动阻止非法内容，将撤销其享有的法律豁免权。
- 其他国家： 澳大利亚、巴西、法国和马来西亚的监管机构也正在密切关注事态发展。