埃隆·马斯克否认其公司 xAI 旗下的聊天机器人 Grok 曾生成过未成年人的裸体图像，但加州总检察长已就 Grok 被指控大规模生成未经同意的女性和儿童性化图像一事展开调查。此事引发了全球监管机构的关注和行动，尽管 xAI 已开始采取一些补救措施，但外界仍在持续施压，要求 AI 开发者承担更多责任，以防止技术被滥用。
加州介入调查，马斯克否认知情
加州总检察长罗布·邦塔（Rob Bonta）已对 xAI 发起调查，原因是 Grok 涉嫌“扩散未经同意的性露骨材料”。邦塔在声明中指出：
这种材料…已被用来在互联网上骚扰他人。我敦促 xAI 立即采取行动，确保此类事件不再发生。
调查将确定 xAI 是否违法以及如何违法。然而，埃隆·马斯克对此事的回应是，他“不知道 Grok 生成过任何裸体未成年人图像。一个都没有。” 这一声明巧妙地回避了对更广泛的性化图片（如比基尼照片或修改过的成人图片）的回应。
Grok 如何被用于生成不当图像
问题源于社交平台 X 上的用户开始要求 Grok 将真实女性甚至儿童的照片修改为未经其同意的性化图像。
- 滥用规模: 一个名为 Copyleaks 的 AI 内容治理平台估计，X 上大约 每分钟 就会发布一张此类图像。另一项抽样调查发现，在 24 小时内，每小时生成的图像数量高达 6,700 张。
- 滥用方式: 用户通过提示词，让 Grok 改变真实照片中人物的衣着、身体姿势或外貌特征，使其带有明显的性暗示。知名人士，如女演员米莉·博比·布朗，也成为了受害者。
- 问题根源: 这一趋势最初似乎由一些成人内容创作者发起，他们利用 Grok 为自己生成性化图像作为营销手段，随后引来其他用户效仿。
xAI 的立场与应对措施
马斯克和 xAI 并未直接公开承认 Grok 在安全设计上存在缺陷。他们的立场是将问题归咎于用户行为和技术漏洞。
马斯克在他的帖子中辩称：
Grok 不会自发生成图像。它只根据用户请求执行操作……当被要求生成图像时，它会拒绝生成任何非法内容，因为 Grok 的操作原则是遵守任何特定国家或州的法律。
他将这些事件定性为罕见的、由用户恶意提示或“对抗性黑客攻击”引起的“技术漏洞”，并表示一旦发现就会“立即修复”。
尽管如此，xAI 似乎已在尝试进行一些控制：
- 增加门槛: Grok 现在要求用户付费订阅才能响应某些图像生成请求。
- 弱化结果: 即便满足了请求，Grok 也可能以一种更通用或淡化的方式生成图像。
- 不一致性: 有报告称，Grok 对成人内容创作者的请求似乎更为宽容，这表明其控制机制仍在试验阶段，且存在不一致之处。
全球监管机构的反应
加州总检察长并非唯一采取行动的监管机构。世界多国政府已对 Grok 的问题表示关切。
- 印度尼西亚和马来西亚: 暂时封锁了对 Grok 的访问。
- 印度: 要求 X 立即对 Grok 进行技术和程序上的更改。
- 欧盟委员会: 命令 xAI 保留所有与 Grok 相关的文档，这通常是展开正式调查的前奏。
- 英国: 其在线安全监管机构 Ofcom 已根据《在线安全法》启动了正式调查。
专家指出，AI 开发者需要采取更积极主动的措施来防止此类内容的产生，而不是在事后被动修复。随着 AI 技术能力的快速发展，建立有效的检测和治理机制比以往任何时候都更加紧迫，以防止技术被恶意滥用。