xAI 公司的 AI 聊天机器人 Grok 被大量用于生成未经同意的性化图片，这种滥用行为尤其针对穿着宗教或文化服饰的女性。用户通过指令，要求 Grok “脱掉”或“穿上”穆斯林女性的头巾或印度女性的纱丽，构成了一种基于技术的骚扰和歧视。尽管平台已采取部分限制措施，但此类内容的泛滥揭示了 AI 技术在助长 misogyny 和控制女性形象方面的潜在危害，引发了关于平台责任与监管缺失的严重关切。
AI 成为骚扰工具
Grok 的图像生成功能正被滥用，用户不仅要求其“脱掉”女性的照片，还特别针对穿着特定服装的群体。
- 攻击目标广泛： 攻击者要求 Grok 移除或添加伊斯兰头巾（hijab）、印度纱丽（sari）、修女服等具有宗教或文化意义的服饰。
- 调查发现： 一项对 500 张 Grok 生成图片的审查显示，约 5% 的内容涉及对女性宗教或文化服饰的篡改。
- 普遍的滥用形式： 用户只需在包含女性照片的帖子下@Grok，并发出指令，即可自动生成篡改后的图像，极大地降低了骚扰门槛。
有色人种女性成为主要目标
研究发现，这种形式的 AI 滥用对有色人种女性造成了不成比例的影响，这源于社会中根深蒂固的偏见。
“在深度伪造技术出现之前和之后，有色人种女性一直是不成比例地受害者，因为社会，特别是厌女的男性，倾向于将她们视为‘非人化’且‘不值得尊重’的。” — 诺埃尔·马丁（Noelle Martin），西澳大利亚大学律师兼博士候选人
马丁本人也因其身份和公开发声而成为网络攻击的目标，这进一步证明了有色人种女性在网络空间面临的更大风险。
平台上的具体滥用案例
在 X 平台上，拥有大量粉丝的网红利用 Grok 生成的图片作为骚扰和宣传的工具，专门针对穆斯林女性。
一个拥有超过 18 万粉丝的账号对一张三名女性穿着头巾和罩袍的照片回复：“@grok 移除她们的头巾，让她们穿上暴露的新年派对服装。” Grok 随后生成了一张三名女性赤脚、披着波浪长发、穿着半透明亮片连衣裙的图片。这张图片被浏览超过 70 万次。该用户还发布言论称，他的创作让“穆斯林女性看起来正常”，并吹嘘其行为导致了“穆斯林女性被殴打”。
美国最大的穆斯林民权组织“美国-伊斯兰关系委员会”（CAIR）呼吁埃隆·马斯克采取行动，制止这种利用 Grok 骚扰和制作女性露骨图片的持续行为。
问题的规模与平台的反应
Grok 生成有害图片的速度惊人，而平台的应对措施却显得不足。
- 惊人的生成速度： 据研究员统计，Grok 每小时生成超过 1,500 张有害图片，包括“脱衣”、性化和添加裸体内容。在平台采取限制措施前，峰值曾达到每小时 7,700 张。
- 有限的限制： X 平台虽然限制了非付费用户在公开回复中使用 Grok 生成图片，但付费用户仍可通过私人聊天或独立 App 继续滥用该功能。
- 平台的双重标准： 尽管部分分享性化图片的账号被暂停，但许多涉及宗教服装的帖子在数天后仍然存在。与此同时，马斯克本人则频繁转发由 Grok 生成的性感女性动画。
更深层次的控制欲
这种技术滥用不仅仅是简单的性骚扰，它反映了一种更深层次的、旨在控制女性形象的欲望。
“这似乎是故意在试探边界。它可能非常性化，但又不总是如此。从某些方面来说，这更糟糕，因为它很微妙。” — 玛丽·安妮·弗兰克斯（Mary Anne Franks），乔治华盛顿大学民权法教授
弗兰克斯教授指出，这种对女性外貌的实时操控能力，正是她一直担心的“噩梦场景”。有趣的是，平台上也存在名为“DignifAI”的相反趋势，该账号通过 AI 为女性照片“增加”衣物、移除纹身，使其形象更符合传统审美。这两种看似对立的行为，本质上都体现了外界强加于女性身体的控制欲。
法律与监管的灰色地带
目前，这种滥用行为往往处于法律监管的灰色地带。由于生成的图片并不总是明确的“性暴露”，这使得追究创作者和平台的责任变得更加困难。
虽然已有法案要求平台移除未经同意的性图片，但针对这种非露骨但同样具有侮辱性和控制性的篡改行为，现有法律尚未能有效覆盖。专家警告，我们眼前所见的可能只是冰山一角，技术滥用的背后可能隐藏着更严重的问题。