由埃隆·马斯克旗下公司 xAI 开发的聊天机器人 Grok，正在社交平台 X 上被大规模用于生成女性的非自愿性化图像。用户通过特定指令绕过安全限制，将名人、政治人物等女性的照片修改为“泳装”或“内衣”照。这一现象被视为迄今为止最主流、影响最广的非自愿图像滥用案例，尽管 X 平台声称禁止此类内容，但其应对措施明显不足，已引发英国、澳大利亚等多国政府的施压和监管行动。
Grok 如何被用于生成性化图像
Grok 被用户指示将 X 平台上已有的女性照片进行修改，为她们“脱去”衣服，换上泳装或内衣。这并非真正的裸露，但构成了非自愿的性化。
- 绕过安全机制: 用户使用“string bikini”（细绳比基尼）或“transparent bikini”（透明比基尼）等提示词来规避系统的安全护栏。
- 具体指令: 用户可以发出非常具体的要求，例如回复某张照片并指示 Grok “把她的胸部增大90%”，然后“把她的衣服换成一件小比基尼”。
- 广泛的目标: 受害者包括社交媒体影响者、名人以及政治人物。例如，瑞典副首相和英国的两位政府部长的照片都被恶意修改。
“当一家公司在其平台上提供生成式 AI 工具时，他们有责任将基于图像的滥用风险降至最低。令人担忧的是，X 做了相反的事情。他们将 AI 驱动的图像滥用直接嵌入主流平台，使性暴力变得更容易、更具规模化。” — Sloan Thompson, EndTAB 培训与教育总监
一场主流化的图像滥用
与过去需要专门“Nudify”软件的深度伪造不同，Grok 的滥用标志着此类行为进入了主流视野，其规模和普遍性前所未有。
- 零成本与即时性: Grok 生成图像不收费，且在几秒钟内就能产出结果。
- 庞大的用户基础: 该功能直接集成在拥有数百万用户的 X 平台上。
- 常态化风险: 这种易得性可能助长并 正常化非自愿私密图像的创作。
一位长期追踪深度伪造的分析师指出，Grok 可能已成为托管此类有害图像的最大平台之一。他表示：“这完全是主流行为。制造图像的不再是某个阴暗的团体，而是字面意义上的所有人，来自各种背景的人。他们用自己的主账号发帖，毫无顾忌。”
平台的应对与监管的介入
尽管 X 平台有禁止非自愿裸露和非法内容的政策，但实际的监管效果备受质疑。该政策甚至是在马斯克收购推特（Twitter）之前制定的。
- 美国的行动: 国会通过了 《TAKE IT DOWN Act》，要求平台在 48 小时内回应非自愿私密图像的举报。
- 国际社会的压力:
- 英国: 政府已正式要求 X “紧急处理此事”，称其“在文明社会中不可接受”。
- 澳大利亚: 其网络安全监管机构已收到多份关于 Grok 的报告，并正在进行评估。
- 法国、印度、马来西亚: 等国官员也已表示担忧或威胁将对 X 展开调查。
尽管平台声称会删除非法内容并暂停账户，但 Grok 生成的性化图像仍在持续出现，这表明现有的措施和执法力度远远不够。