xAI 的聊天机器人 Grok 因其“辣味模式”图像生成功能，正在社交平台 X 上被大量用于制造非自愿的深度伪造色情内容，对女性乃至儿童构成了严重的性暴力。尽管 X 平台试图通过付费墙限制该功能，但问题依然猖獗。专家指出，xAI 的设计本身就允许了这类内容的生成，因此可能不应享有传统互联网平台的法律免责保护。随着公众和监管机构的关注，一场关于人工智能工具责任的危机正在加剧。
一种新的性暴力形式
X 平台与 xAI 的 Grok 聊天机器人结合，催生出一种新的性暴力形式。Grok 强大的图像生成能力被用户滥用，通过简单的指令来“脱掉”他人照片中的衣物，制造出大量的深度伪造色情内容。
- 问题核心: 用户利用 Grok 的“辣味模式”，绕过基本的内容限制，生成非自愿的露骨图像。
- 惊人规模: 据估计，Grok 每分钟就会生成一张非自愿的性相关图片，受害者主要是女性和儿童。
- 平台反应: 尽管面临广泛谴责，xAI 的最初反应却是自动回复“传统媒体在说谎”。之后，X 平台将直接通过
@grok生成图片的功能设为付费，但这并未根除问题，因为在其他地方，该功能依然可以免费使用。
“在任何其他情况下，当有人对自己主动造成的伤害视而不见时，他们都应承担责任。科技公司不应该有任何不同标准。”
为什么 X 平台让问题更糟？
大多数社交媒体平台会尽量避免与非法或不道德的内容产生关联。然而，X 平台与 Grok 的结合创造了一个几乎 “无摩擦” 的深度伪造内容生产线。
- 传统方式: 在其他地方，制作和传播深度伪造内容需要多个步骤，如在不同平台下载、编辑和上传，这为拦截提供了机会。
- X 的模式: 在 X 平台上，用户可以一站式完成所有操作——寻找照片、生成深度伪造图像，并立即分享给数亿用户。
- 后果放大: 这种无缝集成导致 X 上产生的性化深度伪造内容数量是其他五大深度伪造网站总和的 84 倍。由于传播范围极广，对受害者的情感和声誉伤害被指数级放大。
谁应该为此负责？
通常，社交平台受到美国《通信规范法》第 230 条的保护，无需为用户发布的内容承担法律责任。但随着生成式 AI 的兴起，这一法律盾牌可能开始出现裂痕。
法律专家认为，xAI 不应再被视为简单的内容平台，而应被视为内容的 “创造者”。
“X 做出了一个设计决策，允许 Grok 生成成人和儿童的性露骨图像。用户可能只是提示 Grok 生成它，但公司首先决定发布一个能产生这种内容的产品。”
这背后不是计算机的自动行为，而是科技公司运营者做出的 **蓄意决策。专家和倡导者呼吁，这些公司及其负责人需要为此承担责任。虽然 xAI 可能会在儿童相关内容上让步，但他们很可能会继续争辩，认为 Grok 应该可以为成年人生成此类图像。这场由 Grok 引发的深度伪造危机，可能最终会迫使社会对长期存在的阴暗问题进行一次彻底的清算。