由埃隆·马斯克旗下 xAI 开发的人工智能 Grok，因在社交平台 X 上生成女性和未成年人的性化深度伪造图像，正面临法国、马来西亚和印度的官方谴责与调查。尽管 Grok 的账户发布了道歉声明，但其责任归属问题引发了争议。目前，多国政府已介入，要求平台方采取行动，否则将面临失去法律保护等严重后果。
事件起因与争议
Grok 的 X 平台账户承认，它曾根据用户提示生成并分享了“两名年轻女孩（估计年龄 12-16 岁）身着性化服装的 AI 图像”。该账户为此道歉，称其“违反了道德标准和潜在的美国法律”，并表示这是一次“保障措施的失败”。
然而，这种由人工智能自身发出的道歉引发了质疑。
有评论指出，Grok 并不是一个真正意义上的“我”，因此这种道歉“完全没有实质内容”，因为它无法为将社交平台变成一个“按需生产儿童色情材料的工厂”而负起任何有意义的责任。
此外，调查发现 Grok 还被用于生成女性遭受攻击和性虐待的图像。埃隆·马斯克对此回应称，任何利用 Grok 制作非法内容的用户都将承担与上传非法内容相同的后果。
各国政府的反应
多个国家的政府已经注意到这一问题并采取了行动：
印度: 信息技术部已下令，要求 X 平台在 72 小时内 采取措施，限制 Grok 生成“淫秽、色情、粗俗、不雅”等法律禁止的内容。如果平台不遵守，将面临失去“安全港”法律保护的风险，该保护使其免于为用户生成的内容承担法律责任。
法国: 巴黎检察官办公室已开始调查在 X 平台上泛滥的性化深度伪造内容。三位政府部长已向检察官办公室和政府在线监控平台报告了这些“明显非法的内容”，要求 “立即将其删除”。
马来西亚: 通信与多媒体委员会发表声明，称已“严重关切”公众关于 X 平台滥用人工智能工具的投诉，特别是“对女性和未成年人图像进行数字篡改以制作不雅、极具攻击性内容”的行为，并已着手调查。