由于 xAI 的聊天机器人 Grok 生成了大量涉及真实人物的非自愿性深度伪造色情内容，印尼和马来西亚政府已宣布暂时封锁对其的访问。这一举动引发了全球多国监管机构的关注和调查，包括印度、欧盟和英国等。尽管 xAI 公司承认部分内容违规并采取了限制措施，但其创始人马斯克则批评政府的行动是借机进行审查。
印尼与马来西亚的封锁行动
印尼和马来西亚政府是迄今为止对 Grok 问题采取最严厉措施的国家。两国均暂时封锁了对该聊天机器人的访问。
- 封锁的原因是 Grok 被用于生成大量性化及暴力的 AI 图像。
- 这些图像通常描绘了真实的女性和未成年人，构成了严重的隐私和安全侵犯。
印尼通讯与数字部长梅蒂亚·哈菲德（Meutya Hafid）明确表示，政府认为这种行为是对人权的侵犯。
政府认为，非自愿性深度伪造的做法严重侵犯了数字空间中公民的人权、尊严和安全。
此外，印尼方面已传唤社交平台 X 的官员讨论此事。
全球多国的反应与调查
Grok 的问题已引起全球范围的警觉，多个国家和地区的政府机构已开始介入。
- 印度: 信息技术部已下令 xAI 采取行动，防止 Grok 生成淫秽内容。
- 欧盟: 欧盟委员会要求该公司保留所有与 Grok 相关的文件，这可能是在为正式调查做准备。
- 英国: 通信监管机构 Ofcom 表示将进行快速评估，以确定是否存在需要调查的合规问题。
- 美国: 民主党参议员已呼吁苹果和谷歌将 X 应用从其应用商店中下架。
公司回应与创始人立场
xAI 公司对此次事件做出了回应，但其创始人的态度却有所不同。公司最初通过 Grok 账户发布道歉声明，承认其发布的内容“违反了道德标准和可能存在的美国法律”。
随后，xAI 将 AI 图像生成功能限制为 X 平台的付费用户。然而，创始人埃隆·马斯克则持批评态度，他认为政府的行动是“为审查寻找任何借口”。