尽管苹果和谷歌的应用商店有明确政策禁止色情内容，但它们仍在提供甚至推广“去衣”（nudify）应用。这些应用能将真人照片转化为伪造的裸体或色情图片，部分应用甚至被评为“适合所有人”，使儿童也能下载。一份报告揭示，这些应用已产生数亿次下载和上亿美元的收入，表明平台不仅监管不力，还可能在引导用户并从中获利。此问题已引发多国政府关注，并推动了禁止色情深度伪造内容的立法行动。
应用商店的矛盾行为
苹果和谷歌的应用商店中存在大量“去衣”应用，它们允许用户将真实人物的照片制作成裸体图像或色情视频。这一现象与两家公司禁止色情内容的政策直接冲突。
- 问题应用持续存在： 尽管问题早已曝光，这些应用不仅未被有效移除，反而还在商店中被积极推广。
- 误导性评级： 许多此类应用被标记为 “E for Everyone”（适合所有人），这意味着儿童可以不受限制地下载和使用。
- 搜索推广： 当用户搜索“去衣”、“脱衣”等关键词时，应用商店会主动展示这些应用，甚至在搜索结果中投放相关广告。
报告揭示的惊人数据
根据技术透明度项目（Tech Transparency Project, TTP）的报告，这些应用的传播范围和盈利能力十分可观。
- 苹果商店： 发现了 18 款此类应用。
- 谷歌商店： 发现了 20 款此类应用。
- 累计下载量： 共计达到 4.83 亿次。
- 总收入： 这些应用已创造了约 1.22 亿美元 的收入。
“问题不仅在于这些公司未能妥善审查、持续批准这些应用并从中获利，”TTP 主管凯蒂·保罗指出，“他们实际上在亲自引导用户使用这些应用。”
平台的角色与回应
报告指责平台方是传播这些人工智能工具的“关键参与者”。面对指控，两家公司都采取了行动，但问题并未完全解决。
- 平台政策： 苹果和谷歌都有禁止色情材料的政策，谷歌甚至有专门针对“去衣”应用的禁令。
- 苹果的回应： 苹果公司表示，已移除了报告中指出的 15 款应用。
- 谷歌的回应： 谷歌称已暂停了其中一部分应用，并重申其不允许含有性内容的政策。
政府与法律的介入
“去衣”和深度伪造应用的泛滥已经引起了全球立法者的关注，各国开始采取措施来遏制其传播。
- 英国： 儿童事务专员呼吁禁止所有能生成儿童裸体或性图片的 AI 深度伪造应用。
- 美国及其他国家： 已提出或制定了禁止露骨深度伪造内容的法律。
- 具体行动： 加州总检察长近期已向埃隆·马斯克的 X 公司发出停止令，原因是其 AI 模型 Grok 被用于生成露骨的深度伪造内容。