Meta 监督委员会敦促公司采取更严格的措施，保护普通人免受人工智能生成的性化深度伪造内容的侵害。委员会认为，现有政策在处理非公众人物的“非自愿”内容时存在重大缺陷，因为其几乎完全依赖受害者本人举报。为此，委员会提出多项具体建议，要求 Meta 改进其举报流程和内容政策，以应对这一日益严重的全球性问题。
一个被忽视的举报案例
此事的起因是一起 Instagram 举报事件。一名用户举报了一段 AI 生成的视频，视频中一位女性被冒充，其内衣在画面中可见。
- 举报人称自己是被冒充者的朋友。
- 最初有两名用户举报该视频，但 Meta 并未删除。
- 在用户向监督委员会申诉后，Meta 仍未删除内容，仅将其标记为“成人内容”。
Meta 的解释是，当时无法确认视频中的人物是真实存在的。如果被描绘的女性亲自举报，该内容就会因违反“成人性剥削”政策而被删除，因为自我举报是证明“非自愿”的明确标志。
现有政策的致命缺陷
监督委员会指出，Meta 的现有政策给普通受害者设置了过高的门槛。
对于非公众人物来说，证明内容是“非自愿”的唯一可行方法似乎就是 自我举报。
除了自我举报，Meta 认可的“非自愿”证据还包括：
- 来自执法部门的报告。
- 媒体报道或可信合作伙伴的证明。
- 暗示内容以“报复性或耸人听闻的方式”分享的标题或说明文字。
然而，这些渠道对于 普通人 来说几乎无法触及，它们更多地服务于公众人物。这使得普通人在面对性化深度伪造时，几乎无法获得有效保护。
委员会的核心建议
为了解决这一问题，监督委员会向 Meta 提出了三项关键改进建议：
- 默认非自愿： 将 AI 生成的冒充内容直接纳入 成人性剥削政策，并默认其为非自愿内容。
- 授权他人举报： 允许用户指定“可信联系人”（如家人和朋友），授权他们代表自己举报违规内容。
- 设立专门类别： 在举报和申诉表单中，将“AI 性化冒充”设为 独立的举报类别，并向全球所有用户开放。目前，只有美国少数州的用户才能使用专门的深度伪造举报表单。
全球性的威胁
委员会最终推翻了 Meta 的决定，要求其删除涉事视频。委员会强调，这个问题的影响是广泛且深远的。
“人工智能工具的规模、速度和复杂性，显然已导致全球范围内人工智能生成的性化非自愿内容激增。性化深度伪造视频的传播会造成声誉和心理伤害，对女性和女孩的影响尤为严重，并对人们参与社会和政治生活产生寒蝉效应。”