Meta 正在逐步使用更先进的 AI 系统取代第三方人工审核员，以提高识别恐怖主义、诈骗和儿童剥削等违规内容的效率。虽然 AI 将承担大部分重复性和高负荷的审核工作，但关键决策和高风险申诉仍由人类专家把控。此举旨在提升审核准确率，同时应对日益严峻的监管压力和法律诉讼。
AI 逐步取代第三方外包审核
Meta 计划减少对第三方供应商的依赖，转而使用自研的先进 AI 系统来执行内容监管任务。这些系统主要针对以下高风险领域：
- 非法活动： 识别恐怖主义内容和非法药物销售。
- 安全保护： 检测涉及儿童剥削和性诱导的违规信息。
- 财务安全： 打击各类诈骗和欺诈行为。
“这些系统将能够承担更适合技术处理的工作，例如对血腥暴力内容的重复性审核，或应对不法分子不断变化的战术。”
效率与准确率的显著提升
初步测试显示，AI 在处理特定类型的违规内容时，表现已经大幅超过人工团队：
- 检测率加倍： 在识别成人性诱导内容方面，AI 的检出量是人工团队的两倍。
- 错误率降低： AI 将审核错误率降低了 60% 以上。
- 反诈骗能力： 系统每天能拦截约 5000 次 试图骗取用户登录信息的诈骗尝试。
- 账号保护： AI 能够更精准地识别名人冒充账号，并通过监测异常登录和资料修改来防止账号被盗。
人类专家负责核心决策
尽管 AI 的角色在增强，但 Meta 强调关键决策权依然掌握在人手中。
- 设计与评估： 专家负责设计、训练并监督 AI 系统，测量其性能表现。
- 高风险裁定： 涉及账号禁用申诉或向执法部门报告等高影响力的决策，仍由人工处理。
- 复杂情境： 对于法律和伦理上最为复杂的案件，人类审核员依然是最终的把关人。
用户服务与政策背景
除了后台审核，Meta 还为普通用户推出了 24/7 全天候 AI 支持助手。该助手已在 Facebook 和 Instagram 的移动端及网页版上线，旨在为用户提供即时的帮助和咨询。
这一系列转变发生在一个特殊的背景下：Meta 近期放宽了部分内容审核规则，并面临多起涉及未成年人保护的法律诉讼。通过引入更强大的 AI，Meta 试图在减少运营成本的同时，更有效地应对复杂的网络安全挑战。