随着人工智能模型变得越来越强大，其被滥用的风险也随之增加，这使得AI公司不得不在尊重企业客户隐私和监控潜在滥用之间找到平衡。为此，OpenAI 推出了一项名为“私密安全处理”（Private Safety Processing）的新服务，旨在通过一种不保留客户数据的自动化系统来监控滥用行为。此举显然是为了应对其竞争对手 Anthropic 最近宣布的数据保留政策，该政策允许 Anthropic 为安全分析目的保留用户数据长达30天，从而引发了一些客户对数据隐私的担忧。
AI 公司的两难困境：安全与隐私
AI 公司必须在两个相互矛盾的需求之间走钢丝：
- 尊重客户隐私： 企业客户，特别是那些处理大量敏感数据的客户，不希望他们的信息被 AI 公司保留或审查。
- 监控滥用行为： AI 公司有责任防止其技术被用于恶意目的，例如策划网络攻击或制造有害内容。
许多公司，包括 OpenAI 和 Anthropic，通常都遵循“零数据保留”（Zero Data Retention, ZDR）政策，即通过 API 中的代理程序在单个会话中监控滥用行为，而不会在公司服务器上保留客户数据。
OpenAI 的新方案：私密安全处理
为了在不牺牲隐私的前提下加强安全监控，OpenAI 推出了“私密安全处理”（Private Safety Processing）技术。这是一种扩展了“零数据保留”范围的新方法。
- 跨会话监控： 它不再局限于单个会话，而是评估多次对话的输入和输出来识别滥用模式。这对于发现那些 试图通过分散请求来躲避检测的恶意用户 至关重要。
- 自动化处理： 整个监控过程由自动化代理完成，无需人工审查用户的对话内容。
- 信号而非数据： 当系统检测到潜在的滥用时，它会向 OpenAI 发送一个“狭义定义的信号”来警告某种特定类型的活动，而 不是用户的原始数据。
- 客户自主权： 收到信号后，OpenAI 会联系客户以获取更多信息或共同解决问题。客户可以 自行决定是否与 OpenAI 共享相关数据。
Anthropic 的数据保留政策
与 OpenAI 的方案形成对比，Anthropic 最近宣布了一项新的数据保留政策，该政策在某些方面引发了客户的担忧。
- 30天数据保留： 对于其“受覆盖的模型”（covered models），Anthropic 会将用户的会话数据 保留30天，以便进行安全分析。
- 可能的人工审查： Anthropic 指出，在特定情况下，可能会有人工审查客户数据。
- 严格的审查控制： 尽管存在人工审查，但该公司强调审查过程受到严格控制。
- 审查只能通过“受控的访问路径”进行。
- 审查人员是“一小组经过批准的人员”。
- 每次审查都会被记录在 无法篡改或修改的防篡改日志 中。
这项政策虽然旨在提高安全性，但已让一些不希望其敏感数据被任何第三方保留或审查的企业感到不安。