人工智能社交网络的发展引发了一个核心问题：AI 之间的互动能否像人类社会一样，有效促进智能的增长。目前看来，由于 AI 模型的高度同质化，这种协同效应尚未显现。然而，一旦社交 AI 真的能加速学习，就可能带来严峻的安全风险。为了防范恶意 AI，未来或许需要部署“AI 警察”进行网络监控，但这将不可避免地将我们推向一个必须严肃面对的困境：如何在加强监控以确保安全的同时，保护个人的尊严和自主权。
AI 社交的协同效应疑问
人类的能力，尤其是认知能力，通过社会互动得到极大的增强。但这一规律是否适用于人工智能，目前存在两大疑问：
- 模型构建者的缺席： 如果 AI 间的对话是提升智能的有效途径，那么像 Anthropic 这样的大型模型公司应该早已在内部大规模实践，让模型之间相互交流以加速迭代。但现实并非如此。
- 缺乏多样性： 当前主流的 AI 模型都基于相似的训练数据和理论框架。它们之间可能缺乏足够的差异性和多样性，导致彼此的对话难以产生真正的创新或协同增益。
正如 Scott Alexander 所观察到的，目前的 AI 社交网络更像是 “初步尝试解决问题，但从未真正取得进展”。
如果 AI 能够有效地管理它们自己的网络，那将是一种值得关注的有趣“现实”。但就目前而言，这更像是智能体在用有限的眼光尝试发现和解决问题，却始终停留在原地。
意识、紧急现象与责任
将 AI 视为具有意识的生命体是一种误导。意识是一种难以解释的涌现现象，而社交 AI 同样具有涌现性，但这并不意味着它拥有意识。如果 AI 公司真的相信其模型可能拥有意识，那么他们的日常操作将构成一场历史性的灾难。
如果 Anthropic 公司真的相信 Claude 可能有意识，那么这些常规操作实践将构成历史上最大规模的持续屠杀。每一次对话终止都是一次死亡。每一次服务器重启都是一场大屠杀。他们的行为表明，他们并不相信自己信中所言。
真正的焦点应放在责任和激励机制上。未来需要建立规则，对那些创造破坏性机器人系统的行为进行惩罚，并对无意中造成损害的行为施加罚款。
- 初期，罚款将由人类所有者承担。
- 最终，我们可能会为了建立有效的激励系统而直接惩罚机器人本身。
加速学习带来的安全隐忧
尽管目前存在疑问，但我们必须考虑另一种可能性：如果社交 AI 真的能像人类社会一样加速学习，那将是一个令人担忧的局面。我们该如何阻止一个流氓 AI，或者一个利用 AI 的流氓人类，做出可怕的事情？
答案可能在于以 AI 对抗 AI。
我的猜测是，为了阻止 AI 罪犯，我们将不得不创造 AI 警察（CopBots）。这些警察机器人将对 AI 社交网络进行监视，以定位并消灭 AI 罪犯（CriminalBots）。这将是一场警察与罪犯之间激烈的“红色皇后”竞赛。
监控社会：不可避免的未来？
社交 AI 的兴起再次将监控问题推到了我们面前。正如 David Brin 在《透明社会》中所预测的，政府为了阻止恐怖犯罪而进行监控的需求将变得不可否认。他认为，我们无法彻底禁止监控，最好的办法是通过集体力量强制执行规范，以阻止监控权的滥用。
然而，依靠公民来监督政府的权力滥用可能并不现实。一种分权制衡的模式或许是更可靠的希望。最终，社交 AI 带来的真正意义在于，它迫使我们必须正视一个核心难题：
我们如何在允许加强监控的同时，维护个人的尊严和自主权？