人工智能（AI）并非一种单一的技术，而是一个能力放大器，其最终影响取决于由谁掌控和如何应用。它可以用来加速决策、扩大规模和处理复杂问题，既有潜力通过提升效率来改善民主制度，例如简化税务和福利审批流程；也可能因编码偏见、集中权力而侵蚀信任、助长威权。因此，关键不在于技术本身，而在于制度设计和规范使用。政府需要加强监管、推动公共 AI 系统的发展，而公民则需要积极监督并抵制不当应用，以确保技术服务于公众利益。
民主作为一种信息系统
将民主视为一个信息处理系统有助于我们理解 AI 的影响。这个系统的任务是处理社会中每个人的偏好，最终形成集体的决策，例如税率应该是多少，失业政策该如何制定。AI 作为一种新的信息技术，能够以更快、更好的方式处理信息，因此它将从根本上改变社会集体决策的方式。
与收音机或互联网等早期信息技术不同，AI 在某种程度上模仿了人类的认知过程。这种特性是否使其产生质变，取决于具体的应用场景。
AI 的核心能力与双重影响
AI 主要通过四种方式影响民主进程：
- 速度： AI 可以比人类更快地做出决策。
- 规模： AI 可以同时执行更多的任务。
- 范围： AI 可以处理更多类型的任务。
- 复杂性： 人类大脑同时处理的想法有限，而 AI 在分析情况时可以考量的因素要多得多。
以税务系统为例，AI 既可以帮助普通人更轻松地报税并大规模地检测税务欺诈，也可以被富人用来进行更复杂的税务欺诈。技术本身是中立的，但它无法解决根本性的政治问题，比如国税局（IRS）的资金不足是政治选择的结果，而非技术难题。
“技术可以做好事，也可以做坏事，但它解决不了根本问题，因为那不是一个技术问题。”
另一个例子是行政审批。在美国，官僚流程缓慢导致成千上万的人在等待残障福利批准的过程中去世。AI 有潜力加速这个过程，更快地处理信息并做出决策。然而，它也可能被滥用，将系统性的偏见编码进自动化流程，大规模地拒绝那些本应获得福利的人。
治理的关键：规范“人”而非“技术”
AI 的潜在风险，如固化偏见、集中权力和侵蚀信任，并非新技术独有。解决这些问题的思路，可以参考我们管理人类社会的方式。
把问题中的“AI”换成“人”，你会发现我们已经有管理这些行为的机制。我们关注的是使用技术的人，以及他们行为的道德与否。
AI 的真正区别在于其巨大的规模。一个人不可能制造出海量的宣传内容，但 AI 可以。关键问题在于，这种程度上的量变何时会引发质变，这需要根据具体应用来判断。
政府与公民的责任
为了引导 AI 的健康发展，政府和公民都需要采取行动。
对于政府：
- 加强监管： 政府需要制定清晰的规则，规范什么能做、什么不能做。重点应放在“基于活动的监管”上，即规范行为本身，而不是试图追赶瞬息万变的技术参数。
- 发展公共 AI 系统： 政府应主动开发公共 AI 系统，为私营企业设定一个在成本、可用性和透明度等方面的道德基准，形成良性竞争。
对于公民：
- 抵制不当应用： 当 AI被用于制造或加剧不公平时，公民应该站出来发声、抵制和抗议。
- 要求负责任的使用： 公民应积极要求政府和企业以负责任的方式使用 AI。
将 AI 发展比作“军备竞赛”是一种有害且服务于企业利益的说法。这种比喻常被公司用来要求政府“不要监管我们、给我们钱”，以便在竞争中获胜。事实上，AI 领域的发展依赖于全球性的学术交流和论文发表，而非闭门造车。
AI 与威权主义的风险
AI 作为一种权力增强技术，在民主手中可以增强民主，在威权手中则会增强威权。一个显著的危险是 AI 被用于自动化官僚系统。过去，庞大而层层分级的人类官僚体系在某种程度上可以缓冲和延缓行政命令的执行，从而抵御某些威权冲动。如果决策过程被 AI 过度自动化，就可能出现一个中央“按钮”，让当权者能够瞬间将政策推行到各个层面，从而极大地集中权力。
另一个担忧是 AI 增强的监视。过去，政府需要雇佣大量人力进行监视。现在，AI 有可能实现自动化的、大规模的 spying（监听、分析个人对话），这在威权统治下将是一场噩梦。
用 AI 赋能公民
尽管存在风险，但公民社会不应因此回避 AI。如果一部分人系统性地拒绝使用这项技术，只会造成权力失衡。相反，我们应该积极探索如何利用 AI 来放大普通人的力量。
一些鼓舞人心的例子正在出现：
- 赋能社会活动家： 有项目利用 AI 分析海量的法律文件，帮助 advocacy groups（倡导团体）理解复杂的立法过程，从而更有效地参与政策制定。
- 促进集体决策： 台湾等地正在使用 AI 工具来辅助大规模的公民审议和共识建立。
技术本身并不是所有问题的解决方案，但它在民主运作中一直扮演着重要角色。我们应该认识到 AI 是一系列连续发展的技术，并以开放的心态探索其所有可能性，以创造一个更公平、更具响应性的社会。