人工智能的发展速度已远远超过政策制定的步伐，社会需要立即采取行动，以应对其在安全、就业、公民自由和地缘政治方面带来的严峻挑战。应当从单纯的透明度要求，转向对前沿模型进行更严格的测试与审计，重点防范网络安全、生物武器和失控风险。同时，需通过经济统计、工资保险、技能培训和长期收入支持来应对劳动替代问题，并改革现有制度以加速AI带来的科学创新。最后，民主国家应建立联盟，共享AI收益，同时共同遏制高风险应用和威权主义滥用。
监管与公共安全
随着人工智能风险的日益清晰，我们必须从追求透明度转向实施更严格、有约束力的监管。目前，最合适的监管模式类似美国联邦航空管理局（FAA）对飞机的管理。强大的技术在造福经济的同时，如果设计或操作不当，也可能造成大规模伤害。
因此，对前沿人工智能模型的监管应包含以下要素：
- 强制性测试： 超过特定算力门槛的模型，必须由合格的第三方机构就四个关键领域进行风险测试：网络安全、生物武器、AI系统失控，以及可能加速这些风险的自动化研发能力。
- 部署干预权： 如果模型被评估为存在不可接受的风险，政府应有权阻止或推迟其部署。这一权力必须严格限定在上述四个风险领域，并建立防范政治偏袒和武断决策的机制。
- 第三方评估： 评估工作可由政府机构执行，也可授权给经政府审查的私营组织，按照统一标准进行。
- 安全标准： 开发先进AI模型的公司必须采用高强度的安全标准来保护其模型权重，并与政府合作抵御主要威胁。
- 事故报告： 在上述四个关键领域发生的安全事件必须被及时上报。
我们需要为今天正在出现的危险设计政策，同时为未来更迅速地应对新危险奠定基础。
未来，当最强大的AI系统构成的威胁更接近于核材料而非普通交通工具时，我们可能需要采取比现在更激进的监管措施。
宏观经济与税收政策
传统经济学认为，促进增长和保障社会公平之间存在取舍。但强大的人工智能可能会颠覆这一前提。AI在加速科技创新的同时，也可能成为人类认知能力的全面替代品，导致史无前例的劳动力市场动荡，造成极速增长与极度不平等的并存。在这种情况下，关键挑战将不再是激励增长，而是如何让所有人共享发展的成果。
对AI引发的就业问题，有两点需要明确：
- 持久性失业是危险的，我们应尽力避免。尽管AI会创造新机会，但我们必须为它可能导致大规模、持久性失业做好准备。
- 应对措施必须同时解决经济保障和人生意义两个问题。政策的重点应放在减缓失业速度，并为受影响者提供经济支持，为社会适应争取时间。
一些关键的政策干预措施包括：
- 衡量与追踪： 政府应利用其数据优势，建立更完善的经济统计体系，以准确追踪AI对就业的影响。
- 促进就业的激励措施： 实施工资保险（补偿接受低薪工作者的收入差距）、企业留人税收激励和劳动力培训补助，以减缓失业速度并加速劳动力市场的适应。
- 长期宏观经济支持： 如果劳动力需求被永久性地压低，政府需要提供长期的收入支持，例如通过对相关公司或资本利得征税来资助全民基本收入（UBI）或全民资本账户。
加速AI的积极影响
在关注AI本身风险的同时，我们也必须确保其带来的积极影响不被过时的监管体系所阻碍。尤其是在生物医药等领域，AI将带来前所未有的创新浪潮，而现有的监管机构（如FDA）可能无法应对这种变化速度。
我们最不希望看到的情况是，AI的风险日益逼近，而其带来的好处却被拖延。
以生物医药创新为例，AI可能：
- 大幅增加进入审批流程的新药候选数量。
- 通过更优化的设计，提高药物疗效并改善其安全性。
- 为以往无法治疗的疾病开发新的候选药物。
- 快速创造全新的治疗方式。
当前的药品审批体系是基于“候选药物通常无效且有安全隐患”的悲观假设设计的，流程漫长。为适应AI带来的加速创新，可以考虑以下改革：
- 接纳AI模拟方法： 监管机构应现在就开始制定标准，以认可基于AI的药代动力学建模、毒理学预测、合成对照组等方法，用以替代昂贵且耗时的传统实验。
- 灵活的加速审批机制： 建立更灵活的审批通道，以应对未来可能大量涌现的、效果显著的新疗法，避免过度怀疑的态度阻碍其应用。
国家与公民自由
人工智能有可能彻底颠覆民主社会中国家权力与公民自由之间的微妙平衡。在不法之徒手中，强大的AI可能成为终极的专制工具。
AI可能突然赋予某些行为者巨大的权力，同时绕过现有的民主监督机制。
潜在的威胁包括：
- 全自动武器系统： 一个完全自动化的无人机军队可能会服从非法命令，使政府能够单方面巩固权力。
- 大规模监控： AI可以大规模分析公开信息，推断出每个公民最私密的细节，这种能力超出了现有民权法律的考量范围。
为了主动加固民主社会的自由根基，我们应考虑以下政策：
- 为全自动武器建立问责规则： 确保这些系统必须响应司法命令、立法和高级别人类监督员的问责机制。
- 禁止在国内使用全自动武器： 虽然在对外防御中可能有其必要性，但在国内执法中没有任何理由使用它们。
- 堵上数据经纪人漏洞： 禁止政府通过购买私营公司数据的方式进行大规模国内监控，AI会让这种监控变得极具侵犯性。
- 保障公民获得AI建议的权利： 当个人或组织面临政府的不利行动时，应有权获得与政府所用AI能力相当的AI辅助，以确保公平。
确保民主国家的领导地位
AI不仅仅是一种贸易商品，它是一种能重塑全球地缘政治格局的根本力量，其影响力可能超过核武器。一个拥有“数据中心里的天才国度”的国家，相对于没有或技术落后三年的国家，将拥有压倒性的军事和经济优势。
因此，民主国家应组建一个全球联盟，共同应对挑战。该联盟应基于共同价值观，通过协调一致的行动，让加入联盟变得极具吸引力，而不加入则代价高昂。
联盟的原则和目标应包括：
- 管理AI供应链： 联盟成员国之间自由共享芯片和半导体制造设备，同时共同努力，拒绝将其提供给对手。
- 协调应对AI风险： 制定国际兼容的风险管理标准，使企业合规成本降低，监管机构也能相互学习。
- 共享AI的益处： 通过贸易和监管协调，加速AI经济利益在联盟内部的扩散，并帮助发展中国家。
- 共同防御： 合作开发和共享AI驱动的网络防御、无人机系统和情报收集能力。
- 抵制AI驱动的压迫： 联盟成员必须承诺在国内建立保障措施，拒绝使用AI进行高科技极权统治。
- 宏观经济合作： 共同协调稳定政策，以应对AI可能带来的跨国界就业危机。