生殖遗传学（通过基因工程增强人类能力）是一项值得积极推进的有益技术。尽管一个普遍的反对观点认为，通用人工智能（AGI）将在未来一二十年内出现，使得生殖遗传学因见效太慢而失去意义，但这种看法是错误的。事实上，我们不应对 AGI 的短期到来过于自信，而增强人类智能（HIA）本身就是一个被严重忽视、但对于降低 AGI 存在风险至关重要的策略。即使 AGI 很快到来，HIA 仍能产生巨大影响，并且其他增强成人智能的方法也未必比生殖遗传学更快。
增强人类智能 (HIA)：一个被忽视的关键领域
将资源投入增强人类智能（HIA）领域具有重要的战略价值，尤其是在慈善投资组合中。
- HIA 是一个被严重忽视的领域。相较于数千人研究 AI 安全、数百人研究 AI 监管，加速 HIA 发展的人屈指可数。这为新加入者创造了巨大的机会。
- HIA 是人类生存的少数希望之一。许多人（无论公开或私下）都认为，增强人类自身的智慧是应对 AGI 毁灭性风险的少数可行途径之一。
- 资源分配存在系统性失误。由于人们普遍相信 AGI 即将到来，导致 HIA 领域资源严重不足。即使这种信念是正确的，它也造成了慈善投资组合的严重失衡，这是一个需要纠正的集体错误。
我们必须关注所有可能的干预点。我们不能允许世界被 AGI 摧毁。HIA 被广泛认为是人类生存的少数真正希望之一。这是一个我们绝对不能掉以轻心的地方。而目前，我们正在掉以轻心。
反对“AGI 即将到来”的过度自信
对于 AGI 将在 15 年内到来的高概率预测（例如 >80%）缺乏令人信服的证据。
目前支持 AGI 即将到来的主要论点，即 AI 能力的飞速提升和 AI 在 AI 研究中的应用，并不能完全站住脚。
对“能力飞速提升”的解释：当前 AI 的大部分能力似乎源于对海量互联网人类数据的模仿，而非其自身的流体智力。它们的能力本质上是“复制”由人类流体智力产生的结晶智力。AI 在需要创造新概念或高效学习等方面的表现仍与人类有巨大差距。因此，能力的快速增长并不能证明我们已经掌握了创造 AGI 的核心技术。
对“AI 辅助研究”的解释：最重要的研究瓶颈通常在于思想层面，而非编码。除非我们已经接近创造 AGI，否则当前 AI 对研究的加速作用有限，不应显著改变我们对 AGI 到来时间的预测。
HIA 或可间接减缓 AGI 的发展速度
发展 AGI 的主要理由是它能为人类带来富足。如果存在一个可信的替代方案，既能实现富足，又能避免 AGI 带来的巨大存在风险，那么开发 AGI 的动机就会减弱。
- 通过 HIA 创造一个明确、快速且良好的发展轨迹，可能会削弱社会对开发 AGI 的普遍动机。
- 虽然许多人追求 AI 能力只是为了金钱或权力，但一个积极的替代方案可能会改变社会对未来的希望和叙事，其影响力不应被低估。
即使 AGI 很快到来，HIA 依然影响巨大
在极端困境中，我们应该专注于那些能够导向最终成功的路径，即“打出我们的出路”（play to our outs）。HIA 正是这样一条宝贵的出路。
- 暂停 AGI 研发需要一个长远计划。即使我们成功暂停了 AGI 的进展，我们仍然需要一个方案来从根本上解决风险。HIA 通过提升人类的智力，为我们找到这些答案提供了可能。
- 提前解决问题价值巨大。将一个能拯救世界的方案从 50 年后提前到 40 年后，相当于降低了 AGI 在这十年间出现的风险。即使在非常激进的 AGI 时间线下（例如每年 10% 的出现风险），这项干预仍然能降低约 1% 的总存在风险。
- AI 对齐问题极其困难。指望在短期内“快速解决对齐问题”是不现实的。这是一个在智力、概念和哲学上都极其困难的挑战，瓶颈在于深刻的创造性思维，而非金钱或资源。
- HIA 是一个可行的替代方案。增强后的人类精英将有更好的机会解决对齐问题，或者想出其他规避存在风险的方法，例如：
- 开发下一代 HIA 技术。
- 找出更有效的方法来强制执行对危险 AGI 的禁令。
- 改善社会决策机制，形成反对冒险开发 AGI 的强大共识。
从本质上讲，制造对齐 AGI 的初衷就是因为我们需要智慧，但无法充分放大我们自己的智慧。因此，一个替代方案就是想办法充分放大人类的智慧。
增强成人智能的方法未必更快
一种观点认为，我们应专注于增强成人智能（Adult HIA），因为它比生殖遗传学见效更快。然而，如果没有“曼哈顿计划”级别的投入，这种方法未必是更快的选择。
- 数据基础差异巨大：生殖遗传学可以利用数十亿现有人的基因数据来识别与智力相关的基因。而增强成人智能的干预措施缺乏这样的大型数据集，每次实验都只能获得极少的数据点。
- 实验周期漫长：对成人大脑的干预效果可能需要数月甚至数年才能显现，这使得开发周期非常缓慢。相比之下，生殖遗传学所需的大部分生物技术（如干细胞技术）拥有更快的反馈循环。
- 技术路径不明确：生殖遗传学有清晰的技术路径（如体外配子发生、基因编辑）。而增强成人智能的路径尚不明确，无论是脑机接口、药物还是基因编辑，都面临巨大技术障碍，如血脑屏障、免疫反应等。
- 发展动力和市场基础不同：生殖遗传学与降低疾病风险的技术高度重叠，拥有强大的科学、社会和市场推动力。数百万通过试管婴儿出生的案例也为该技术提供了庞大的潜在用户基础。相比之下，增强成人智能的各种方法应用场景更小众，缺乏类似的规模化动力。
因此，尽管增强成人智能的理念很吸引人，但其实施周期很可能也是以数十年计的。在没有明确路径和大规模投入的情况下，它并不比生殖遗传学更具速度优势。