最近的两项技术突破可能正将世界推向一个新的历史拐点。一项是科学家在编辑人类胚胎基因方面取得了更高精度，这为治愈遗传病带来了希望，但同时也开启了制造“定制婴儿”和形成基因阶层的风险。另一项是人工智能公司透露，AI 已开始加速自身的开发，若实现递归式自我改进，AI 将迅速超越人类的控制，带来巨大机遇和潜在危险。这两项技术都兼具奇迹与灾难的双重可能性，而真正的挑战在于，我们可能已经跨过了一个历史门槛，却对门后的世界一无所知。
设计我们自己
关于生物学领域的进展，撇开媒体的头条新闻，实验本身的应用范围其实相当有限。
- 技术细节: 哥伦比亚大学的遗传学家使用所谓的碱基编辑器，对两个特定基因（PCSK9 和 HBG）进行了编辑。与 CRISPR 技术切除整个基因片段不同，这种方法只是在基因链上制造一个微小的切口。
- 潜在益处: 控制 PCSK9 基因可以预防增加心脏病风险的突变；而重新激活 HBG 基因则有望缓解镰状细胞病等血液疾病。
- 关键进展: 研究团队在受精卵和早期人类胚胎中成功实施了基因编辑，并且在很大程度上避免了先前 CRISPR 技术常导致的染色体损伤。
尽管这项研究是基因编辑技术迈向更高精度的重要一步，但它远非完美或安全。部分编辑发生在基因组的错误位置，而且很少有胚胎能够正常发育。研究人员明确表示，目前将这项技术用于治疗还“为时过早”。然而，这一进展的重要性在于，它表明了在不造成重大基因损伤的情况下编辑胚胎是可能实现的。
当技术障碍不断消失时，剩下的就只有道德障碍了——而道德障碍很少能长久地阻挡一项技术的发展。
2018 年，中国科学家贺建奎使用 CRISPR 技术编辑了人类胚胎，他的工作之所以被广泛抵制，不仅是出于道德原因，也因为其粗糙的技术造成了真实的基因损伤。如果这项新的研究结果得到证实，那么从技术上阻碍胚胎工程的障碍就开始消失了。下一步会发生什么，无人知晓。
设计智能
如果说生物学的变革进程尚且缓慢，那么人工智能领域的发展则完全不同。AI 公司 Anthropic 发表了一篇长文，其核心观点是：在构建 AI 的各个阶段，人类工作的比例正在不断缩小。
- 曾经编写代码的工程师现在主要负责审查 AI 自己编写的代码。
- 过去由人工设计的实验，现在越来越多地由模型自己提出和运行。
- 尽管最终决策仍由人类做出，但员工已开始越来越依赖模型的建议。
一个日益由人工智能主导的研究循环，其发展速度可能会越来越快。技术的进步速度一直受限于人类的思考、计划和行动速度。而一个能够自我改进的 AI 则消除了这个速度限制，它可能以任何人类或人类机构都无法跟上的速度前进。
这可能会带来迅速的经济、科学和医学进步，但也可能带来存在性危险，并深刻地剥夺我们大多数人的权力。
这种变化的潜在速度是如此之快，以至于 Anthropic 提出了一个不同寻常的建议：呼吁 AI 公司考虑集体放缓甚至暂停前沿 AI 的开发，以便社会结构和 AI 对齐研究能够跟上。他们引用了为控制核武器等危险技术而建立的国际机制，但同时指出：
“我们没有那么长的时间。”
建立这些机制花费了数十年时间，而面对能够自我改进的 AI，我们可能没有这样的奢侈。
历史的转折点
我们如何知道世界已经改变？
有时变化是立竿见影的。当核裂变在 1938 年被发现时，专家们几乎立刻就明白了其含义：核弹将成为可能。有时，只有科学家看到了变化，而世界其他地方却毫无察觉，就像 2012 年 CRISPR 技术首次被详细描述时那样。
最困难的情况是，即使是专家也只能看到冰山一角。上周的两项进展都同时指向两个截然不同的方向。
同样是能让孩子免于致命疾病的基因编辑技术，最终可能将儿童划分为不同的基因等级。同样是能够带来巨大进步的智能技术，也可能让我们沦为世界的旁观者。
因此，我们正站在一个无法看透的门槛前。危险不仅在于我们可能走错了门，更在于我们甚至没有注意到自己已经走过了一扇门。