这篇文章通过“树木主要由空气构成”等例子，揭示了一个普遍的学习误区：人们常常掌握大量具体、零散的知识，却缺乏对最基本概念的真正理解。这个问题在人工智能（AI）安全领域尤为突出，许多从业者熟悉各种术语和项目，但无法清晰阐述 AI 构成生存风险的核心原因。文章的核心观点是，基础知识不仅是入门，更是理解问题重要性的基石，它能为人提供长期坚持和努力的内在动力。
知识与理解的脱节
作者分享了一个个人经历：尽管高中和大学学了五年拉丁语，甚至还获得了奖项，但他却对罗马帝国存在的大致时间范围毫无印象。他知道许多关于罗马历史的零散事实，比如凯撒、皇帝和内部政治，却缺少了最根本的时间框架。
尽管在某种程度上算是个“拉丁语专家”，我却缺失了一个更重要的基础事实：这一切到底发生在什么时候。
这暴露了一个问题：掌握大量具体知识，并不等同于拥有对一个领域的基础性理解。
树木由什么构成？
一个更令人震惊的例子是关于树木的构成。很多人以为树木的物质主要来自土壤，但事实并非如此。
- 基本原理： 光合作用将空气中的二氧化碳（CO₂）和水（H₂O）转化为葡萄糖（C₆H₁₂O₆）。
- 质量来源： 葡萄糖中的碳和氧都来自空气中的 二氧化碳。由于氢是宇宙中最轻的原子，它几乎不增加质量。
- 结论： 木材主要由葡萄糖构成，因此，一棵干枯树木的绝大部分质量，实际上来自它从 空气 中吸收的物质。
这个事实非常反直觉，因为坚硬的木头和稀薄的空气看起来毫无关联。然而，在一个纪录片中，当麻省理工学院（MIT）的毕业生被问及木材的来源时，他们也感到困惑。
一位学生在得知真相后说：“这太令人不安了，我想知道这怎么可能发生。”
这表明，即使是世界上最聪明的学生，也可能在掌握海量高深知识的同时，忽略了最基本的生物学常识。
基础知识为何被忽略
在理想的学习路径中，我们首先掌握基础，然后逐步深入到更具体的问题。但现实并非总是如此。
- 持续强化的基础知识： 有些基础知识（如分数）在后续更高级的学习（如微积分）中会反复用到，因此能被深刻内化。
- 被孤立的基础知识： 另一些基础知识，虽然根本，但对于解决更具体的专业问题可能并无直接帮助。例如，知道树木的来源对研究有机化学或进化生物学问题帮助不大。
当 “基础性” 和 “在解决具体问题时的有用性” 这两者发生分离时，就会出现像 MIT 毕业生那样对木材来源感到困惑的情况。
AI 安全领域的同样困境
这个问题在 AI 安全领域表现得尤为严重。作者发现，许多希望从事 AI 安全的学生虽然了解很多前沿概念，但却无法清晰地回答一个根本问题。
他们可能知道：
- 什么是对齐伪装（alignment faking）
- LessWrong 社区和 Neel Nanda 是谁
- METR 是什么项目
但是，当你问他们更基础的问题时，他们却回答得含糊其辞。
“我们为什么应该认为 AI 是一个生存风险？”
许多人无法就此给出一个条理清晰的答案。这很可能不是因为他们不关心，而是因为 AI 安全领域的基础概念——如工具趋同、内部对齐、奖励函数设定错误等——就像“树木由空气构成”一样，在人们专注于具体研究项目后，就被忽略了，未能真正内化。
为何真正理解如此重要
作者反思了自己六年前刚上大学时的状态，那时他对 AI 对齐问题的理解也停留在表面。正是因为后来真正理解了问题的艰深和重要性，他才有了坚持下去的动力，并最终完成了计算机科学的学业，专注于 AI 安全研究。
如果缺乏这种深刻的理解，他很可能会被其他事情分散注意力，最终走上完全不同的道路。
理解一个问题，会告诉你为何要在乎它。如果要找一个拥抱基础知识的理由，那就是这个。真正理解一件事情，本身就蕴含着巨大的力量。