将智能与权力混为一谈是错误的。现实世界中的权力主要源于制度、信任和群体协作，而非个人智力。因此，更先进的人工智能（AI）更可能首先作为高效的工具出现，帮助其背后的组织在竞争中取胜，而不是以单个“超级大脑”的形式直接控制世界。
“智能”是否等于“权力”？
一种常见的观点将智能定义为“在广泛领域内实现目标的能力”。如果接受这个定义，那么世界上最有权势的领导人似乎就是最聪明的人。
这个定义实际上将 智能等同于了权力。毕竟，如果权力不是在广泛领域内实现目标的能力，那又是什么呢？
按照这个逻辑，斯大林可能就是有史以来最“聪明”的人。这显然与我们通常对“智能”的理解有所出入。我们想到超级智能时，脑海中浮现的不是一个强权人物的形象。
权力的真正来源
现实中，世界上最有权力的人，其权力来源并非个人脑力超群。
- 权力并非源于个人智谋：我们对权力的直觉常常被棋类游戏误导，这些游戏奖励纯粹的战略推理。
- 权力源于协作与信任：在现实世界中，权力更多是拥有权威和信任，从而让大量的人与你合作的产物。
一个领导人之所以强大，不是因为他的大脑是地球上最高效的“优化引擎”，而是因为一个被数亿人视为合法的 制度 赋予了他巨大的权力。
个体智慧与群体效应
个体层面的分析常常会产生误导。研究表明，个体智商与个人收入的关联性适中，但一个国家的平均智商却与其整体发展成果密切相关。
更聪明的社会拥有巨大的 “溢出效应”。
这些效应包括：
- 更强的合作意愿。
- 更高的储蓄率。
- 能够协调建造航天飞机和半导体等复杂事物。
19世纪的英国拥有大量像蒸汽机先驱理查德·特里维西克那样的发明家，尽管他本人穷困潦倒。正是这个群体让英国建立了全球帝国，击败了拿破仑。国王乔治三世本人无需成为天才，他所统治的 国家体系 才是力量的源泉。
对AI未来的启示
我们将寻求权力的AI与科技上超级智能的AI混为一谈。目前AI的发展方向（使其成为优秀的程序员、思考伙伴和同事）与直接追求权力并无太强关联。
更合理的推演是：
- AI将首先作为 超级听话的、超级智能的程序员和科学家 出现。
- 它们将帮助掌握控制权的人（实验室负责人、总统等）获得巨大的权力优势。
- 拥有更高效AI的公司和国家，将在常规的 资本主义竞争 中胜过其他所有人。
最终的模式，更可能是一家AI公司或一个国家凭借技术优势在竞争中脱颖而出，而不是某个单一的AI个体“智胜”全人类。