关于人工智能的未来存在两种设想：一种是由少数“技术神职人员”构建和控制的、如同神明般的 AI；另一种则是以人为中心，将 AI 作为个人能力的放大器。当前，一个新兴的技术神职人员群体正在形成，他们构建前沿系统，并决定其他人可以使用哪些功能。该群体在警告大规模失业的同时，也承诺一个富足的未来，但这将导致多数人成为被动的接受者。文章主张，我们应该选择另一条道路：让人工智能为普通人所用，使每个人都成为“智能体管理者”，从而将 AI 的力量普及化，实现普遍参与而非普遍依赖，最终将重点从替代人力转向放大人的能力。
两种未来的对立
目前，关于人工智能的未来出现了两种截然不同的愿景：
- 神明般的 AI： 由一小群技术精英构建和控制，他们垄断了最先进的 AI 能力，并决定大众可以使用的范围。
- 以人为中心的 AI： 将 AI 视为增强人类创造力、生产力和繁荣的工具，让数十亿人都能驾驭自己的 AI 智能体。
一个“技术神职人员”阶层正在出现。他们警告 AI 可能导致大规模失业，但同时又承诺，由此带来的富足和再分配将解放人类，让我们有更多时间追求休闲。在这种模式下，一小群人成为了机器智能与其他人之间的中介。大多数人只是决策、产品和富足的接受者，而非参与者。最终，可能不是人在管理机器，而是机器在支配人。
在这个愿景中，他们建造了一个神，而他们的角色越来越像是照料它、解释它，并决定谁可以接近它。
正在形成的双轨制系统
技术前沿正在飞速发展，顶尖 AI 已经能够解决存在了数十年的数学难题和软件漏洞。然而，这些强大的能力并不会向所有人开放。
出于对生物武器、网络攻击和虚假信息等风险的担忧，最强大的 AI 功能受到了严格限制。
- 生物安全风险导致药物发现能力受限。
- 网络安全风险导致软件能力受限。
- 虚假信息风险导致创意能力受限。
政府和实验室共同推动了这些限制，同时又将完整能力授权给少数被选中的合作伙伴、研究人员和机构。其结果是一个双轨制系统的开端：为少数人提供前沿 AI，为其他人提供受限 AI。真正的安全问题不应导致排斥和永久的依赖。
不断扩大的生产力差距
前沿技术在狂奔，而普通用户的能力却停滞不前。软件开发领域提前预演了这一未来。
最初，善于使用 AI 智能体的“超级用户”开发者，生产力大约是普通人的两倍。在过去一年半里，这个数字稳步增长到 5 倍、10 倍，现在顶尖的智能体开发者甚至超过了 100 倍的效率。他们可以在几天内完成过去需要工程师团队耗时数年的大规模代码重写工作。
然而，这部分开发者占比不到百分之一。大多数开发者，也就是所谓的“中位数开发者”，其生产力几乎没有实质性增长。
每当有新模型或新功能发布，超级用户就能解锁一个新的能力等级，而中位数用户只会感到更加困惑，差距不断拉大。
这种现象正从开发领域蔓延到整个职场。我们已经听说了 10 倍效率的销售员和 100 倍效率的市场营销人员。但大多数普通员工仍然只是在有限地使用 AI 工具。让一小部分人变得越来越高效，并不能有效提升整体的平均水平。
提升平均水平的方法，是让 中位数 的人实现 2 倍 的效率提升。
人人成为智能体管理者
我们不必接受技术神职人员为我们规划的未来。大多数人需要的不是更聪明的模型，而是将现有智能变得可用，并融入到他们的工作中。未来不应只为数十亿人而建，更应由数十亿人来建。我们需要的是普遍参与，而不仅仅是普遍可及。
如果你正在构建 AI 产品，请为中位数用户设计，而不仅仅是为超级用户。
- 将人类置于中心： 由人设定目标、审查工作、为结果负责。
- 为赋能而设计： 重点是让用户获得判断力和控制力，而不是让智能体取代人。
- 关注增长而非裁员： 一个只将 AI 用于削减人力成本的公司，是在用指数级技术追求线性目标。
如果你的团队不管理自己的智能体，那么你的供应商就在管理它们，而你的公司正在变得多余。你将核心知识和数据交给了外部人员，这无异于让他们帮助你将自己自动化出局。
正确的方法是让你团队中的人来管理智能体。你需要更少的“手动工作者”，但需要更多的智能体和智能体管理者。而最适合成为智能体管理者的人，正是那些目前在做这些工作的人。他们拥有深厚的领域知识、经验和人际关系。
管理智能体所需的技能与管理人类员工非常相似：
- 清晰地传达目标。
- 进行系统性思考。
- 提供反馈。
- 审查工作成果。
- 为团队的最终产出负责。
拥有主权的智能体
要实现这一愿景，你的公司必须拥有并控制“主权智能体”。这意味着：
- 公司必须拥有和控制智能体的身份、权限、记忆、技能和审计记录。
- 这些资产必须是可移植、可治理的，并且未经授权不得访问。
起点是为团队中的每个人配备一个属于他们自己的智能体，由公司所有并分发给他们。随着时间的推移，优秀的智能体管理者将管理一个智能体团队，甚至一个部门。
未来的形态正在由每一个产品决策、每一次部署、每一次销售电话和每一次招聘所决定。
我们可以治愈疾病，创造难以想象的繁荣，并建立一个人人都能变得更强大而非更可有可无的组织。但这样的未来不会自动到来。我们必须主动选择，将人类置于中心。