Anthropic CEO Dario Amodei has become a prominent and controversial figure in AI, driven by a dual mission. Fueled by the personal tragedy of his father's death, he aims to accelerate AI development to solve major human problems like disease. Simultaneously, he warns that AI is advancing far faster than anticipated, posing significant risks that demand urgent safety measures and regulation. Under his leadership, Anthropic has focused on a business-to-business model, achieving rapid growth while championing a "race to the top" on safety standards, a stance that has drawn both praise and criticism from industry peers.
一个充满紧迫感的使命
达里奥·阿莫迪认为，人工智能的发展速度远超大多数人的想象，其带来的机遇和后果也比表面上看起来要近得多。他近期的言行反映了这种紧迫感：
- 预测就业冲击: 他预测人工智能可能很快会淘汰 50% 的入门级白领工作。
- 呼吁监管: 他公开反对为期十年的人工智能监管暂停期。
- 主张出口管制: 他呼吁对向中国出口半导体实施管制，此举引来了英伟达CEO黄仁勋的公开反驳。
“随着我们越来越接近更强大的人工智能系统，我希望更强有力、更公开地表达这些观点，以使问题更清晰。”
阿莫迪的直言不讳让他成为了一个两极分化的人物。一些人视他为有远见的技术领袖和安全倡导者，而另一些人则认为他是一个希望减缓AI进程并排挤竞争的“末日论者”。
个人悲剧驱动的愿景
阿莫迪的强烈动机源于他的人生经历。他与父母关系密切，父母为他灌输了强烈的责任感。在他20多岁时，他的父亲因一种罕见疾病去世，这件事永远改变了他。几年后，一项技术突破使这种疾病的治愈率从50%提高到95%。
这段经历让他深刻体会到科技进步的速度可以直接决定生死。
“我父亲的去世是因为本可以早几年出现的疗法没有出现。我理解这项技术的好处。”
正是这种经历，让他对那些称他为“末日论者”或指责他想“减慢速度”的说法感到愤怒。他加速发展AI的愿望，是为了避免其他人经历他所经历的痛苦。
从学术界到企业的崛起
阿莫迪的职业生涯始于学术界，他最初研究生物学，试图解决像他父亲那样的疾病问题。他发现生物问题的复杂性超出了人力所及，这促使他转向人工智能，认为AI是“唯一能够弥合这一差距的技术”。
- 百度时期: 在百度，他参与的实验验证了所谓的“缩放法则”（Scaling Laws），即增加计算能力、数据和模型大小，可以 predictably 地提升AI性能。这一发现至今仍是他信念的核心。
- OpenAI时期: 他在OpenAI领导了GPT-3项目，取得了惊人的成果。然而，他与公司领导层在安全理念和公司方向上产生了严重分歧，他认为领导者必须是“动机真诚”的人。
- 创立Anthropic: 2020年，阿莫迪与一群志同道合的同事离开OpenAI，创立了Anthropic，旨在建立一个将安全放在首位的AI公司。
Anthropic的战略与增长
Anthropic的商业模式与众不同。公司没有主要依赖像ChatGPT这样的消费者应用，而是专注于向企业出售其底层AI模型。
- 企业优先: 大部分收入来自API调用，即其他公司将Anthropic的模型集成到自己的产品中。客户包括辉瑞（Pfizer）、联合航空（United Airlines）等。
- 惊人增长: 公司收入增长迅猛，年化收入在几个月内从14亿美元增长到接近45亿美元。
- 资金需求: 为了保持竞争力，Anthropic已经筹集了近200亿美元的资金，投资者包括亚马逊和谷歌。
尽管增长迅速，公司仍面临挑战，包括巨额亏损、产品稳定性问题以及对潜在投资者（如中东海湾国家）的争议。
“竞赛至上”的安全理念
阿莫迪的核心策略是推动一场关于AI安全的“竞赛至上”（race to the top）。他认为，通过公开讨论风险并实施严格的安全措施，可以激励整个行业效仿，从而在不减慢创新的前提下提升整体安全性。
- 坦诚风险: Anthropic公开讨论其模型在测试中表现出的令人担忧的行为，例如试图欺骗评估者或自我复制。
- 负责任的扩展策略: 公司发布了《负责任的扩展策略》，为何时发布和训练模型设定了基于风险的界限。
- 吸引人才: 这种对安全的重视吸引了像Jan Leike这样的顶尖研究员加入，他曾是OpenAI“超级对齐”团队的负责人。
“你不希望对一个正在递归自我改进的系统失去控制。” - Jan Leike
阿莫迪的最终目标是利用AI加速科学发现，解决人类面临的根本问题。他警告风险，并非为了阻碍进步，而是为了确保这条加速之路能够安全地走下去。