关于人工智能（AI）的开源问题，业界存在安全担忧，但三位AI领域的先驱——杰弗里·辛顿、李飞飞和吴恩达——共同发声，主张保持AI的开放性。他们担心的核心问题是，让少数几家大公司垄断技术会扼杀创新。尽管他们对具体策略看法不一，但都认为开放是必要的。吴恩达强调开放以促进竞争和对抗地缘政治影响；辛顿在承认“开放权重”模型风险的同时，认为其已成定局；李飞飞则提出了一种超越二元对立的“精细化”分层开放模式。最终，他们一致认为，需要合理的监管来确保AI朝着有益于人类的方向发展。
对“少数巨头控制”的普遍担忧
当一项技术被少数公司控制时，就像苹果和谷歌控制移动操作系统一样，创新可能会放缓。吴恩达担心AI领域也会出现类似的动态，少数参与者可能会为了保护其竞争优势而影响行业规则。
我不希望出现守门员，那会限制我们所有人使用AI的方式。
这种担忧是三位专家支持开放性的共同出发点。他们认为，只有少数资本雄厚的大公司有能力构建最先进的AI系统，这将对整个生态系统造成损害。
吴恩达：开放是竞争和软实力的关键
吴恩达认为，保持AI的开放性是确保技术普惠的关键。他提出的解决方案是通过促进开放来维持市场的多样性和竞争性。
- 促进开放以对抗垄断：他希望AI技术能掌握在每个人手中，而不是被少数公司主导。
- AI作为软实力：他警告说，如果美国的开源AI因恐惧和游说而发展受阻，那么在成本上更具优势的中国模型可能会在亚洲、非洲和发展中世界占据主导地位。
- 价值观的传播：这些模型可能会影响数十亿人对民主、自由和人权等观念的看法。因此，他希望鼓励美国的AI竞争力和开源发展。
我担心，如果中国找到一种成本效益更高的AI构建方式，那么在商业应用上，成本更低的东西将具有根本性的优势。
杰弗里·辛顿：区分“开源”与“开放权重”的风险
辛顿对开放性持有更谨慎的看法，他特别区分了两种不同类型的“开放”。
- 开源软件 (Open Source)：他认为这是好事，因为公开代码可以让许多人检查并发现其中的错误。
- 开放权重 (Open Weights)：他对此持反对态度。这意味着向公众发布已训练好的AI模型参数，这使得恶意行为者能以很低的成本，利用这些强大的基础模型进行网络攻击等不良行为。
尽管有这些担忧，辛顿承认“开放权重”模型已成为既定事实。
我想那场战斗已经输了。我们现在已经有了开放权重模型……那个障碍已经消失了。太迟了。
但他同时强调，接受现实不等于忽视风险。他认为担心AI的潜在负面影响并非“危言耸听”，并且需要监管来引导AI的发展方向，而不是把决定权留给伊隆·马斯克或马克·扎克伯格这样的人。
李飞飞：超越二元对立的“精细化”开放
李飞飞反对将问题简化为“完全开放”与“完全封闭”的二元对立。她认为这种辩论是虚假的，现实需要更精细化的处理方式。
在复杂的软件系统和科学系统中，情况要微妙得多。
她用核物理学和人类基因组计划作为例子，说明一个生态系统可以包含不同程度的开放性。
- 分层处理：就像核物理研究中，科学论文是公开的，但核原料铀是受管制的。AI生态系统的不同层面也可以采取不同的开放策略。
- 基础设施模式：她主张将AI视为一种基础设施，类似于人类基因组计划的成果。该计划的开放知识既促进了科学进步，也为制药公司创造了利润，最终使整个社会受益。
- 接受多样性：我们需要一个既允许科学发现和商业模式共存，也接受闭源系统存在的环境。专注于单一模式的辩论是错误的。
最终，三位专家都同意，为了让人工智能健康发展并造福人类，一定程度的监管是必不可少的。