神话中的机器月悖论：AI究竟能多大程度颠覆编程？

生成式人工智能的兴起引发了软件行业的担忧，许多人害怕程序员将被取代。然而，软件开发的核心并非仅仅编写代码，而是构建、测试和维护复杂的理论模型。目前，人工智能在这方面能力有限，其输出质量不稳，难以处理现有系统的复杂性。因此，人工智能更可能成为提高生产力的辅助工具，而不是替代人类工程师。未来，行业将更需要具备专业知识的人才来指导和管理人工智能，确保代码的质量和长期可维护性。

人工智能的诱惑

对于不了解软件开发过程的管理层来说，生成式人工智能似乎是一个革命性的“黑匣子”。它承诺带来两大好处：

• 削减成本： 最直接的吸引力是减少对高薪程序员的依赖。
• 简化沟通： 管理者似乎可以直接用自然语言表达需求，绕过复杂的沟通链条，从而更快、更便宜地推出产品。

这种愿景描绘了一个未来：一个由人工智能机器人大军赋能的“独角兽”公司，可能只需要一名员工。但这真的符合复杂软件系统的现实吗？

软件的灵魂：理论模型

任何软件的本质都不是源代码本身，而是其背后的理论模型。这个模型才是解决问题的核心，它提供了真正的价值。

• 模型是核心： 源代码只是这个理论模型的具体表现形式。一个好的模型可以从一种编程语言移植到另一种。
• 模型是复杂的： 定义一个精确的模型是软件开发中最耗时、最具挑战性的部分。它必须考虑到所有细节，包括边缘情况、失败模式以及与其他系统的交互。
• 编码是模型的实现： 将模型用代码表达出来，通常是开发过程中相对直接的一步。工程师通过编写代码来迭代和完善他们的理论模型。

为了让人工智能真正颠覆行业，它需要做的远不止是编写代码。它必须能够从简单的指令中推断出复杂的模型和用户没有明确说明的意图。否则，向人工智能提要求的复杂程度，将等同于构建模型本身。

解决任何问题都存在一种无法消除的必要复杂性。

现实的考验：测试与维护

软件的价值不仅在于创造，更在于在现实世界中的测试和迭代。

• 测试揭示缺陷： 实际使用总会发现理论模型或代码实现中的不足。测试是一个发现意外行为并启动新开发周期的过程。
• 人的直觉至关重要： 工程师因为亲手构建了系统模型，所以能凭直觉定位错误来源。如果模型由人工智能构建，这种宝贵的直觉就会丧失。
• 依赖性问题： 如果95%的代码由人工智能生成，那么修复错误的责任也必然落在人工智能身上。我们需要能理解错误报告并自动修复代码的人工智能。

如果没有人类工程师的深度理解，依赖人工智能生成的项目在查找和修复错误时将更加依赖工具。

无法回避的“遗产”

大多数工程师的工作并非从零开始创造，而是在已存在数年甚至数十年的遗留代码库中进行维护和更新。

• 维护成本高昂： 软件系统的总成本主要来自长期维护，而非初次开发。随着时间推移，系统会变得越来越复杂。
• 知识的价值： 维护工作需要的是已经理解系统模型的特定开发人员。新人加入项目不仅效率低，还会拖累现有团队的生产力。
• 停机时间的代价： 对企业至关重要的系统，其停机造成的收入损失可能远超开发成本。因此，保障系统可靠性至关重要。

任何声称要彻底改变软件工程的方法，都必须为现有代码库提供至少与新系统同等的价值。人工智能需要能像一位经验丰富的工程师那样，立即理解现有系统的复杂模型，而不仅仅是快速编写代码。

未来：工具的进化，而非职业的终结

生成式人工智能不太可能消灭软件工程师这个职业。它目前的局限性，尤其是在理解意图、处理复杂系统和保证质量方面，决定了它更适合扮演辅助角色。

“我不认为我们会走向一个绝大多数源代码由人工智能编写的世界。从软件的整个生命周期来看，这种模式只有在生成式人工智能变得超人，并且比它所取代的人类更便宜时才可行。”

更有可能出现的情况是：

• 生产力工具： 人工智能将成为一种新的工具，提高某些任务的效率，让更多人能够创造软件。
• 需求增加： 软件将渗透到更多领域，这意味着需要更多优秀的库和工具包，而这些很可能仍由人类编写。
• 新的角色： 如果人工智能真的能大规模编写、调试和维护代码，那么将需要更多具备专业知识的人来指导这些“机器人大军”，确保它们遵循最佳实践。

最后的警示：质量与安全

过去的技术创新（如高级语言、IDE）在提高生产力的同时，也提升了代码质量。但生成式人工智能目前并非如此。

• 质量不稳： 人工智能生成的代码有时很好，有时却存在严重缺陷，而发现和纠正这些问题的责任完全在于用户。
• 安全隐患： 将质量不稳定的代码与本身就不够安全的编程语言（如 JavaScript）结合，未来可能会充满安全漏洞。
• 技术债务： 为了速度而牺牲质量，会产生一种技术债务，其代价将在未来某个时刻显现。

如果生成式人工智能要真正改变软件行业，那么可靠、安全的输出必须成为默认标准。否则，软件工程的未来可能就是无休止地修复安全漏洞。