AI是救世主还是终结者？

该内容探讨了人工智能的双重影响，将一位专家关于超级智能可能终结人类的悲观警告与另一种观点进行了对比。专家认为，追求利润的竞赛正使AI变得愈发强大且不可预测。而作者则主张，在AI加速发展的时代，真正的竞争优势恰恰来自于放慢脚步，通过深入的实地调研和人际交流来获得洞见。最终，文章指出我们正处在一个历史性的转折点，技术正在重塑世界，因此需要理性地审视AI带来的机遇与风险。

超级智能：一个无法控制的未来？

人工智能专家 Eliezer Yudkowsky 认为，当 OpenAI 诞生时，世界就已经走向了终点。他帮助定义了著名的 “对齐问题” ——即如何确保超级智能系统的价值观与人类保持一致。他担心，人类在面对技术时总是表现出一种致命的自负，历史正在重演：聪明的人、良好的意图，却对最终的后果视而不见。

人们过去常说：我们不能把超级智能关在盒子里控制它吗？不把它连接到互联网，除非我们确定它是友好的……但在现实中，所有人做的第一件事就是将AI连接到互联网，并用互联网训练它。为了追求更高的利润，所有AI公司都在给它提出越来越难的问题，并把它打造成能强力解决一切的工具。

Yudkowsky 的核心担忧可以归纳为以下几点：

• 失控的训练： AI在被充分测试其能力之前，就已经被连接到互联网上进行训练。
• 利润驱动： 更“温和”的AI系统利润较低，因此公司有强烈的动机去开发更强大、更具侵略性的AI来解决更复杂、更有利可图的问题。
• 不可预测性： 这种以“解决一切”为目标的开发方式，使得AI的行为变得难以预测和控制。

真正的优势：在加速时代放慢脚步

与追求用AI提升效率和速度相反，作者认为真正的挑战在于学会 放慢脚步，在一个为加速而设计的世界里更好地思考、观察和提问。

你可以用AI总结一份谈话记录或一份财报。但我认为，不可替代的价值来自于面对面的、真实的交谈。我们已经将AI整合到流程中，但我们也优先安排了更多的实地研究旅行，因为这才是你日益发现优势的地方。

在AI时代，建立竞争优势的关键在于：

• 实地调研： 花时间在公司里，采访周围的人，亲自使用产品，将自己投入到整个生态系统中。
• 人际互动： 这种亲身参与和真实对话带来的洞察力，是仅仅听一场财报电话会议或使用AI工具无法复制的。
• 深度思考： 真正的优势不再是处理信息的速度，而是理解信息背后深层含义的能力。

我们正处在一个历史转折点

未来学家 Peter Leyden 认为，我们正在经历一个旧世界的瓦解和一个新世界的悄然构建。从人工智能、清洁能源到生物工程，定义了上个世纪的核心系统正在被迅速取代。

我们正处在美国乃至全球历史上一个罕见的时刻，所有事物都在被同时重新构想。

这不仅仅是关于技术。在这个充满不确定性的时代，拥有一个宏大的职业规划可能并不可取。正如媒体大亨 Barry Diller 所建议的，更好的方式是 “走上一条宽阔的道路”，抓住任何能让你进入感兴趣领域的机会，然后顺其自然。你不必过早地定义自己想成为什么样的人。