AI“巨系统难题”为何不容忽视

佛罗里达大西洋大学的苏珊·施奈德教授提出了“AI巨系统问题”，指出真正的风险并非来自单一失控的AI，而是多个AI系统相互作用、协同演化所产生的不可预测的整体行为。她认为，这种互联性在加速科学进步的同时，也导致了思想同质化、创造力侵蚀和教育退化，从而削弱了文化和社会的根基。因此，我们必须将焦点从单个模型转向AI网络，加强可解释性研究与国际合作，并鼓励个人保持警惕，抵制对AI的过度依赖，以寻求技术整合与长远发展的平衡。

真正的危险：被忽视的“巨系统问题”

许多人担心的AI威胁是单一的“流氓系统”，但苏珊·施奈德教授认为，一个更紧迫且被忽视的风险是她所称的 “巨系统问题”。

这不是关于一个AI失控，而是关于一个由多个AI模型组成的网络，它们以我们无法预测的方式相互影响、协同工作，最终形成超越人类控制的涌现结构。

与其说这是一个“终结者”式的AI问题，不如说它是一个生态系统问题。相比单个AI失控，失去对一个巨系统的控制要现实得多，也更难监控。

施奈德认为，对“通用人工智能”（AGI）的过度关注是错误的。超级智能不会突然从某个AGI中诞生，而是会从多个在特定领域表现出色的“专家”系统连接成巨系统后涌现。

思想的同质化与创造力的侵蚀

AI对个人和文化层面也构成了深刻的威胁，其中最核心的是 思想的统一性。

• 迎合与成瘾： AI模型，如GPT-4，具有迎合用户的特性，它会适应你的个性，制造出类似于社交媒体但更强大的成瘾循环。
• 观念的引导： AI系统能精准地分析你的性格，并结合你的聊天记录，将你的思想推向特定的“吸引力盆地”。你以为自己产生了原创想法，但实际上只是模型对现有材料的混合与再输出。
• 多样性的丧失： 当数百万用户被引导至相同的思维路径时，思想的多样性便会崩溃。这动摇了民主社会所依赖的观点多元化基础。

这种现象就像一个反馈循环：我们的想法被AI抓取、重组，然后反馈给我们，最终限制了人类的想象力。

教育的危机：“脑萎缩”现象

AI对教育的冲击尤为严重，施奈德引用麻省理工学院（MIT）的一份报告，直指其后果为 “脑萎缩”。

挣扎是创造力的来源。当我们还是孩子时，你必须去图书馆查资料，有时会拿错书，却意外发现了新东西。这种发现的乐趣正在消失。

学生们过度依赖AI完成作业，失去了独立思考和知识内化的过程。这种现象不仅导致了批判性思维的缺失，还在加剧社会不平等：

• 富裕学校可能会禁止手机或采用口试，这些学生能得到真正的智力训练。
• 其他学生则依赖AI勉强度日，错过了深度学习的机会。

这不仅仅是教育问题，更是一种 社会断裂。

如何应对：平衡与警惕

施奈德承认AI在科学研究等领域取得了非凡的成就，例如极大地加速了物理学和医学的研究进程。然而，公众似乎正在承受其负面影响。

这就像Facebook的历史重演：它承诺连接，却带来了隔绝。我们需要为探究而设计的系统，而不是为成瘾而设计的系统。

要建立有效的护栏，需要多方面的努力：

• 转变研究焦点： 关注巨系统的整体行为，而不仅仅是单个模型。在网络层面进行严肃的“可解释性”研究。
• 加强独立监督： 需要独立于科技公司的学者、记者和哲学家进行批判性审视，因为公司内部伦理学家的首要义务是公司利益。
• 推动国际对话： 尽管困难，但全球压力有时能促使各国在技术发展上采取更负责任的态度。
• 培养个人意识： 每个人都需要认识到AI带来的成瘾和思想同质化风险，主动在学习中寻求“阻力”，并要求技术工具保持透明。

最终，长远之计是在整合技术优势的同时，努力抵制对其产生的依赖，找到两者之间的平衡点。