公元3000年的基督徒在家教育

人工智能（AI）既能加速文化变革，使其更具分裂性和操纵性，又能让个人和团体更容易构建封闭的信息壁垒来抵御外界影响。这种技术使得文化隔离的成本大大降低，可能导致文化传承陷入停滞甚至固化，打破了以往通过代际更替实现文化演进的自然规律。许多人可能不会理性地拥抱变化，而是会利用 AI 工具来捍卫既有信念，最终导致一个长期分裂和停滞的社会，而非一个理性和包容的未来。

自文字诞生以来，人们就一直不喜欢文化变迁以及子女拥有不同的价值观。然而，在历史上，人们阻止文化漂移的能力是有限的。即使父母可以采取家庭教育、严格筛选媒体内容等方式，孩子最终还是会长大并接触更广阔的世界。死亡也确保了最顽固的传统主义者最终会被新一代所取代。

AI 如何改变游戏规则

AI 的发展可能会彻底改变这一动态。一方面，AI 将显著加速文化变革的步伐和可怕程度，例如通过超智能算法捕捉注意力，或以 AI 的速度而非人类的速度迭代社会运动的模因。另一方面，AI 也将使阻止文化变革变得前所未有地容易，它提供了强大的工具来过滤信息、监控行为，并构建真正不受外界影响的封闭泡沫。

这将使人们陷入一个艰难的境地：当外部世界的文化变革看起来异常可怕时，他们必须迅速做出前所未有的决定，即在多大程度上将自己与这种变化隔离开来。

一个可能的世界：绕过明显的灾难

为了探讨这个问题，我们先假设几个最可怕的 AI 灾难没有发生：

• AI 没有失控： AI 仍然在人类的控制之下，不会为自己夺取权力。
• 权力未被垄断： 权力仍然像现在一样大致分散，没有出现“地球神皇”。
• 经济问题得到解决： 类似全民基本收入（UBI）的政策得以实施，人们无需为生存而工作。
• 信息自由度适中： 政府既不强制人们接触多元观点，也不允许完全封闭的信息泡沫，而是维持一种类似现状的中间状态。

外部世界为何变得更可怕

在这样的世界里，AI 仍然会导致可怕的社会变革和前所未有的社会压力。

• 上瘾和操纵： 互联网已经为了“用户参与度”而被优化得越来越容易上瘾。AI 将把这一点推向极致，每一条内容都可能被设计成劫持你的价值观。
• 文化分裂加速： 当 AI 能够自行生产媒体时，文化潮流的更迭会更频繁。小众社群可以轻易地用高质量的定制内容垄断其成员的注意力，导致社会进一步巴尔干化。
• 无处不在的算计： 每个人都将成为精密操纵的目标。AI 会为我们每个人建立详细的档案，并制定完美的操纵策略。你遇到的每一次调情，背后可能都有 AI 系统长年累月的策划。

父母想要保护孩子的想法将是完全正确的，因为不加过滤地接触外部世界确实充满了前所未有的危险。

隔离如何变得更简单廉价

与此同时，人们将拥有前所未有的能力将自己和孩子与这些压力隔离开来。

AI 将使隔离变得异常容易。如今，想要让孩子远离主流文化需要付出巨大努力。但有了 AI，一切都变了：

• 定制内容： 想要一个包含一万本符合你价值观且引人入胜的小说图书馆？AI 可以为你写出来。
• 定制教育： 想要一个能教麻省理工学院水平微积分但绝不提进化论的导师？AI 可以做到。
• 完美监控： 想要监控孩子看到的一切并获得警报？AI 可以轻松实现。

创建一个 完全封闭的信息环境 的技术障碍将不复存在。

隔离的成本也将急剧下降。目前，生活在封闭社区的最大代价是放弃了主流社会的经济机会和文化资本。但在一个无需工作的未来，这种权衡消失了。如果再加上生物上的永生，代际更替这一文化演进的自然引擎也将完全失灵。

人们可能不会做出“理性”的选择

很多人乐观地认为，在充分反思后，人们会选择让自己的信念基于理性而不是传统来演进。他们认为，假以时日，所有人最终都会趋向于某种世俗的、开放的价值观。

但这可能是一种“典型心智谬误”。大多数人并非将“追求真理”置于一切之上。当面临一个选择，一边是构成其身份认同的核心信念，另一边是“相信更聪明、更知情的自己会相信的东西”这一元原则时，他们会选择前者。

• 告诉一个虔诚的信徒，超级智能 AI 的分析表明其信仰没有根据，他不会放弃信仰，而是会放弃这个 AI，转而寻找另一个能支持他信念的 AI。
• 告诉父母，让孩子接触多元观点有助于他们成长，他们会质疑你对“成功”的定义，而不是反思自己的教育方法。

许多人明确拒绝那种可能改变他们核心价值观的思维方式。当他们拥有了保护自己免受这种改变的工具时，他们会毫不犹豫地使用它。

这不是一个铁靴永远踩在人脸上的未来，而是一个在公元 3000 年，一个基督教家庭教育合作社仍在每个周三聚会，教导地球年龄不足一万年，并用 AI 驱动的、无懈可击的盾牌抵御任何相反信息的未来。