教皇良十四世发布了一份名为《Magnifica Humanitas》（意为“伟大的人性”）的通谕，深入剖析并严厉批评了当前人工智能产业的发展方向。他认为，硅谷过度追求利润和效率，正在损害人的尊严与公共利益。通谕的核心论点是，AI 因缺乏身体、情感和道德良知，绝不能取代人类的判断。教皇呼吁对AI进行民主监管和“去武装化”，防止技术反过来支配人类，并主张以“爱之文明”来回应这一技术时代的挑战。
硅谷的“救世主”与教会的立场
长期以来，科技领袖们一直用宗教和救世主的口吻来描述他们的事业，声称其使命是“让世界变得更美好”。他们将公司视为教堂，将产品发布会当作布道。
- Facebook 曾经的使命是“让人们建立社区，让世界更紧密地联系在一起”，这与许多宗教的使命宣言如出一辙。
- 科技高管们将人工智能的到来吹捧为“人类的新纪元”。
然而，教皇的观点与此截然不同。他发布的通谕明确指出，硅谷的领袖们声称在拯救世界，但教皇担心他们实际上在毁灭世界。硅谷的一些精英，如马克·安德里森和彼得·蒂尔，对教皇的批评报以嘲讽和敌意，担心教皇会削弱他们的权威。
他们喜欢说自己在拯救世界。而教皇担心他们正在毁灭世界。
历史的回响：从工业革命到人工智能
教皇的这份通谕并非凭空出现，而是对历史的呼应。他特意选择在《新事》通谕发布135周年的同一天签署《Magnifica Humanitas》。
- 《新事》（Rerum Novarum）：由教皇良十三世于1891年发布，谴责了工业革命带来的严重经济不平等。
- 《Magnifica Humanitas》：由教皇良十四世发布，将矛头指向了当代的人工智能产业。
正如良十三世当年谴责“强盗贵族”一样，良十四世如今谴责的是科技巨头。他警告世人警惕“巴别塔综合症”，即对利润的盲目崇拜、抹杀差异的单一化，以及试图将复杂的人性简化为数据的狂妄。
人工智能的根本局限
通谕的核心论点在于区分人工智能与人类智能的本质不同。教皇明确指出，问题不在于技术本身，而在于对人性的错误理解。
“所谓的人工智能没有经历，没有身体，感觉不到快乐或痛苦，不会通过人际关系成长，也无法从内心理解爱、工作、友谊或责任意味着什么。它们也没有道德良知，因为它们无法判断善恶、领会情境的最终意义，或为后果承担责任。”
他认为，无论AI这个工具多么强大，它的发展过程都过于鲁莽，危及了我们的共同家园和共同人性。
真正的风险与解决方案
教皇详细列举了人工智能带来的具体风险：
- 操纵信息并破坏社会信任。
- 侵犯隐私，加剧权力不平等。
- 使战争变得更无情。
- 侵蚀民主治理的基础。
- 剥夺大量人类工作的尊严。
面对这些威胁，教皇提出的解决方案并非简单地拒绝技术，而是进行“去武装化”。
“去武装化并不意味着拒绝技术，而是防止它支配人类。这意味着将技术从垄断控制中解放出来，使其接受公众讨论和辩论，从而使其对人类友好，并回归到人类文化和生活方式的多样性中。”
最终，教皇认为，世界上最根本的弊病是一种“权力文化”，即拥有最多资源的人仅为自身利益行事。对此，他提出的解药是建立一个“爱之文明”——一种基于同情、对话、和平与正义的文化，拒绝“无实体的人性”这一虚假偶像，并重新珍视人性的伟大。