教皇利奥十四世在其首部通谕《Magnifica Humanitas》中，将人工智能定义为塑造当代生活的无形力量，并将其置于天主教会社会训导的框架下进行审视。通谕的核心观点是，问题的关键不在于技术本身，而在于谁控制技术以及如何使用它。通谕呼吁“解除技术武装”，防止权力、信息和决策过度集中于少数人手中，并主张以人的尊严、公共利益和道德责任为准则来引导人工智能的发展，确保其服务于全人类。
新时代的社会议题
人工智能并非又一项新技术，它已经成为我们日常生活中看不见的基础设施。通谕《Magnifica Humanitas》将其与135年前回应工业革命的《新事》通谕相提并论。
- 如果说当年的“新事物”是工厂、劳工和工业资本主义，那么今天的核心议题则围绕着 数字平台、算法、数据和自动化系统。
- 这些新技术正在重塑权力、经济和社会关系。因此，反思的重点并非技术创新本身，而是要从 人的尊严和公共利益 的角度来解读这场数字化变革。
- 通谕指出：“人类从未对自身拥有如此大的权力”，技术正以前所未有的深度影响着决策过程、集体想象和社会生活。
当决策被转移到算法逻辑中时，人的尊颜、对真相的保护、工作、社会正义与和平还剩下什么？
核心理念：解除技术武装
通谕提出了一个关键概念：“解除技术武装”。这并非要阻碍人工智能发展，而是要防止它成为一种支配人类生存的权力形式。
解除技术武装意味着：
- 打破权力集中： 防止技术力量与治理权划等号。人工智能的发展趋势是让 资源和数据持有者 的力量变得更强。
- 超越单纯监管： 仅仅监管技术是不够的。必须将其从垄断中解放出来，使其 透明化、可问责，并让更多元的参与者能够使用。
- 防止支配工具化： 必须阻止人工智能成为少数人用于经济、政治或军事支配的工具。这关乎将一个共享的基础设施，转变为一个控制系统。
被算法筛选的真相
技术集中权力的首要影响之一，体现在集体真相的形成方式上。我们所感知的现实，正日益被那些决定“显示什么、隐藏什么”的系统所过滤。
问题的核心在于：
- 注意力最大化： 平台和算法并非依据信息是否真实来筛选，而是依据它 能否最大限度地产生互动和反应。
- 真相的依附性： 在这种机制下，真相本身并未消失，但它变得依赖于不透明的系统。这些系统在影响公众舆论、认知和选择，但其运作方式并不清晰。
- 教育的责任： 因此，培养人们识别这些机制的能力至关重要，不能将构建公共判断的责任完全托付给响应市场或权力逻辑的数字基础设施。
工作世界的断层线
人工智能不仅是自动化工具，更是一种能够重新定义“谁来工作、如何工作以及拥有多少自主权”的力量。
通谕明确指出了相关风险，称其可能导致一场“社会灾难”：
- 技术性失业： 当创新的主要驱动力是削减成本和增加利润时，大量工作岗位可能被取代或其人性化内容被掏空。
- 工作的异化： 工人可能被简化为执行重复性或受严格控制的功能，新的控制形式（如自动监控和任务碎片化）会剥夺工作的自主感和创造性。
- 尊严的丧失： 工作不仅仅是经济生产，更是个人表达尊严、责任感和参与社会生活的方式。如果人工智能将工人简化为可衡量、可控制和可替代的功能，这便超出了经济和技术范畴，成为一个深刻的 社会、政治和人性问题。
自动化冲突与道德底线
通谕最激进的观点体现在对战争的讨论上。教皇利奥十四世认为，传统的“正义战争”理论已越来越不适用于描述当代冲突的现实。
战争的本质正在改变。自动化系统已经渗透到信息、战略和对敌人的感知中。算法本身虽然不开火，但它们创造了一种新的“距离感”，使决策过程逐渐脱离了人类的切身感受和道德责任。
因此，通谕设定了一条清晰的界限：绝对不能将致命或不可逆的决定委托给人工智能系统。 道德责任既不能被代理，也不能消解于自动化的决策链中。让机器决定生死的权力必须被拿走。
一个开放的议题
通谕最终将我们带到一个“施工现场”。它没有提供封闭的答案，而是开启了一个仍在建设中的过程。在这个过程中，技术、经济、信息和冲突相互交织。
最终，决定性的问题不再是技术能做什么，而是：
- 谁在控制它？
- 为了什么利益？
- 它依据的是何种对“人”的理解？