教宗利奥十四世发布通谕，深入探讨了人工智能时代的人的尊严问题。文件承认人工智能在减轻苦难方面的潜力，但主要聚焦于其潜在的巨大风险。通谕详细列举了由少数企业和利润动机驱动下可能出现的失业、环境破坏、权力集中和武器自动化等问题，并呼吁建立强有力的法律监管、透明问责制和工人保护机制。其核心论点是，必须警惕将机器智能与人类智慧混为一谈，并反对将技术视为完善人类手段的“转humanism”思潮，强调真正的成长源于接纳自身局限而非消除它们。
核心关切：希望与警示并存
教宗利奥在通谕《Magnifica Humanitas》（意为“伟大的人性”）中，试图平衡对人工智能的希望与警示。他承认这项技术是“一份可以减轻痛苦、开启新可能性的礼物”，但前提是它必须服务于人道价值观，而非垄断利益。然而，文件中对AI风险的描述详细而广泛，而对其希望的表达则相对简短和概括。
AI带来的具体风险
通谕清晰地列出了一系列由人工智能驱动或加剧的社会与伦理风险：
- 大规模失业： 尤其是对年轻人就业造成的冲击。
- 环境退化： AI基础设施是能源密集型产业，会产生大量碳排放。
- 劳工剥削： 涉及数据标注、内容审核或为制造芯片而开采资源的工人，他们的权益常被忽视。
- 数据剥削与权力集中： 少数科技巨头掌握平台、数据和算力，其决策过程不透明，容易逃避公众监督，从而为了自身利益扭曲信息、影响民主进程。
- 新型殖民主义： 健康和人口等个人数据已成为新的“稀土资源”，被用以训练模型、引导投资和决定人的价值。
当数据和算法影响信贷分配、人事选拔或服务机会时，相关决策必须是可理解、可质疑和可监督的，这样个人才不会被简化为纯粹的档案。
对自主武器的绝对禁令
通谕对自主武器系统采取了强硬立场，明确表示反对将致命决策权交给机器。
道德判断不能被简化为计算，因为它涉及良知、个人责任以及对他人作为“人”的承认。因此，将致命性或不可逆转的决定委托给人工智能系统是不可接受的。
呼吁建立强有力的监管框架
针对上述风险，教宗并未提供具体的政策蓝图，而是提出了一系列原则性要求，强调政府和机构必须承担起责任。
- 需要建立健全的法律框架、独立的监督机制和知情的使用者。
- 政治体系不能推卸其监管责任。
- 任何自动化和AI技术的引入，都应伴有可核查的措施来保护工人的就业、再培训和参与权。
超越政策的人文主义思考
除了公共政策，通谕还表达了更深层次的人文主义忧虑。教宗警告不要将机器的“智能”与人类的智慧等同起来。人类可以通过人际关系、喜悦、痛苦和身体经验获得智慧，而机器不能。
他认为，过度依赖技术会削弱个人的创造力和判断力，并让人产生与机器建立关系的错觉，最终“失去建立真实人际关系的渴望”。
拒绝“技术完美主义”
通谕明确拒绝了硅谷盛行的两种思潮：转humanism和后humanism。这些思想将技术视为增强甚至“完善”人类的手段。
这种对“完美”的追求对弱势群体构成了威胁，因为它使人们更容易接受某些生命“不那么有用、不那么可取或不那么有价值”的观点。
教宗进一步反思，现代文化倾向于将每一个局限都视为有待纠正的缺陷，而非人性成熟和开放的途径。他强调：“我们必须记住，人性的繁荣往往不是在没有限制的情况下，而恰恰是通过限制实现的。”
最终的选择
最终，教宗以鲜明的措辞揭示了人类面临的选择：
如果技术成为最终标准，人类将面临被简化为数据、机器中的齿轮或商品的风险。然而，如果技术与智慧的视角相结合，它可以成为促进成长、正义和友爱的工具。
《Magnifica Humanitas》与其说是在描绘AI的美好未来，不如说是一份详尽的警示录，告诫世人如果做出错误选择，世界将走向何方。