Synth Daily
教宗利奥十四世发布AI通谕：呼吁监管与伦理反思
教宗利奥十四世发布了其任期内首份重要的神学文件《Magnifica Humanitas》（意为“伟大的人性”），对人工智能（AI）的飞速发展提出了严肃警告。这份长达数万字的通谕，将当前的AI革命与百年前的工业革命相提并论，深入探讨了AI对人类社会可能造成的深远影响。教宗强调，虽然技术本身并非敌人，但如果任由其被少数公司或纯粹的市场逻辑主导，将可能加剧社会不平等、冲击全球就业市场、削弱人类的能动性与尊严，甚至增加战争风险。他强烈呼吁各国政府、企业和国际社会加强对AI的法律监管与伦理审查，建立独立的监督机制，确保这项强大的技术能服务于公共利益和人的尊严，而不是成为制造排斥、支配与死亡的工具。
要点
- 1呼吁强力监管：教宗认为不能将AI的未来完全交给私营公司或“看不见的市场之手”，必须建立强有力的法律框架和独立监督体系，防止权力过度集中在少数科技巨头手中。
- 2担忧就业冲击：通谕对AI可能导致的大规模失业表示严重关切，称其可能演变为一场“真正的社会灾难”，并强调追求利润不能以牺牲就业为代价。
- 3“解除武装”AI：教宗用强硬的语言要求对AI在军事上的应用进行“解除武装”，明确表示不能将致命决定权委托给没有良知和责任感的机器系统。
- 4开发者责任：通谕特别向AI开发者发出呼吁，强调他们负有特殊的伦理和精神责任，其设计选择反映了对人性的看法，必须确保系统的透明、可问责。
视角
科技投资者 David Sacks
他认同教宗的观点，即AI应是辅助人类的工具。但他同时提出一个尖锐问题：“如果我们以安全为名赋予政府对AI的巨大权力，如何防止这种权力被用来审查、监视和控制公民？”
Boom Technology 创始人 Blake Scholl
他对此持反对意见，认为教宗的看法很“糟糕”。他表示，技术革命总是会淘汰一些工作，同时创造另一些工作。“如果我们死守旧工作，我们现在可能还在用手犁地。”
Anthropic 联合创始人 Christopher Olah
作为AI行业的代表，他欢迎来自外界的审视和批评，认为AI公司内部的激励机制有时会与做正确的事相冲突，因此需要像教宗这样“无法被利益动摇的道德声音”来推动行业向更好的方向发展。
历史背景
教宗利奥十四世的这份通谕在精神上直接承继了135年前的另一位教宗——利奥十三世。利奥十三世在1891年发布的《新事》（Rerum Novarum）通谕，是天主教会对工业革命带来的社会问题的首次系统性回应，奠定了现代天主教关于劳动、资本和正义的社会教义基础。
当一些人反对说，教会不应在世俗事务上浪费精力，而应专注于传播永生的信息时，利奥十三世以现实和智慧回应说，福音的宣告不能忽视人们的具体生活。
利奥十四世明确表示，他希望将自己的声音“加入到这一活生生的传统中”，将当下的AI革命视为一场“新的工业革命”，用天主教社会思想的核心原则来审视这场席卷全球的技术变革。
技术伦理与开发者责任
通谕中一个非常核心的部分，是直接向AI的创造者——开发者和科技公司发出的呼吁。教宗认为，技术绝非中立，每一行代码、每一个算法模型的设计都“反映了一种对人性的看法”，因此开发者们“负有特殊的伦理和精神责任”。他警告说，不能将AI系统呈现为完全中立和客观的，因为它们往往会反映并放大其创造者的偏见。
通谕要求，必须在每个阶段都明确定义责任，以便能够识别“谁必须为决策‘负责’，为之辩护，对其进行监督，并在必要时提出质疑和补救任何造成的伤害”。
这意味着，单纯的“算法”不能成为决策失误或造成伤害时的挡箭牌。整个社会，尤其是开发者社区，需要建立一种文化，确保技术的发展始终以“培养真正的善”为目标，而不是仅仅追求效率和利润。
Q&A
Q: 教宗对人工智能持完全否定态度吗？
A: 不。通谕明确指出，技术本身“不应被视为与人类对立的力量”，并承认AI是“一项伟大的人类成就”，有潜力成为“可以减轻痛苦和开辟新可能性”的礼物。教宗的核心观点是，关键不在于阻止技术进步，而在于如何引导它。他强调，必须通过强有力的伦理框架和法律监管，确保AI的发展方向符合人类的共同利益和基本尊严，而不是走向失控或被滥用。
来源
 | 教宗利奥借首份重要教宗文告警示人工智能的风险 |
 | 聪明人如何看待教皇利奥关于人工智能的信函 |
| 教皇利奥关于人工智能信函的 3 大要点 |
 | 教皇在宣言中呼吁对人工智能实施严格监管，思考人类的未来 |
 | 教皇在宣言中呼吁对人工智能实施严格监管，思考人类的未来 |
 | 教皇在首部通谕中呼吁对人工智能“解除武装” |
 | 教皇利奥在聚焦科技的通谕中呼吁对人工智能“去武装化” |
 | 教皇利奥对人工智能未来的隐忧之见 |