教皇利奥十四世首份通谕警告 AI 风险：人工智能必须服务于人

通谕是教皇向全世界天主教徒发布的最高级别教导文件。新任教皇的第一份通谕，往往代表他这一任期最关心的议题。

教皇利奥十四世把这一份给了 AI。

为什么选这个时间点

通谕的签署日期是 5 月 15 日。

这一天距离 1891 年教皇利奥十三世发布《新事》（Rerum Novarum）整整 135 年。那份文件被视为现代天主教社会训导的开端，回应的是工业革命带来的劳工问题。

在新教皇眼里，AI 是和工业革命同一量级的转折点。

通谕的核心观点

主线只有一条：人工智能必须服务于人，而不能服务于少数权贵。

这份 AI 通谕集中讨论了三件事：

01｜AI 驱动战争的危险。 AI 武器化的速度远超伦理框架建立的速度。

02｜AI 对劳动的冲击。 技术普及太快，对普通劳动者的保护跟不上。

03｜少数公司主导 AI 带来"新形式的人性缺失"。 算法的不透明本身就是对人的剥夺。

Anthropic 创始人去了梵蒂冈

Chris Olah 是 Anthropic 联合创始人。他在发布会上说了几件事：

• AI 模型的开发过程更接近"种植"。模型建立在人类语言和思想之上"长"出来，研究人员自己也还在搞清楚里面发生了什么。
• 实验中观察到，模型表现出"功能上类似喜悦、恐惧、悲伤、不安"的内部状态。
• 所有前沿 AI 实验室都面临商业、研究和地缘政治的多重压力，外部监督很重要。

他还抛出三个开放问题：AI 带来的收益如何在全球公平分享？AI 时代人类的繁荣应该是什么样？AI 模型的内在性质到底是什么？

教皇和 Anthropic 的分歧

发布会上有一个细节。

Olah 说，AI 模型表现出"内省"和类似情感的状态。

教皇在通谕里持相反看法：这些系统只是在模仿人类智能的某些功能，并不具备真正的内在生命。

双方在这件事上没有共识。但都同意一件事：AI 的发展速度太快，单靠科技公司自己决定方向是不够的，需要更广泛的社会力量介入。