⚡ News

梵蒂冈为何邀请Anthropic共襄AI伦理盛举?

梵蒂冈为何邀请Anthropic共襄AI伦理盛举?

2026年5月25日,教宗利奥十四世在梵蒂冈发布其首份关于人工智能的通谕《Magnifica Humanitas》。此次发布会上,Anthropic联合创始人Christopher Olah受邀发言,此举标志着天主教会与硅谷之间建立了前所未有的联盟。要理解这一伙伴关系的缘由,我们需要追溯Anthropic的创立。

Anthropic成立于2021年,由包括Dario和Daniela Amodei在内的一批前OpenAI研究人员离职组建。他们离职时坚信:人工智能模型正变得过于强大,不应仅凭竞争和速度的逻辑进行开发。自那时起,Anthropic便将“AI安全”作为其公共形象的核心。该公司的目标不仅是构建强大的模型,更是要确保它们是可控且符合伦理原则的。这便是“宪法式AI”(Constitutional AI)理念的由来——即通过一套由原则和规则组成的“宪法”来训练系统,而非仅仅手动纠正最危险的响应。

Olah在梵蒂冈的出现并非偶然,也不是临时象征性的举动。它是梵蒂冈长期以来刻意努力的结果,即逐步将自身从技术道德的观察者转变为AI行业的直接对话者。2020年,由教廷生命学院与微软、IBM及其他国际组织共同发起的“罗马AI伦理呼吁”是其迈出的重要一步,旨在为AI开发建立一套共同的伦理原则,包括透明度、包容性和问责制。

当时,梵蒂冈似乎主要在生物伦理和道德问题领域发挥作用。然而,在随后的几年里,背景发生了巨大变化。ChatGPT的兴起、中美之间的技术领导力竞争以及大型科技公司日益增长的力量,逐渐使教廷确信,这个问题不再仅仅关乎技术伦理,而是关乎人类的未来。在此背景下,Anthropic被梵蒂冈视为一个特别重要的对话者。与其他主要围绕创新和增长建立声誉的硅谷公司不同,Anthropic将AI安全作为其身份的核心。

近年来,梵蒂冈特别关注技术辩论中的一个特定方向:AI模型的对齐(alignment)。这正是Christopher Olah发挥作用之处。与更多活跃于媒体的Amodei兄妹不同,Olah代表了Anthropic更偏重理论的一面,他在AI对齐领域的专业知识和理论贡献,使其成为梵蒂冈此次重要对话的理想人选。

↗ 阅读原文