⚡ News

梵蒂冈为何邀请 Anthropic 联合创始人解读教皇 AI 通谕?

梵蒂冈为何邀请 Anthropic 联合创始人解读教皇 AI 通谕?

5月25日,罗马教皇利奥十四世(Pope Leo XIV)在梵蒂冈发表了其首份关于人工智能的通谕《Magnifica Humanitas》。令人瞩目的是,他邀请了 Anthropic 联合创始人克里斯托弗·奥拉(Christopher Olah)发表讲话。这一举动标志着天主教会与硅谷之间建立起了一次史无前例的跨界联盟。要理解这一伙伴关系是如何达成的,我们需要追溯到 Anthropic 的成立。

Anthropic 成立于 2021 年,当时包括达里奥·阿莫代(Dario Amodei)和达妮埃拉·阿莫代(Daniela Amodei)在内的一群 OpenAI 研究人员因理念不合离职,创立了这一竞争对手实验室。他们怀揣着一个明确的信念:人工智能模型正变得过于强大,不能完全遵循竞争和速度的商业逻辑来开发。

自成立以来,Anthropic 围绕“AI 安全”概念塑造了其公众形象。该公司的目标不仅是构建强大的模型,更要构建受伦理原则引导、可控的模型。这也是其提出“宪政 AI”(Constitutional AI)概念的初衷:通过由原则和规则组成的“宪法”来训练系统,而不是仅仅通过人工手动纠正那些危险的响应。

奥拉出现在梵蒂冈显然不是偶然的,也并非临时的象征性姿态。这是梵蒂冈长期、深思熟虑努力的结果。梵蒂冈正试图从技术的道德观察者转变为 AI 行业的直接对话者。首个重大举措是 2020 年的《罗马 AI 伦理倡议》(Rome Call for AI Ethics),由宗座生命科学院与微软、IBM 等国际组织共同发起,旨在确立透明度、包容性和问责制等共同道德基石。

随着 ChatGPT 的兴起、美中技术领导力之争以及科技巨头的权力扩张,梵蒂冈逐渐意识到,这不仅是科技伦理问题,更是关乎人类未来的存亡问题。正是在这种背景下,将 AI 对齐和安全作为核心身份的 Anthropic 成了梵蒂冈极其重要的对话伙伴。而相较于媒体曝光度更高的阿莫代兄妹,奥拉代表了更偏向理论和可解释性的技术路线,这与梵蒂冈关注的“AI 对齐”深度契合。

【AgentUpdate 深度解析】 梵蒂冈与 Anthropic 的此次历史性交汇,表面上是宗教伦理与前沿科技的对话,深层上则是 AI 行业“对齐(Alignment)”技术向社会共识治理演进的里程碑。随着 AI Agent 正从工具进化为具备自主决策能力的社会代理,其行为边界和价值导向已无法单靠技术代码解决。Anthropic 倡导的“宪政 AI(Constitutional AI)”提供了一种将社会契约写入模型底层的技术通路。这种将“人类宪法”作为 Agent 决策先验约束的框架,相比于 OpenAI 偏向工程效率和后验强化学习(RLHF)的路径,更适合未来多 Agent 协同社会的安全治理。它向我们昭示:未来的 Agent 开发者,不仅需要懂代码,更需要懂伦理与制度设计,AI 治理正在从技术极客的闭门讨论,走向人类文明尺度的共识构建。

↗ 阅读原文