加拿大AI开发者、Anthropic联合创始人克里斯托弗·奥拉（Christopher Olah）近日与教皇利奥十四世一同发布了名为《崇高人性》（Magnifica Humanitas）的通谕。
奥拉强调，与传统工程学制造的桥梁或飞机不同，AI系统“在粗略模拟大脑的结构上，利用人类思想和言语的巨大遗产发展而来”。他指出，正如教皇所观察到的，这些系统在某些重要方面，即使对创造者而言，也仍充满神秘。
奥拉引用Anthropic的内部研究，详细阐述了他们持续发现“神秘甚至令人不安的”现象，包括镜像人类神经科学的结果结构、内省的证据，以及功能上类似于“喜悦、满足、恐惧、悲伤和不安”的内部状态。奥拉同时警告，AI存在大规模取代人类劳动的现实可能性。
教皇利奥十四世的提议符合预期，他呼吁AI链条上的所有参与者承担责任，并强调AI“绝非中立”，因为它“带有设计者、资助者、监管者和使用者的特征”。
通谕的措辞较奥拉关于内省和情绪类状态的说法更为谨慎。它明确指出，“我们必须避免将这种‘智能’与人类智能混为一谈的误解”，并强调“这些系统仅仅模仿了人类智能的某些功能”。
通谕进一步阐述，AI系统“不经历体验，不拥有身体，不感受喜悦或痛苦，不通过人际关系成长，也无法从内在理解爱、工作、友谊或责任的含义”。此外，通谕还指出了AI的环境成本，提及数据中心所需的“巨额能源和水”，并呼吁开发更高效的系统。
教皇还就军事领域AI发表了看法，认为致命或不可逆的决策不应由机器执行，直言“任何算法都无法使战争在道德上被接受”。他还批评了当前的AI对齐（alignment）讨论，认为“如果这种道德是由少数人决定的，那么一个更具道德的AI是不够的”。他呼吁制定强有力的法律和独立的监督机制，而非停留在抽象的伦理讨论。
作为美国首位教皇，利奥十四世已将AI作为其教宗任期的核心议题之一。Anthropic及其他硅谷AI公司也定期与宗教领袖会面，讨论AI的应用及其社会影响。
