日前，大模型独角兽 Anthropic 的联合创始人杰克·克拉克（Jack Clark）在牛津大学的一次演讲中，描绘了人工智能发展令人“眩晕的加速度”，并做出了一系列令人震惊的预言。克拉克指出，在未来 12 个月内，AI 系统将与人类合作，共同完成一项足以荣获诺贝尔奖的科学发现；而在两年内，双足机器人就将开始协助手工业者和技术工人们进行工作。
克拉克还预测，在未来的 18 个月内，完全由 AI 独立运行（无人类干预）的公司将能够创造数百万美元的营收。更具颠覆性的是，他预计到 2028 年底，AI 系统将具备设计其自身后代（自我进化）的能力。
尽管对技术前景感到兴奋，这位前 OpenAI 安全团队核心成员依然强调，AI 带来毁灭性灾难的风险并未消失，技术仍有“非零的概率导致全球人类灭绝”。Anthropic 最近推出了一款名为 Mythos 的模型，该模型在利用和攻击网络安全漏洞方面展现出了惊人且令人警惕的能力。克拉克向在场学生坦言，如果人类能够放慢 AI 的研发速度，为我们这个物种争取更多时间来应对其潜在威力，那将是最佳选择。然而，他坦言这不现实，因为众多国家和商业巨头正陷入激烈的军备竞赛，地缘政治和商业竞争往往掩盖了对技术生存性风险的关注。
作为 Anthropic 的核心高管，克拉克及其团队当年正是因为与 OpenAI 在安全理念上的分歧而选择分道扬镳。如今，估值巨大的 Anthropic 也面临着争议，包括特朗普白宫在内的 AI 加速主义者指责其通过“散播恐慌”来推动监管，以巩固自身的竞争壁垒。对此，克拉克予以否认，并直言许多人对 AI 的爆发式进展仍处于“否认期”。他敦促人类必须开始为“一个很快将在群体智力上超越所有人类的技术”做准备，并将这种缺乏准备的状态与当年应对新冠大流行的失败进行了类比。
然而，前沿 AI 巨头（如 Anthropic、OpenAI 和谷歌）也面临着外界的质疑。批评者担心，全球系统过度依赖由巨额资本驱动的少数几个头部模型，可能会制造出全球治理中的“单点故障”。牛津大学 AI 伦理研究所所长爱德华·哈考特（Edward Harcourt）教授也警告称，过度依赖 AI 替人类决策可能会引发“认知萎缩”，削弱人类自身的判断力。他呼吁开发能够主动要求人类进行思考和决策的替代性 AI 模式。
【AgentUpdate 深度解析】从克拉克的预测中，我们清晰地看到了 AI Agent（智能体）从“提效工具”向“独立商业实体”演进的必然路径。18个月内出现自运营、自盈利的 AI 公司，标志着 AI Agent 生态正从单纯的 API 调用和单兵工作流，跨越到具备复杂决策、资金流管理和自我迭代的“多 Agent 协同组织”。对比当前基于 LangChain 或 CrewAI 的初级 Agent 编排，未来的 Agent 经济体将拥有极高的自主权与极低的边际成本。然而，克拉克提及的“2028年AI设计自身后代”也揭示了 Agent 进化最核心的安全阵痛：当智能体具备递归自我改进（Recursive Self-Improvement）能力时，现有的对齐技术（Alignment）和沙箱隔离机制将面临彻底失效的风险。对于 AI 开发者和生态构建者而言，未来的战略重心不仅在于提升 Agent 的自主规划与执行能力，更在于如何在底层架构（如 MCP 协议）中，建立起弹性、去中心化且具备硬性安全护栏的 Agent 交互标准，避免克拉克所担忧的“单点故障”和人类“认知萎缩”。
