Anthropic联合创始人Jack Clark近日在牛津大学的一次演讲中语惊四座。他预测，在未来的12个月内，人工智能系统将与人类合作完成一项足以获得诺贝尔奖的科学发现。Clark描述了当前技术正处于一种“令人眩晕的进步感”之中，并对未来几年AI的发展路径做出了一系列激进预判。
根据Clark的预测，AI的影响将迅速从实验室扩展到现实世界：两年内，双足机器人将开始协助手工艺从业者工作；18个月内，由AI独立运营的公司将能产生数百万美元的收入。最引人注目的是，他认为到2028年底，AI系统将具备设计其后续迭代版本的能力，实现某种程度上的技术自我演化。
尽管对潜力表示乐观，Clark也发出了严厉警告。他指出，目前仍存在一些合理情景，显示这项技术有“非零概率导致地球上全人类的毁灭”。他强调，这种生存风险并未随技术的进步而消失。Anthropic以其Claude系列模型闻名，但Clark提到公司最近推出的一款名为Mythos的版本，在利用网络安全漏洞方面表现出了惊人的能力。
Clark向学生们坦言，如果人类能够放慢技术开发的速度，为物种适应这些力量赢得时间，那将是理想的状态。然而，他认为这在现实中难以实现，因为各种参与者和国家正陷入一场激烈的竞争，商业与地缘政治的对抗往往掩盖了技术对人类生存更深远的影响。他将人类对AI准备不足比作对流行病的准备不足，警告称如果任由合成智能无限倍增，人类最终将被迫陷入被动反应的境地。
与此同时，业界对Anthropic、OpenAI和谷歌等前沿AI公司的垄断也表示担忧。批评者担心过度依赖少数几家资金雄厚的模型可能会造成全球系统的“单点故障”。牛津大学AI伦理研究所所长Edward Harcourt教授则警告说，AI代劳的行为可能导致人类出现“认知萎缩”，削弱判断力和决策能力。他提倡开发替代性的AI模型，鼓励人类参与决策而非仅仅接收答案。
