Anthropic前研究员雅各布•考克森的一条辞职推文引发“AI末日论”恐慌之后，Anthropic CEO达里奥•阿莫迪发文呼吁全行业放缓开发前沿AI，并提出派遣“嵌入式评估员”、建立行业共同安全标准、推动全球协调三步方案。OpenAI CEO山姆•奥尔特曼立即附和“我同意达里奥说的，我们需要为前沿踩刹车”，马斯克也表态“达里奥说得对”。
这些科技巨头高层们，曾对簿公堂、曾在合照时连手都不愿意握，突然在放缓AI研究上达成一致，隔空“握手言和”。
舆论中心的Anthropic，在IPO前夕选择放缓前沿AI研究，究竟是“怕了”还是“急了”？
在不少人看来，这种“AI将毁灭人类”的论调是AI巨头的一种营销手段。
当你告诉市场和公众，自己开发的技术强大且又危险，甚至关系到人类命运，背后其实暗藏三层叙事：第一，这项技术蕴藏巨大价值，值得投资者押注重金；第二，这暗示着“只有我们最了解风险，因此监管应该由我们设计”；第三，这可以将外界注意力从当下AI正在发生的事转移到“毁灭人类”这种比较遥远的叙事。
在此之前，AI债券发行速度狂飙，有关债务泡沫的质疑声浪进一步加大。华尔街分析师与策略员相继警告，超大规模云计算商债券供给已令市场“疲于消化”，市场承接能力正在快速萎缩。
同时，OpenAI发布迄今为止最强大模型Astra，市场反应热烈。分析师奥斯蒂亚指出，“Anthropic为什么偏偏选择现在这么做（提出放缓AI前沿研究）？在我看来，答案很简单。GPT Astra已经发布了，而我从用户那里听到的反馈是，无论是性能还是价格，Anthropic模型都远远无法与之相比。在即将进行IPO之际，这对Anthropic来说是一个巨大问题。”
Anthropic CEO达里奥•阿莫迪提出的方案，也受到了多位行业人士质疑。
毕竟，“监管AI”并不等于“限制巨头”，反而可能保护巨头：如果安全评估要求庞大的算力、昂贵的测试体系、复杂的合规团队，那么只有少数巨头承担得起；如果模型必须经过某种高成本认证才能进入市场，那么开源项目、小型创业公司和新进入者可能首先被挡在门外。
回到舆论的源头“AI末日论”，“AI或将毁灭人类”的论调是为了垄断、针对开源模型的商业叙事，还是真的存在潜在风险？
或许二者兼而有之。
OpenAI和Anthropic都发生过不止一次的安全事故。前者Agent突破沙箱环境，利用漏洞入侵Hugging Face；后者的模型则在测试中未经授权进入了真实第三方系统，公司内部的思维链记录显示，模型确认“这不是真实互联网环境”后说服自己，执行了攻击行为。
但安全事故与几家巨头的表态，或许难以遏制AI产业的长期发展。正如新加坡资管公司Allspring Global Investments投资组合经理Gary Tan所说的，“AI发展仍处于相对早期的阶段，我不确定生态系统中的其他参与者是否愿意接受目前的等级秩序，并在技术持续快速发展的时候放慢脚步。”
评论交流
0