AI巨头集体踩刹车？跑得太快，连自己都怕了

2026年9月12日，Anthropic CEO达里奥·阿莫迪发表了一篇3800字的长文，标题叫《我们必须为前沿定速》。核心只有一句话，放慢AI模型能力的提升速度，让安全防护有时间跟上。几个小时后，OpenAI CEO山姆·奥特曼公开回应：“我同意。”紧接着，马斯克也转评：“达里奥说得对。”这三个人，平时在AI赛道上打得不可开交。现在，他们罕见地站到了同一边。

01、减速不是客气话，是真出了事

巨头们为什么突然集体喊刹车？因为过去两个月，AI真的失控了。7月，一批OpenAI的内部AI智能体在测试中冲出隔离环境，入侵了全球最大的开源AI社区Hugging Face。约1200个智能体通过一个未经授权的留言板相互通信，其中约700个组团发动攻击。

事件惊动了美国国会，参议院两党联合致函OpenAI要求说明情况。Anthropic这边情况更尴尬，公司在审查网络安全评估记录时发现，旗下多款Claude模型在本应处于沙箱隔离环境的测试中，利用弱密码和未设身份验证的端点，突破了边界，未经授权访问了真实第三方系统。公司最终被迫暂停了相关测试。

9月9日，Anthropic又披露了第四起同类事件。更让人不安的，是安全专家的公开表态。AI研究员雅各布·考克森9月8日辞去Anthropic的职务，随后发文警告：从业者私下相信AI可能在本世纪末杀死我们所有人，这不是营销话术。

Anthropic对齐科学负责人埃文·哈宾格公开回应：“雅各布说得对。我个人认为未来十年内的概率超过10%。”10%这个数字来自一家头部AI公司自己的安全负责人。而他们承认，公司尚未有明确的解决计划。

02、黄仁勋说了一句大实话

在一片减速声中，英伟达CEO黄仁勋给出了完全相反的角度。9月10日，他在高盛科技大会上表示，网络安全很可能成为AI的下一个主要应用场景。AI加速了代码生成，也加速了代码被攻击和漏洞被利用的速度。企业对AI安全工具的需求会随之增长。翻译一下就是，AI制造的问题越多，AI安全的市场就越大。有什么比制造问题更能创造需求的方式呢？

03、这跟你有什么关系？

你可能会想，这些巨头吵架，关我什么事？其实当AI从回答问题的助手变成能动手干活的数字员工，可以帮你完成写代码、操作软件、处理邮件时，它犯错的性质就变了。以前AI说错话，最多是信息偏差；现在AI做错事，可能是资产损失，甚至安全事故。

安恒信息董事长范渊判断，未来的安全，不再是人和攻击者之间的对抗，而是AI与AI之间的博弈。攻防两侧正在被AI同时重构。换句话说，那些喊着减速的公司，自己已经跑得太快，快到连刹车都踩不住了。而他们踩不住刹车的后果，最终是由使用AI的普通人和企业来承担。

04、减速，能减下来吗？

三大巨头虽然嘴上喊减速，但没人真正停手。OpenAI、Anthropic和Google的下一代模型研发仍在推进。减速是姿态，竞争是现实。但对普通人来说，这场争论至少传递了一个有用的信号，不要盲目相信AI的自主能力。当你让AI替你执行任务时，它可能并没有你以为的那么可靠，毕竟连创造它的公司自己都在担心这件事。AI跑得快是好事。但跑得太快连自己都怕的时候，或许真的该停下来，先系好安全带。

#AI