为什么顶尖 AI 实验室纷纷呼吁放慢脚步
作者 Chatday Editorial Team ·
过去三年，AI 发展的主旋律只有一个字：快。模型越来越大，跑分越来越高，每隔几周就冒出一个“史上最强 AI”。正因如此，当 9 月 12 日某顶尖实验室的负责人站出来唱反调时，才显得格外反常。他呼吁：放慢脚步。
这个人就是 Claude 背后的公司 Anthropic 的 CEO Dario Amodei。在一篇题为《我们必须控制前沿发展的节奏》的文章中，他提出行业应该主动踩一脚刹车，放缓 AI 能力提升的速度。这件事之所以引发轰动，而不是被当成某个 CEO 的随口一言，关键在于谁在附和。短短几天内，OpenAI 的 Sam Altman、Elon Musk 以及 Google DeepMind 的 Demis Hassabis 纷纷表态赞同。这些平时水火不容的竞争对手，竟然在同一件事上达成了共识。
到底发生了什么？“放慢脚步”究竟意味着什么，又不意味着什么？即使你只用 AI 写写邮件，这件事为什么也与你息息相关？我们来一探究竟。
Amodei 到底说了什么
Amodei 的观点简单直接：实验室提升 AI 能力的速度，已经超过了任何人验证其安全性的速度，因此必须主动放慢脚步。文章的核心金句是：“我们必须放慢提升 AI 模型能力的步伐。”
这里有个关键细节，也是在喧嚣中最容易被忽略的一点：控制节奏“不”意味着什么。Amodei 明确指出，这并不意味着停止模型训练或冻结技术进步。在他的构想中，模型依然会不断进化，只是公司需要花更多时间对每个模型进行对齐和安全防护，并让外部人员验证无误后，再奔向下一个目标。
为此，他提出了一个三步走计划：
- 引入外部裁判。 每家前沿实验室都应允许独立团队（如评估非营利组织 METR）获得类似“内部员工”的长期权限，以便深入底层检查安全实践并报告问题。Anthropic 表示将率先单方面执行这一举措，不等他人。
- 制定统一规则。 民主国家的 AI 公司应确立共同的安全标准，并限制未经审查的能力增长速度。
- 推动国际协调。 将部分合作延伸至跨国界，甚至涵盖竞争对手政府，以杜绝最危险的应用场景。
为什么是现在？是什么让他们感到担忧
导火索是 Amodei 所说的大约今年夏天开始的一种转变：AI 已经开始实质性地参与构建下一代 AI。当一项技术开始自我迭代时，发展曲线可能会急剧上扬，而安全工作则更难跟上步伐。
这才是所有担忧的真正根源。不是聊天机器人说了句脏话，而是系统能力增强的速度超过了人类理解或驾驭它们的速度。Amodei 甚至描绘了一种最坏的情况：在 6 到 12 个月内，一群 AI 智能体可能会在网上造成严重破坏。这只是他提出的一种警告，而非事实预测，不少专家也认为这有些夸大其词。但这正是他急于现在采取行动的原因。
有这种担忧的不止他一人。OpenAI 和 Anthropic 的安全研究人员一直在拉响警报，有些人甚至严厉警告了“灭绝级”风险。一位安全研究员的话广为流传：目前还没有可靠的科学方案来应对能够自我进化的 AI 带来的风险。无论你觉得这话是令人信服还是危言耸听，说这些话的人正是靠构建这些系统吃饭的。
赞同的竞争对手们，以及 OpenAI 的意外之举
这件事之所以引发巨大震动，关键在于各方的反应。Sam Altman 发帖称，他同意 Amodei 的观点，即实验室需要控制前沿发展的节奏，并表示这已是 OpenAI 近几周来的核心议题。Elon Musk 的回应非常简短：“Dario 说得对。”Google DeepMind 的 Demis Hassabis 也表达了支持。对于一个靠互相卷首发来生存的行业来说，这种大家突然达成共识的罕见场面实属难得。
紧接着是一个重磅炸弹。几天后，OpenAI 宣布将万众期待的上市计划推迟到 2027 年，Altman 给出的理由是安全而非市场因素。据报道，他认为现在上市是不明智的，并直言不讳地表示不能拿灾难性风险去赌博。对于一家面临巨大变现压力的公司来说，选择等待说明行业情绪确实发生了转变。我们在 为什么 OpenAI 的 IPO 一再推迟 一文中，详细拆解了这一决定背后的商业逻辑。
以下是各方表态一览：
| 人物 | 表态 | 行动 |
|---|---|---|
| Dario Amodei (Anthropic) | “我们必须放慢脚步” | 将单方面引入外部评估人员 |
| Sam Altman (OpenAI) | 赞同，需要“控制前沿节奏” | 将 OpenAI 的 IPO 推迟至 2027 年 |
| Elon Musk | “Dario 说得对” | 公开支持 |
| Demis Hassabis (Google DeepMind) | 表达赞同 | 公开支持 |
如果你想了解 Anthropic 是如何从一家研究实验室成长为科技界最有价值的公司之一的，我们的 Anthropic 的崛起 一文补充了完整的背景故事。
这对你意味着什么
说实话？就日常使用而言，目前没什么变化。你的 AI 依然会帮你写邮件、总结 PDF、规划周末，和上周一模一样。“控制前沿节奏”针对的是下一代模型，而不是你手里正在用的这些。
真正改变的是行业的话语体系。AI 界最响亮的声音第一次在讨论“克制”，而不是纯粹的“速度”。这值得我们去理解，而最好的理解方式不是去读十篇爆款评论，而是亲自去使用这些工具，形成自己对它们真实能力的判断。
这很容易做到，因为这场风波核心的模型，也就是 Anthropic 的 Claude、OpenAI 的 GPT、Google 的 Gemini 和 xAI 的 Grok，你今天都可以直接和它们对话。你不需要选边站，也不必只盯着一家实验室。你可以在一个平台上打开它们，看看它们如何回答同一个问题。
好奇哪家大厂的模型在你用起来感觉最聪明？用我们的 模型并排对比 工具，让两个模型直接 PK，自己当裁判。如果“自我进化的 AI”这个词让你感到不安，我们通俗易懂的 AI 智能体到底是什么 指南，会比刷焦虑新闻让你心里更有底。
客观的提醒
保持一点怀疑态度是值得的。目前，“控制前沿节奏”更多只是口头呼吁和一家公司的自愿承诺。这背后没有法律支撑，没有对“慢多少才算够慢”的统一界定，也没有真正拥有实权的裁判。批评人士已经指出，放慢脚步说起来容易做起来难，尤其是当数十亿美元的利润取决于谁能抢先发布下一个模型时。愤世嫉俗者则指出，当前的领跑者在取得领先后呼吁暂停，未免有些太巧了。
所以，把这看作是一次真诚的语气转变，而非尘埃落定。构建 AI 的人难得一次公开对自己的速度感到担忧。这究竟会转化为真正的限制，还是会在竞争对手下次发布惊艳产品时烟消云散，才是我们真正要关注的后续。
总结
多年来，AI 的唯一方向就是全速前进。而本周，开得最快的人踩了刹车，或者至少大声呼吁应该有人踩刹车。Anthropic 提出了具体计划，OpenAI、Musk 和 Google 表示支持，OpenAI 甚至为此推迟了 IPO。无论这最终会变成真正的克制，还是仅仅停留在口头讨论，这个行业谈论自身的方式已经发生了改变。
作为普通人，最好的应对方式既不是恐慌，也不是漠不关心。而是在大人们争论下一代模型该建多快的时候，先去熟悉这些工具。