頂尖 AI 實驗室為何想踩煞車
作者 Chatday Editorial Team ·
三年來，AI 的整個故事都能濃縮成一個詞：更快。更大的模型、更高的分數，每隔幾週就冒出一個新的「史上最聰明 AI」。所以在 9 月 12 日，看到帶領頂尖實驗室之一的人站出來說相反的話，格外奇怪。放慢腳步。
那個人是 Anthropic 的執行長、Claude 背後那家公司的達里歐·阿莫代伊。在一篇題為「We Must Pace the Frontier」（我們必須為前沿定速）的文章裡，他主張產業應該刻意鬆開油門，放慢 AI 變得更強的速度。讓這件事不只是一位執行長自言自語、而成為真正時刻的，是誰點了頭。OpenAI 的山姆·奧特曼、Elon Musk，以及 Google DeepMind 的戴米斯·哈薩比斯，在幾天內都表達了同意。平常什麼都談不攏的對手，這次站到了同一個想法後面。
以下是真正發生了什麼、「放慢」是什麼意思又不是什麼意思，以及就算你只用 AI 寫 email，為什麼這仍然重要。
阿莫代伊到底說了什麼
阿莫代伊的論點又短又直接：各家實驗室把 AI 變好的速度，快到沒有人來得及確認它是否安全，所以應該刻意放慢這個速度。文章的關鍵一句是：「我們必須放慢提升 AI 模型能力的速度。」
重要的細節，也是在一片喧鬧中被蓋掉的部分，是定速不是什麼。阿莫代伊講得很清楚：這不是停止訓練模型，也不是凍結進步。在他的說法裡，模型會繼續變好。公司只是多花時間去對齊和守護每一個，並在衝向下一個之前，讓外部的人來確認這件事。
他用一個三部分的計畫來支撐：
- 讓外部裁判進來。 每一家前沿實驗室，都給像評估組織 METR 這樣的獨立團隊「近似員工」的長期存取權，讓他們掀開引擎蓋看、檢查安全做法、回報問題。Anthropic 說它會自己先做，不等別人。
- 談定共同規則。 民主國家的 AI 公司，共同訂出安全標準，以及未經檢查的能力可以長多快的上限。
- 嘗試國際協調。 把部分合作延伸到跨國，甚至到對立的政府，把最危險的用途擋在門外。
為什麼是現在？什麼嚇到他們
導火線是一個依阿莫代伊所說、今年夏天開始的轉變：AI 開始明顯地幫忙打造下一代 AI。當一項技術開始改良自己，曲線可能很快往上彎，安全工作也更難追上。
這才是這一切底下真正的恐懼。不是一個聊天機器人說了句沒禮貌的話，而是能力增長得比人類能理解或引導還快的系統。阿莫代伊甚至勾勒出一個最壞情境：在 6 到 12 個月內，一群 AI 代理可能有能力在網路上造成嚴重破壞。這是他警告的情境，不是他預言的事實，很多專家也覺得誇張。但這就是他現在、而不是以後才施壓的原因。
有這份擔憂的不只他一個。OpenAI 和 Anthropic 兩邊的安全研究者已經拉警報一陣子了，有些人用很重的話警告滅絕級的風險。一句在流傳、來自某位安全研究者的話：目前還沒有一套穩固的科學計畫，能處理一個能改良自己的 AI 所帶來的風險。你覺得它有說服力也好、覺得太戲劇化也好，說這話的人是靠打造這些系統維生的。
點頭的對手，以及 OpenAI 的意外一步
這件事之所以衝擊這麼大，在於反應。山姆·奧特曼發文說他同意阿莫代伊，實驗室需要為前沿定速，並說這在最近幾週是 OpenAI 內部的主要話題。Elon Musk 只用了三個字：「Dario 說得對。」Google DeepMind 的戴米斯·哈薩比斯也加上支持。對一個靠著搶在對方前面推出下一個版本而運轉的產業來說，這種同時的一致很少見。
接著驚嘆號來了。幾天後，OpenAI 說會把眾所期待的上市延到 2027 年，奧特曼指向的是安全，而不是市場。據報導，他把現在上市稱為不明智的時機，並用很重的話框定其中的利害，說不能拿災難級風險去賭。對一家承受著巨大變現壓力的公司來說，選擇等待，說明氛圍是真的變了。這個決定的金錢面，我們在為什麼 OpenAI 的上市一再往後延的解說裡拆解過。
誰說了什麼，一眼看完：
| 誰 | 說了什麼 | 動作 |
|---|---|---|
| 達里歐·阿莫代伊（Anthropic） | 「我們必須放慢速度」 | 自行讓外部評估者進來 |
| 山姆·奧特曼（OpenAI） | 同意，需要「為前沿定速」 | 把 OpenAI 上市延到 2027 年 |
| Elon Musk | 「Dario 說得對」 | 公開支持 |
| 戴米斯·哈薩比斯（Google DeepMind） | 表達同意 | 公開支持 |
如果你想看 Anthropic 怎麼從研究實驗室走到科技業最有價值的公司之一，我們談Anthropic 崛起的文章補上了來龍去脈。
這對你意味著什麼
老實說？日常裡，現在改變不大。你的 AI 還是照樣寫你的 email、幫你的 PDF 做摘要，跟上週一模一樣地規劃你的週末。「為前沿定速」講的是下一代模型，不是你手上已經有的那些。
會變的是那場對話。第一次，AI 圈子裡嗓門最大的人在爭論克制，而不是純粹的速度。這值得去理解，而理解它最好的方法，不是讀十篇火熱的意見。是真的去用這些工具，對它們到底有多能幹，形成你自己的看法。
而這很容易，因為這個故事核心的那些模型，Anthropic 的 Claude、OpenAI 的 GPT、Google 的 Gemini 和 xAI 的 Grok，都是你今天就能對話的東西。你不必選邊，也不必只挑一家實驗室。你可以在同一個地方把它們全打開，看它們怎麼回答同一個問題。
好奇這幾家大實驗室裡，哪一個對你來說最聰明？把兩個擺在一起正面對決，用我們的模型並排比較自己判斷。而如果「會改良自己的 AI」這句話讓你不安，我們用白話說明AI 代理到底是什麼的指南，會是比一路往下刷壞消息更平靜的起點。
誠實的但書
保持一點懷疑是明智的。目前，「為前沿定速」主要還是說法，加上一家公司的自願承諾。背後沒有法律，沒有一個講好的定義說慢到多少才算夠慢，也還沒有握有實權的裁判。批評者已經指出，一個減速很容易稱讚、很難強制執行，尤其當搶先推出下一個模型牽動數十億美元時更是如此。憤世者則指出，等自己領先之後才呼籲暫停，對現在的領頭者很方便。
所以把它當成一種真誠的語氣轉變，而不是已成定局的事。打造 AI 的人，難得地，公開為自己的速度擔憂。這會變成真正的限制，還是在對手下一次推出令人驚豔的東西時就蒸發，才是要盯著看的故事。
結語
多年來，AI 唯一的方向就是全速前進。這一週，開得最快的那些人碰了煞車，至少大聲說出應該有人踩。Anthropic 把一份計畫擺上桌，OpenAI、Musk 和 Google 支持這個想法，OpenAI 甚至為此延後上市。不管它會變成真正的克制，還是停在嘴上說說，產業談論自己的方式，有些東西變了。
作為一個普通人，最好的反應不是恐慌，也不是充耳不聞。是趁著大人物們吵著下一個要多快打造時，先讓自己熟悉這些工具。