AI 其實只是很厲害的自動完成
作者 Chatday Editorial Team ·
有個聽起來像玩笑的事實：那個能幫你寫婚禮致詞、幫你除錯、還能解釋黑洞的 AI，在最底層做的事，跟你手機在訊息裡提示下一個字一模一樣。它在猜接下來會是什麼，一次又一次，而且非常快。
就這樣。這就是那個把戲。而且只要你看懂它，整件事就不再像巫術，開始變得合理許多，連 AI 那些奇怪的出糗時刻也一併說得通了。
最大的祕密：它在預測下一個字
在手機打「天空是」，它會提示「藍色的」。這是一台迷你的預測機器。它看過夠多句子，知道「藍色的」是穩當的下注。
現代聊天機器人就是同一個觀念，放大到近乎荒謬的規模。你給它一個指令，它算出最可能的下一個字。接著把那個字加進句子、再看一次整體、預測下一個。然後再一次。再一次，幾百次，直到它判定答案寫完了。作文、詩、食譜、給房東的道歉，全都是一次一個最佳字堆起來的。
它從來不是先把完整的想法打好、再唸給你聽。它比較像一個只看得到目前這句話的寫作者，必須在不知道整體會落到哪裡的情況下，就先決定下一個字。結果之所以看起來連貫，是因為每一次猜測都被前面所有的字塑造過。
等等，光是猜字怎麼寫得出整篇作文？
這正是看起來不可能的部分，所以老實說：連做出來的人也沒料到它會這麼好用。
這一大步來自一種叫 transformer 的設計，由 Google 的研究者在 2017 年想出來。它的超能力是留意上下文。要選下一個字時，它不是只看前一個字。它會一次權衡你訊息裡所有重要的地方，找出哪些部分對接下來最關鍵。請它接完「那位女醫師拿起她的」，它早已記住這個脈絡，會偏向「聽診器」，而不是「板手」。
把這個把戲疊得夠深、餵它夠多例子，怪事就發生了。要在所有人類文字裡都很會預測下一個字，模型就得抓住藏在字底下的規律：文法、語氣、對事實的大略感覺、笑話的形狀、論證的步驟。這些能力不是寫死進去的。它們是「把填空遊戲練到非常非常好」之後的副產物。
它是怎麼變得這麼會猜的
在 AI 能跟你聊天之前，它要先上學。一所非常密集、完全不社交的學校。
訓練時，模型讀進一大疊文字（想像公開網路的一大塊、書、文章和論壇），然後只玩一個重複的遊戲：把下一個字蓋住，試著猜它。猜錯就微調一點，猜對就強化。在數兆個字上做上幾十億次，它就一點一點被打磨成一台幾乎能用任何風格、把任何句子接完的機器，好到有點嚇人。
有件事值得講清楚：AI 不是把整個網路背起來，再貼一段還你。它學的是規律，不是段落。所以它能寫出一句關於你那隻名叫鬆餅的貓的句子，而這句話以前哪裡都沒出現過。它是把規律重新混搭，不是去查一個答案。
為什麼這一個觀念能解釋 AI 做的所有事
回報來了。AI 身上幾乎每一件有趣、惱人或討喜的事，都回到同一點：它在預測可能的字，不是在查真相。
| 你注意到的 | 真正在發生的 |
|---|---|
| 它寫得又快又順 | 預測下一個字，正是它被造出來要做的事 |
| 它有時一臉篤定地捏造事實 | 一個聽起來可信的字，可能贏過一個正確的字 |
| 同一件事問兩次，得到兩個答案 | 它選哪個字，帶著一點點隨機 |
| 它把一個字裡的字母數錯 | 它讀的是一團一團，不是單獨的字母 |
| 它很會寫，但算術站不穩 | 語言獎勵「差不多就好」，數學不會 |
每一項都有更深的故事。當 AI 面不改色地講出錯誤事實，那是預測機器選了順口的答案，而不是正確的答案，這正是 AI 為什麼會一本正經地亂編。當你同一件事問兩次卻得到不同回答，那是出廠就帶著的一點點隨機，也是 AI 為什麼不會給你兩次一樣的答案。而那個有名的數字母出糗，來自它把文字切成小塊的方式，就是 AI 為什麼數不出 strawberry 裡的 R 的完整故事。症狀不同，引擎相同。
「自動完成」聽起來很笨。那為什麼它顯得這麼聰明？
因為「它只是在預測字」這句話，把大規模下發生的事嚴重看小了。
要在一場法庭辯論、一段 Python 程式、一首俳句和一則分手訊息裡，都能可靠地猜對下一個字，模型就得對這幾種文字各自是怎麼組成的，建立一套實用的感覺。在夠多種類的文字上、預測得夠好，很快就開始很像「理解」，就算底下的機制仍然是機率。把它叫做「只是自動完成」，有點像把一首交響曲叫做「只是氣壓的變化」。技術上沒錯，卻極度不完整。
所以同時握住兩個想法是公允的。方法確實是預測下一個字。而結果也確實可以真的有用、有創意，有時比使用它的人還聰明。
這個比喻會失靈的地方
對這點誠實，能讓你不被燙到。「很厲害的自動完成」是個好用的心智模型，但它有極限。
AI 完全不知道自己說的是不是真的。它最佳化的是「這聽起來像不像一個好的接續」，而不是「這對不對」。多數時候兩者一致。不一致的時候，你就會拿到一個篤定、錯誤、又寫得漂亮的答案。除非 App 特地設計過，否則它不會在不同對話之間記得你，而且在很長的對話裡它可能會抓不住重點，因為它永遠只憑眼前的字在運作。
實用的心得是：語言、寫作、解釋、發想、改寫，放心交給它；事實、數字，以及任何真的需要精準的地方，都要再核對一次。把它當成一個又快又博學的實習生，別當成神諭。
自己感受一下
要真的抓到這件事，最好的方法是看不同模型對同一個指令做出不同的猜測。它們讀到一樣的字，卻預測出略有差別的接續，所以其中一個把你的信寫得剛剛好，另一個卻給你一份僵硬、機器味十足的草稿。把它們並排放，抽象的觀念就變成看得見的東西。
重點整理
把喧嘩拿掉，現代 AI 就是一個好得驚人的「下一個字」猜測者。它讀眼前有的東西、預測可能的、然後重複，直到湊出一個答案。這個簡單的迴圈，放到難以想像的規模，就足以寫作、寫程式、解釋，偶爾還讓你嘖嘖稱奇，而它會用那麼奇妙、那麼像人的方式出糗，原因也在這裡。
知道這件事，不會讓 AI 變得比較沒用。它會讓你更會用 AI，因為你現在知道什麼時候該靠它、什麼時候該幫它檢查作業。要養成這種直覺，最快的方法就是自己動手玩幾個模型，看它們怎麼猜。