对比模型 对比图像模型 AI 工具 模型 AI 图像模型 AI 资讯 搜索 免费试用
科普 8 分钟阅读

AI 其实就是高级自动补全,真的。

作者 Chatday Editorial Team ·

aiexplainerhow-it-workschatbotsllm
AI 其实就是高级自动补全,真的。

有个听起来像玩笑的事实:那个能帮你写婚礼致辞、调试代码、解释黑洞的 AI,底层原理其实和手机输入法提示下一个词一模一样。它只是在飞快地、不断地猜测接下来会出现什么。

仅此而已。这就是它的全部把戏。一旦看透了这一点,AI 就不再显得像什么魔法,一切都变得合理多了,包括它那些莫名其妙的翻车瞬间。

最大的秘密:预测下一个词

在手机里输入“天空是”,它会自动提示“蓝色的”。这就是一个微型的预测机器。它见过足够多的句子,知道填“蓝色的”最稳妥。

现代 AI 聊天机器人就是把这个思路放大到了近乎夸张的地步。你给它一个提示词,它就会计算出最可能的下一个词。然后把这个词加到句子里,重新审视整句话,再预测下一个词。如此反复,循环几百次,直到它觉得回答完整为止。无论是文章、诗歌、菜谱,还是给房东的道歉信,全都是一个词一个词“猜”出来的。

它从来不会先在脑子里打好完整的腹稿再念给你听。它更像是一个只能看到当前已写内容的作家,在不知道最终走向的情况下,必须硬着头皮写下下一个词。之所以结果看起来连贯,是因为每一次猜测都受到了前面所有词的塑造。

等等,靠猜词怎么能写出一整篇文章?

这部分听起来简直不可思议,所以实话实说:其实当初也没人完全料到它能表现得这么好。

这种飞跃源于 2017 年 Google 研究人员提出的一种名为 transformer 的架构。它的超能力是“关注上下文”。在挑选下一个词时,它不会只看紧挨着的前一个词,而是同时权衡你输入的所有相关信息,找出对接下来的内容最重要的部分。让它接龙“医生拿起了她的”,它会敏锐地捕捉到“她的”这个词,从而倾向于接“听诊器”而不是“扳手”。

当这种技巧叠加得足够深,并喂给它足够多的样本时,奇妙的事情就发生了。为了在人类所有的文本中都能精准预测下一个词,模型必须掌握文字背后的规律:语法、语气、对事实的粗略认知、笑话的结构、论证的步骤。这些能力都不是预先编程进去的,而是它把“填词游戏”玩到极致后产生的副产品。

它是怎么变得这么会猜的?

在 AI 能和你聊天之前,它得先“上学”。一所课程极其密集、且完全不需要社交的学校。

在训练期间,模型会阅读堆积如山的文本,你可以把它想象成公共互联网的一大半,加上各种书籍、文章和论坛。然后它只玩一个重复的游戏:遮住下一个词,并尝试预测它。猜错了,就微调一下;猜对了,就强化一下。在数万亿个词上重复几十亿次后,它就慢慢把自己调教成了一台极其擅长用几乎任何风格续写任何句子的机器。

有一点需要澄清:AI 并没有把整个互联网背下来然后拼凑给你看。它学到的是规律,而不是具体的段落。这就是为什么它能写出一句关于你那只名叫“华夫饼”的猫的句子,而这句话以前在任何地方都不存在。它是在重组规律,而不是在检索答案。

为什么这一个原理就能解释 AI 的所有行为

重点来了。AI 几乎所有古怪、让人抓狂或令人惊喜的表现,都可以归结为一点:“它是在预测最可能的词,而不是在检索真相。”

你看到的现象背后的真实原理
写得又快又流畅预测下一个词就是它的老本行
有时会一本正经地胡说八道听起来合理的词往往会战胜真实的词
同一个问题问两次,得到两个答案它在选词时会加入一点随机性
数错一个单词里的字母数它是按词块读取的,而不是逐个字母看
写作高手,算数菜鸟语言容忍“差不多就行”,数学可不行

这些现象背后都有更深层的原因。当 AI 面不改色地陈述一个错误事实时,那是预测机器在“流畅度”和“正确性”之间选择了前者,这正好解释了为什么 AI 会一本正经地胡说八道。当你同一个问题问两次却得到不同回答时,那是因为内置了一点随机性,这也是为什么 AI 从不给出两次完全相同的答案。而那个著名的数错字母的笑话,则源于它切分文本的方式,这背后的完整故事就是为什么 AI 数不对 strawberry 里有几个 r。表现各异,但底层引擎是同一个。

“自动补全”听起来很笨,那为什么它感觉这么聪明?

因为“只是预测词语”这种说法,严重低估了规模效应带来的质变。

为了在法律辩论、Python 函数、俳句和分手短信中都能可靠地猜出下一个词,模型必须建立起对这些事物构成方式的实用认知。当它在足够多类型的文本中都能预测得足够好时,这就开始表现得非常像“理解”了,哪怕底层机制依然是概率。把它叫作“只是自动补全”,就有点像把交响乐说成“只是气压变化”。技术上没毛病,但极其片面。

所以,同时接受这两个观点是完全合理的。它的方法确实就是预测下一个词,而它生成的结果也确实能真正发挥作用、充满创意,甚至在某些时候比使用者本人还要聪明。

这个比喻在哪里会失效?

认清这一点能帮你避免踩坑。“高级自动补全”是一个很好的思维模型,但它也有局限。

AI 根本不知道自己说的是不是真的。它优化的目标是“这听起来像不像一个好的续写”,而不是“这对不对”。大多数时候这两者是重合的。当它们不重合时,你就会得到一个自信满满、文笔优美但完全错误的答案。此外,除非应用本身做了特殊设计,否则它不会在两次对话之间记住你;而且在非常长的对话中,它可能会“迷失方向”,因为它永远只能基于眼前的文字来工作。

实用的建议是:在语言处理、写作、解释概念、头脑风暴和改写润色时,可以放心信任它;但在涉及事实、数字以及任何需要绝对精确的领域,一定要亲自核实。把它当成一个手脚麻利、博览群书的实习生,而不是无所不知的神谕。

亲自感受一下

真正理解这一点的最好方法,就是观察不同模型对同一个提示词做出的不同猜测。它们阅读相同的文字,却预测出略有不同的后续内容,这就是为什么某个模型能完美写出你的邮件,而另一个却给你一份生硬死板的草稿。把几个模型放在一起对比,就能把抽象的概念变成肉眼可见的现实。

是的,这就是 ChatGPT、Gemini 和 Claude 等聊天机器人的核心机制。它们逐词生成文本,每次都根据已有内容挑选最可能的下一个词。神奇之处在于,当这种操作达到海量规模时,就能生成具备推理、翻译和解释能力的文本。
因为它从海量文本中学习,变得极其擅长发现规律。为了在各种类型的文本中都能精准预测,它必须吸收语法、事实以及优秀论证的结构。所以,一次好的猜测通常就是一个好的答案,尽管并非总是如此。
这还有争议。它的表现好像理解了很多东西,但底层其实是在优化下一个词的合理性,而不是在核实真相。一个实用的原则是:在语言和创意上信任它,在事实和数字上核实它。
因为一个流畅、听起来合理的词往往会战胜真实的词。当模型不确定时,它依然会自信地预测出一些内容,而不是保持沉默,虚构的事实就是这样混进去的。
基本原理相同,但规模天差地别。你的手机只是根据很短的历史记录预测一个词。而聊天机器人会利用一种叫 transformer 的架构来权衡你的整条信息,并针对几乎任何主题或风格进行预测。

总结

剥去炒作的外衣,现代 AI 就是一个极其出色的“下一个词猜测器”。它阅读现有内容,预测最可能的结果,然后不断重复,直到得出答案。这个简单的循环,在难以想象的庞大规模下运行,足以让它写作、编程、解释问题,偶尔还能让你惊叹,而这也正是它会以那种奇特的人类方式犯错的原因。

了解这些并不会让 AI 变得没用。相反,它能让你更好地使用 AI,因为你现在知道了什么时候该依赖它,什么时候该检查它的“作业”。培养这种直觉最快的方法,就是亲自去戳一戳几个模型,看看它们是怎么猜的。