Почему ИИ не может сосчитать R в слове strawberry
Автор Chatday Editorial Team ·
Попросите чат-бота организовать вашу свадьбу, и он справится блестяще. Спросите, сколько раз буква R встречается в «strawberry», и велика вероятность, что он ответит «две». На самом деле их три. Это одна из самых странных особенностей современного ИИ: тот же инструмент, что объясняет вам квантовую физику, спотыкается на задаче, которую шестилетний ребёнок решает карандашом.
Это не сбой, и ИИ не глупый. Это побочный эффект того, как эти системы вообще читают. И когда вы это поймёте, многие мелкие странные промахи ИИ разом обретают смысл.
Знаменитый промах со «strawberry», объяснение
«Сколько букв R в strawberry?» стало любимым способом интернета выставить ИИ на посмешище. И какое-то время почти все чат-боты ошибались, отвечая «две» с радостной уверенностью человека, который ни разу в жизни не ошибался.
Произнесите по буквам сами: s-t-r-a-w-b-e-r-r-y. Одна R ближе к началу и двойная R ближе к концу. Всего три. Для человека легко, потому что мы смотрим на настоящие буквы. ИИ так нельзя, и чтобы понять почему, нужно посмотреть, как он читает.
ИИ читает кусками, а не буквами
Вот часть, которую почти никто не знает. Прежде чем модель ИИ прочитает ваше сообщение, текст рубится на куски, которые называют токенами. Токен обычно это частое слово или его фрагмент. Слово «strawberry» часто делится на что-то вроде «st», «raw» и «berry».
Теперь посчитайте R так, как это делает модель. В куске «st» их нет. В «raw» одна. В «berry» их две, но модель видит это как единый ком, а не как b-e-r-r-y. Так буквы оказываются погребены внутри кусков, и модели приходится примерно помнить, как пишется каждый кусок, вместо того чтобы считать его на ходу.
Один исследователь сказал это идеально: это как считать нити в верёвке, не расплетя её сначала. Модель видит скрученную верёвку (токен), а не отдельные нити (буквы).
Почему та же особенность ломает простую математику
Именно поэтому ИИ пролетает сквозь философское эссе, но спотыкается на умножении четырёхзначных чисел. Числа тоже рубятся на куски, и даже не одинаково. Число 12345 может стать «123» и «45», так что модель никогда толком не выравнивает цифры так, как вы сделали бы на бумаге.
К тому же ИИ не вычисляет. Он предсказывает самое вероятное, что сказать дальше, исходя из всего прочитанного. Для языка это работает превосходно, где «примерно верно» годится, а для арифметики плохо, где ответ либо точен, либо неверен. Модель создана для вероятности, а математике нужна точность. Эти двое не всегда ладят. Это родственник причины, по которой ИИ уверенно выдумывает: гладкий и правдоподобный ответ это не то же самое, что правильный.
Так почему некоторые модели теперь отвечают верно?
Вот поворот. Спросите сегодня большинство чат-ботов про strawberry, и они скажут три. Вопрос стал так знаменит, что правильный ответ теперь вшит в то, на чём они учились. Модели не обрели вдруг зрение на буквы. Они заучили развязку наизусть.
Смените слово, и маска спадает. В тщательном тесте 2025 года исследователи спросили, сколько букв B в «blueberry». Популярный чат-бот ошибался примерно четыре раза из десяти, уверенно заявляя, что их три, хотя их две, да ещё с галочками рядом со своими выкладками. Другая модель отвечала верно каждый раз, терпеливо идя буква за буквой. Одна и та же задача, совсем разные результаты, и это говорит вам, что перед нами не столько железный закон ИИ, сколько вопрос того, потрудится ли конкретная модель притормозить и перепроверить.
Это честная версия истории. Проблема кусков реальна, но это не всё. Даже ИИ, который показывает свои рассуждения, может ошибиться в счёте, потому что он подгоняет шаблоны по шагам, а не по-настоящему воспринимает каждую букву. Новые «думающие» модели справляются с этим намного лучше быстрых, хороший пример быстрого ИИ против умного ИИ на деле. Но лучше это не то же самое, что гарантированно.
В чём ИИ великолепен и что стоит перепроверить
Вам не нужно знать наизусть, как всё устроено внутри. Нужно лишь чутьё на то, где ИИ надёжен, а где стоит заставить его показать работу.
| Задача | Как справляется ИИ | Что делать |
|---|---|---|
| Писать, суммировать, накидывать идеи | Отлично | Доверьтесь, потом пробегите глазами |
| Объяснить понятие простыми словами | Отлично | Доверьтесь |
| Считать буквы или символы | Шатко | Попросите произнести по буквам |
| Длинные или точные вычисления | Шатко | Попросите шаг за шагом или возьмите калькулятор |
| Точные детали в длинном документе | По-разному | Попросите процитировать строку источника |
Закономерность простая. Когда задача про язык, дайте ему течь. Когда задача требует точности, притормозите его или переключитесь на модель, которая аккуратна.
Как всё-таки получить правильный ответ
Три приёма исправляют почти любой промах в счёте или вычислениях:
- Заставьте его показать работу. «Иди буква за буквой» или «реши шаг за шагом» подталкивает модель выложить всё туда, где она это видит, вместо того чтобы выпалить ответ.
- Спросите дважды или спросите две модели. Если важна точность, не доверяйте первому быстрому ответу. Второе мнение от другой модели ловит удивительно много таких ошибок.
- Берите правильную модель под задачу. Быстрые, болтливые модели созданы для скорости. Для всего тонкого и точного лишние несколько секунд у более медленной, думающей модели того стоят.
Последний пункт проще, когда вы не привязаны к одному ИИ. Вы можете поставить несколько лучших моделей перед одним и тем же вопросом и посмотреть, кто действительно прав.
Коротко
Промах ИИ со счётом букв не признак того, что он втайне глуп. Это окно в то, как эти инструменты на самом деле работают: читают кусками, предсказывают вместо того чтобы вычислять, блестящи с языком и неуклюжи с буквальным. Когда вы это знаете, вы перестаёте удивляться и начинаете рулить. Попросите его притормозить, заставьте показать работу, а когда ответ действительно должен быть верным, подключите вторую модель.
Лучший способ выработать это чутьё это поковыряться самому. Попросите модель посчитать буквы R, потом попросите сначала произнести слово по буквам и смотрите, как меняется ответ.