Почему ИИ уверенно выдумывает факты
Автор Chatday Editorial Team ·
Задайте чат-боту с ИИ вопрос, ответ на который он не знает, и вот в чём загвоздка: он почти никогда не скажет «я не уверен». Вместо этого он часто выдаёт уверенный, гладкий и полностью выдуманный ответ: название несуществующей книги, цитату, которую никто не произносил, закон, которого нет. ИИ не лжёт намеренно. Он просто не различает, где правда, а где вымысел. И как только вы поймёте, почему так происходит, вас больше не удастся обмануть.
Что на самом деле означает «галлюцинация»
В мире ИИ «галлюцинацией» называют ситуацию, когда чат-бот выдаёт что-то, что звучит правдоподобно, но на самом деле не соответствует истине: придуманную статистику, несуществующий источник, уверенно сформулированный неверный ответ. Само слово звучит загадочно, но суть проста: ИИ заполняет пробел в своих знаниях убедительной догадкой и выдаёт её за факт.
Хитрость в тоне. Человек, который чего-то не знает, обычно колеблется, оговаривается или прямо признаёт это. ИИ преподносит свою выдумку с той же спокойной уверенностью, с какой говорит о том, в чём действительно прав. Никакого нервного «эм, кажется?» — именно поэтому люди попадаются на эту удочку.
Так почему же это происходит?
Чтобы разобраться, нужно понять, что чат-бот на самом деле делает внутри. Он не ищет факты в базе данных. Это потрясающе эффективная машина предсказаний: она читает ваш вопрос и слово за словом вычисляет, как, вероятнее всего, должен звучать разумный ответ, опираясь на закономерности, которые она усвоила из огромного массива текстов.
Это отлично работает, когда нужно написать письмо или объяснить идею. Но это значит, что ИИ гонится за правдоподобием, а не за истиной. Когда он знает ответ, самые вероятные следующие слова оказываются верными. Когда не знает, самые правдоподобно звучащие слова могут оказаться красиво изложенным вымыслом. Машина не всегда может отличить одно от другого: для неё оба варианта выглядят одинаково — как «хороший ответ».
| Что вы думаете, делает ИИ | Что он делает на самом деле |
|---|---|
| Ищет факт и сообщает его | Предсказывает наиболее вероятно звучащие слова |
| Знает, когда не знает | Часто не может отличить догадку от факта |
| Молчит, если не уверен | Заполняет пробел чем-то правдоподобным |
| Цитирует настоящие источники | Может выдумывать источники, похожие на настоящие |
Неожиданный поворот: ИИ обучен угадывать
А вот часть, которая удивила даже экспертов. В исследовательской статье 2025 года OpenAI объяснила, что галлюцинации — это не просто сбой: они частично заложены в том, как ИИ оценивают во время обучения.
Представьте студента на экзамене с выбором ответа. Если неправильный ответ и пропущенный вопрос одинаково приносят ноль баллов, а удачная догадка может принести балл, разумнее всего всегда угадывать. Модели ИИ проверяют примерно так же: система оценки поощряет уверенный ответ и штрафует за «не знаю», даже если «не знаю» — честный и правильный ответ. Поэтому модели учатся блефовать. Решение, которое предлагает OpenAI, — изменить систему оценки так, чтобы признание неуверенности поощрялось, а не наказывалось.
Это не просто теория: у этого есть реальная цена
Выдуманные ответы уже приводили к настоящим проблемам:
- В 2023 году два юриста из Нью-Йорка использовали ChatGPT, чтобы помочь составить судебный документ, и подали его с шестью несуществующими судебными делами: ИИ выдумал названия, цитаты и ссылки на источники. Судья оштрафовал их на 5000 долларов.
- В 2024 году канадский трибунал обязал Air Canada выполнить условия возврата средств, которые её собственный чат-бот поддержки просто придумал, когда скорбящий клиент спросил о тарифах в связи с утратой близкого. Авиакомпания утверждала, что бот отвечает сам за себя; трибунал с этим не согласился.
Урок из обоих случаев один: уверенность ИИ — это не доказательство. Всё, что действительно важно — юридические, медицинские, финансовые вопросы или что-то, что вы собираетесь выдать людям за истину, — нужно проверять.
Одни модели ИИ выдумывают больше, чем другие
Проблема с галлюцинациями не одинакова у всех моделей. Независимые тесты, измеряющие, насколько модель придерживается фактов из предоставленного ей источника, показывают реальные, иногда значительные, различия между моделями. При этом новые «рассуждающие» модели, которые сначала обдумывают ответ, а потом отвечают, как правило точнее старых моделей с мгновенным ответом.
Именно поэтому не стоит привязываться к одному чат-боту. Если ответ кажется важным или неожиданным, задать тот же вопрос второй модели — один из самых быстрых способов проверки: если два разных ИИ, созданных разными компаниями, независимо друг от друга сходятся в ответе, ему можно доверять намного больше, чем одному уверенному голосу.
Как получать ответы, которым можно доверять
Бояться галлюцинаций не нужно — достаточно нескольких привычек, которые незаметно повышают ваши шансы получить верный ответ:
- Спросите про источники. «Откуда это известно? Дайте ссылки, которые я могу проверить». Если модель не может указать ничего реального, считайте это утверждение догадкой.
- Дайте ей факты, на которые можно опереться. Модели гораздо реже галлюцинируют, когда отвечают по документу, который вы предоставили, а не по памяти. Вставьте текст или используйте инструмент, который позволяет общаться с PDF-файлом, чтобы ответ был привязан к реальному источнику.
- Сверяйтесь со второй моделью. Задайте тот же вопрос другому ИИ. Совпадение ответов успокаивает; расхождение — сигнал разобраться внимательнее.
- Используйте рассуждающую модель для сложных вопросов. Модели, которые думают перед тем, как ответить, заметно точнее в сложных случаях (хотя всё равно не идеальны).
- Оставьте ей путь к отступлению. Добавьте в запрос фразу «если не уверены, напишите “не знаю”». Модель не всегда послушается, но это заметно снижает количество уверенной бессмыслицы.
Хотите сразу попробовать приём со сверкой моделей? Откройте один и тот же вопрос в нескольких моделях и сравните ответы:
Главное
Галлюцинации ИИ — не признак того, что технология сломана: это побочный эффект того, что делает её настолько полезной, — машины, которая поразительно хорошо создаёт связный, правдоподобный текст. Решение не в том, чтобы не доверять ИИ, а в том, чтобы пользоваться им разумно: просите источники, привязывайте ответы к реальным документам и не позволяйте одному уверенному голосу быть вашим единственным свидетелем.
Самая простая страховка — второе мнение. Задайте вопрос, а затем задайте его снова другой модели и проверьте, совпадают ли ответы: сделать это можно прямо сейчас, бесплатно, в Chatday, где Claude, GPT-5.5, Gemini и другие модели работают рядом друг с другом.