Как понять, что текст написан ИИ
Автор Chatday Editorial Team ·
Вот цифра, над которой стоит задуматься: исследователи, изучившие десятки тысяч веб-страниц, обнаружили, что примерно половина всех новых статей, публикуемых сегодня в интернете, написана ИИ. Речь не о каком-то маргинальном уголке сети. Половина. Это значит, что вы почти наверняка уже читали сегодня текст, сгенерированный ИИ, скорее всего даже не заметив этого, будь то обзор товара, подборка новостей, пост в LinkedIn или письмо.
Так как же это распознать на самом деле? Честный ответ: научиться этому вполне можно, если сочетать собственную наблюдательность с подходящим инструментом и понимать, что каждый из них способен доказать, а что нет. В этом руководстве есть и то, и другое: признаки, которые человек замечает за тридцать секунд, и принцип работы детекторов ИИ, когда нужно второе мнение.
Половину интернета теперь пишут машины
Цифра из вступления взята из исследования Graphite, SEO-компании, которая проанализировала десятки тысяч англоязычных статей, опубликованных с 2020 года, пропустив каждую через несколько детекторов ИИ. Их вывод: доля статей, написанных ИИ, резко выросла после запуска ChatGPT в конце 2022 года, а затем стабилизировалась на уровне около 50% в течение 2025 года и начала 2026-го. В одни кварталы показатель чуть превышает половину, в другие — чуть ниже.
И дело не только в спам-блогах. Отдельный анализ более 15 миллионов аннотаций к биомедицинским статьям показал, что к 2024 году как минимум 13,5% из них содержали признаки написания или редактирования ИИ — по характерной лексике, резко распространившейся после появления ChatGPT. Если это происходит в научных журналах, значит, происходит везде.
Всё это не означает, что текст, написанный ИИ, автоматически плох. Многое из него полезно, и многие люди используют ИИ как помощника для черновика, а затем серьёзно его редактируют. Но когда вы проверяете сочинение, читаете восторженный отзыв о товаре или решаете, можно ли доверять новостной статье, вопрос «кто на самом деле это написал?» вполне закономерен. Вот как на него ответить.
Признаки, которые вы можете заметить сами
Прежде чем браться за инструменты, доверьтесь собственным глазам. Модели ИИ учились писать на огромном массиве интернет-текстов, а затем были доработаны в сторону тона, который нравился оценщикам: гладкого, покорного, слегка формального. Эта гладкость и стала своего рода отпечатком. Вот на что стоит обращать внимание, читая чужой текст.
| Признак | Как это выглядит |
|---|---|
| Шаблонные фразы | «В современном цифровом мире», «важно отметить», «давайте разберёмся», «настоящий прорыв» |
| Подозрительно ровный ритм | Все абзацы одного размера, все предложения одинаковой средней длины, аккуратные списки из трёх пунктов |
| Уверенно, но пусто | Множество отполированных фраз, применимых к любой теме, без единой живой детали |
| Отсутствие проверяемой конкретики | Ни имён, ни дат, ни цен, ни личного опыта — либо они есть, но оказываются неверными |
| Безупречная грамматика без голоса автора | Ноль опечаток, ноль сокращённых форм, ноль индивидуальности, будто пресс-релиз ни о чём |
| Пристрастие к формулам | «Дело не только в X, но и в Y», «от X до Y», риторический вопрос в качестве зачина |
Самая надёжная проверка, доступная человеку, — это проверка на конкретику. Настоящие авторы, даже не самые сильные, оставляют следы реального опыта: конкретный магазин, странную деталь, мнение, которое чего-то стоит высказать. ИИ по умолчанию склоняется к тексту, который звучит правильно, а не к тексту, который правильный по сути. Выберите одно-два конкретных утверждения и проверьте их. Если в «отзыве» о ресторане не упоминается ни одно блюдо или статья ссылается на исследование, которое невозможно найти, ваши подозрения обоснованы. У этого явления есть название, и мы уже разбирали простым языком, почему ИИ выдумывает факты.
Прежде чем начать кого-то обвинять, одна оговорка: каждый признак из таблицы — это привычка, а не однозначное доказательство. Люди писали шаблонными фразами задолго до появления ChatGPT. Именно поэтому второе мнение так помогает.
Как на самом деле работают детекторы ИИ
Детектор ИИ читает текст и задаёт один главный вопрос: насколько он предсказуем?
Языковые модели пишут, снова и снова выбирая статистически наиболее вероятное следующее слово. Это оставляет след. Текст, написанный ИИ, обычно гладкий и предсказуемый, с малым числом неожиданных слов и равномерным, стабильным ритмом. Человеческий текст более хаотичен. Мы обрываем предложения и переформулируем их, выбираем странные слова, пишем то длинно, то вдруг коротко. Детекторы измеряют эту предсказуемость (исследователи называют её «перплексией») и вариативность ритма (это называют «burstiness», или неравномерностью) и на основе этого выдают вероятность: этот текст с вероятностью 85% написан ИИ.
Ключевое слово здесь — вероятность. Детектор никогда не знает наверняка, кто написал эти слова. Он делает статистическую оценку — точно так же, как вы сами делали это в предыдущем разделе, только с помощью математики, а не интуиции.
Именно поэтому оценка ведёт себя определённым образом:
- Более длинные тексты дают более точные результаты. В сообщении из двух предложений просто недостаточно сигнала. Большинство детекторов ненадёжны на текстах короче нескольких сотен слов.
- Смешанные тексты сбивают их с толку. Человеческий черновик, доработанный ИИ, или черновик ИИ, отредактированный человеком, попадает в серую зону, потому что и правда является и тем, и другим одновременно.
- Формальный текст получает оценку «более похоже на ИИ». Чем предсказуемее и традиционнее стиль, тем более машинным он выглядит, даже если его написал человек.
В чём детекторы ошибаются
Это та часть, которую пропускают большинство статей, и именно её вам стоит прочитать внимательнее всего. У детекторов ИИ есть реальные, документально подтверждённые слабые места.
Самый известный пример связан с самой OpenAI. В начале 2023 года компания запустила собственный классификатор текста ИИ, а через шесть месяцев закрыла его, сославшись на «низкую точность». По её собственным данным, он распознавал лишь 26% текстов, написанных ИИ, и в 9% случаев ошибочно помечал человеческий текст как написанный ИИ. Если компания, создавшая ChatGPT, не смогла надёжно распознавать ChatGPT, к любому инструменту, обещающему точность, стоит относиться с подозрением.
Второй недостаток хуже, потому что он несправедлив. Исследование Стэнфорда, опубликованное в журнале Patterns, проверило семь популярных детекторов ИИ на сочинениях, написанных реальными людьми. С текстами носителей английского языка детекторы справились неплохо. А тексты людей, пишущих на английском как на втором языке, детекторы помечали как написанные ИИ в 61% случаев. Причина заложена в самом методе: люди, пишущие на неродном языке, склонны использовать более безопасные, традиционные формулировки, которые алгоритму кажутся «предсказуемыми». Аккуратный, формальный, выверенный по правилам текст — это именно то, что детекторы принимают за звучание машины.
Как проверить текст: шаг за шагом
Если собрать всё вместе, получится рабочая последовательность действий. Она занимает около двух минут.
- Прочитайте текст один раз, отслеживая признаки. Шаблонные фразы, ровный ритм, зачины по формуле, отсутствие индивидуальности. Отметьте первое впечатление, но не останавливайтесь на нём.
- Проведите проверку на конкретику. Найдите одно-два конкретных, проверяемых утверждения. Поищите их. Выдуманные источники, неверные цены и несуществующие исследования — самый сильный сигнал тревоги из всех возможных.
- Пропустите текст через детектор. Вставьте текст в детектор ИИ и получите оценку вероятности. Это бесплатно, занимает десять секунд, и регистрация не нужна.
- Учтите объём текста. Если текст короче пары сотен слов, доверяйте оценке сильно меньше. На длинном, неотредактированном тексте её значимость выше.
- Подумайте, кто мог это написать. Формальный стиль или автор, для которого язык не родной? Скорректируйте свой порог соответственно — именно здесь чаще всего скапливаются ложные срабатывания.
- Сведите всё вместе. Человеческие признаки + неподтвердившаяся конкретика + высокая оценка = очень вероятно, что текст написан ИИ. Один-единственный сигнал сам по себе = держите обвинение при себе.
Когда это важно, а когда действительно нет
Не каждый текст, написанный ИИ, — это проблема. Сводка погоды или описание товара, созданные ИИ, никому не вредят. Вопрос становится важным в конкретных ситуациях:
- Преподаватели, проверяющие, действительно ли работа написана студентом самостоятельно. Используйте описанный выше алгоритм и помните о результатах исследования Стэнфорда, прежде чем действовать, опираясь только на оценку.
- Специалисты по подбору персонала, читающие подозрительно гладкие сопроводительные письма. Детектор плюс один конкретный вопрос на собеседовании («расскажите подробнее об этом проекте») быстро всё проясняет.
- Покупатели, читающие отзывы. Пятизвёздочные отзывы без единой конкретной детали о товаре — классический паттерн.
- Все, кто читает новости. Если факты в статье не подтверждаются, то, кто допустил ошибку — человек или машина, — важно меньше, чем сама ошибка.
Есть и обратная сторона. Если вы тщательно пишете на неродном языке или у вас просто формальный стиль, ваша собственная честная работа однажды может быть ошибочно помечена. Полезно знать собственную отправную точку: пропустите свой текст через детектор и посмотрите, какую оценку он получит. Если ваш подлинно человеческий текст продолжает читаться как машинный, это скорее проблема стиля, чем справедливости, и мы написали отдельное подробное руководство о том, как сделать текст, написанный ИИ, похожим на человеческий, — его советы одинаково хорошо работают и для людей, которые пишут как машины. Гуманизатор ИИ может доработать сухой черновик в один клик.
Привычка на две минуты, которую стоит выработать
Половина того, что вы сегодня читаете, создана машинами, и эта доля не собирается снижаться. Хорошая новость в том, что вам не нужно становиться судебным лингвистом. Читайте, отслеживая признаки, проверяйте один факт и доверьте детектору статистическую часть работы. Вместе эти три шага выявляют куда больше, чем любой из них по отдельности, и избавляют от единственной по-настоящему серьёзной ошибки в этой игре — быть уверенно неправым насчёт текста реального человека.
В следующий раз, когда текст покажется вам чересчур гладким, не просто сомневайтесь. Проверьте.