Почему топовые ИИ-лаборатории хотят притормозить
Автор Chatday Editorial Team ·
Три года вся история ИИ умещалась в одно слово: быстрее. Модели крупнее, баллы выше, каждые пару недель новый “самый умный ИИ в истории”. Поэтому странно было 12 сентября видеть, как человек, руководящий одной из топовых лабораторий, встаёт и говорит обратное. Притормозите.
Это был Дарио Амодеи, глава Anthropic, компании за Claude. В эссе под названием “We Must Pace the Frontier” (“Мы должны задавать темп фронтиру”) он доказывал, что индустрии стоит намеренно сбавить газ в том, как быстро ИИ становится способнее. Настоящим моментом, а не просто CEO, думающим вслух, это сделало то, кто кивнул в ответ. Сэм Альтман из OpenAI, Илон Маск и Демис Хассабис из Google DeepMind в считаные дни выразили согласие. Соперники, которые обычно не сходятся ни в чём, встали за одной и той же идеей.
Вот что произошло на самом деле, что “притормозить” значит и что нет, и почему это важно, даже если вы используете ИИ только чтобы писать письма.
Что Амодеи сказал на самом деле
Аргумент Амодеи короток и прям: лаборатории улучшают ИИ быстрее, чем кто-либо успевает проверить, безопасен ли он, поэтому им стоит намеренно замедлить этот темп. Ключевая фраза из эссе: “Мы должны замедлить темп, с которым мы улучшаем возможности ИИ-моделей”.
Важный нюанс, и часть, потерявшаяся в шуме, это то, чем задавать темп не является. Амодеи ясно сказал: это не значит останавливать обучение моделей или замораживать прогресс. В его картине модели продолжают становиться лучше. Компании просто берут больше времени, чтобы согласовать и обезопасить каждую, и дают людям со стороны это проверить, прежде чем мчаться к следующей.
Он подкрепил это планом из трёх частей:
- Впустить внешних арбитров. Каждая передовая лаборатория дала бы независимой команде, например оценочной организации METR, постоянный доступ “как у сотрудника”, чтобы заглянуть под капот, проверить практики безопасности и сообщать о проблемах. Anthropic заявила, что сделает это сама, никого не дожидаясь.
- Договориться об общих правилах. Компании ИИ в демократических странах установили бы общие стандарты безопасности и пределы того, как быстро могут расти непроверенные возможности.
- Попробовать международную координацию. Распространить часть этого сотрудничества за границы, даже на соперничающие правительства, чтобы исключить самые опасные применения.
Почему сейчас? Что их напугало
Спусковым крючком стал сдвиг, который, по словам Амодеи, начался этим летом: ИИ начал заметно помогать строить следующее поколение ИИ. Когда технология начинает улучшать саму себя, кривая может резко пойти вверх, и работе над безопасностью тяжелее поспевать.
Вот настоящий страх под всем этим. Не чат-бот, говорящий грубость, а системы, которые становятся способнее быстрее, чем люди могут их понять или направлять. Амодеи дошёл до того, что обрисовал худший сценарий, в котором за 6-12 месяцев рой ИИ-агентов мог бы оказаться способен нанести серьёзный вред в интернете. Это сценарий, о котором он предупреждает, а не факт, который он предсказывает, и многие эксперты считают его преувеличенным. Но именно поэтому он давит сейчас, а не позже.
Он не одинок в этой тревоге. Исследователи безопасности и в OpenAI, и в Anthropic давно бьют тревогу, некоторые в резких словах предупреждают о риске уровня вымирания. Фраза, которая ходит по рукам, от одного исследователя безопасности: пока нет надёжного научного плана справиться с рисками ИИ, способного улучшать самого себя. Убедительно вам это или драматично, те, кто это говорит, строят такие системы профессионально.
Соперники, которые согласились, и сюрприз OpenAI
Причина, по которой это ударило так сильно, реакция. Сэм Альтман написал, что согласен с Амодеи: лабораториям нужно задавать темп фронтиру, и сказал, что в последние недели это было главной темой внутри OpenAI. Илон Маск ограничился тремя словами: “Дарио прав”. Демис Хассабис из Google DeepMind добавил свою поддержку. Для индустрии, построенной на том, чтобы обгонять друг друга к следующему релизу, такое одновременное согласие редкость.
Затем пришёл восклицательный знак. Через несколько дней OpenAI сообщила, что перенесёт свой долгожданный выход на биржу на 2027 год, и Альтман указал на безопасность, а не на рынки. По сообщениям, он назвал выход на биржу прямо сейчас неразумным моментом и обрисовал ставки в резких словах о том, чтобы не играть с катастрофическим риском. Для компании под огромным давлением заработать выбор подождать говорит, что настроение и правда переменилось. Мы разобрали денежную сторону этого решения в нашем разъяснении о том, почему выход OpenAI на биржу всё время откладывается.
Вот кто что сказал, одним взглядом:
| Кто | Что сказал | Ход |
|---|---|---|
| Дарио Амодеи (Anthropic) | “Мы должны замедлить темп” | Впустит внешних оценщиков, по своей инициативе |
| Сэм Альтман (OpenAI) | Согласен, надо “задавать темп фронтиру” | Перенёс выход OpenAI на биржу на 2027 |
| Илон Маск | ”Дарио прав” | Публичная поддержка |
| Демис Хассабис (Google DeepMind) | Выразил согласие | Публичная поддержка |
Если хотите общую картину того, как Anthropic прошла путь от исследовательской лаборатории до одной из самых дорогих компаний в отрасли, наш материал о взлёте Anthropic заполняет предысторию.
Что это значит для вас
Честно? В повседневности прямо сейчас меняется немногое. Ваш ИИ по-прежнему пишет ваши письма, кратко пересказывает ваши PDF и планирует ваши выходные ровно как на прошлой неделе. “Задавать темп фронтиру” про следующее поколение моделей, а не про те, что уже у вас в руках.
Что действительно меняется, так это разговор. Впервые самые громкие голоса в ИИ спорят о сдержанности, а не о чистой скорости. Это стоит понять, и лучший способ понять не читать десять горячих мнений. Это по-настоящему пользоваться инструментами и составить своё представление о том, насколько они на самом деле способны.
А это легко, потому что модели в сердце этой истории, Claude от Anthropic, GPT от OpenAI, Gemini от Google и Grok от xAI, это то, с чем вы можете поговорить сегодня. Вам не нужно выбирать сторону или одну лабораторию. Вы можете открыть их все в одном месте и посмотреть, как они ответят на один и тот же вопрос.
Любопытно, какая из больших лабораторий кажется вам самой умной? Поставьте две лицом к лицу и судите сами с нашим сравнением моделей бок о бок. А если фраза “ИИ, улучшающий сам себя” вас насторожила, наш гид простым языком о том, что такое ИИ-агент на самом деле, спокойнее для старта, чем бесконечная лента тревожных новостей.
Честная оговорка
Стоит сохранять немного скепсиса. Сейчас “задавать темп фронтиру” это в основном слова и добровольное обещание одной компании. За этим нет закона, нет согласованного определения, насколько медленнее достаточно медленно, и пока нет арбитра с реальной властью. Критики уже указали, что торможение легко хвалить и трудно навязать, особенно когда на кону миллиарды за то, чтобы выпустить следующую модель первым. Циники замечают, что нынешним лидерам удобно призывать к паузе, как только они вырвались вперёд.
Так что примите это как искреннюю смену тона, а не как решённое дело. Те, кто строит ИИ, впервые публично встревожены собственной скоростью. Превратится ли это в реальные ограничения или рассеется при следующем впечатляющем релизе соперника, вот история, за которой стоит следить.
Итог
Годами единственным направлением в ИИ было полный вперёд. На этой неделе те, кто едет быстрее всех, тронули тормоз, или хотя бы вслух сказали, что кому-то стоит. Anthropic положила план на стол, OpenAI, Маск и Google поддержали идею, а OpenAI даже перенесла из-за этого выход на биржу. Станет ли это реальной сдержанностью или останется темой для разговоров, что-то изменилось в том, как индустрия говорит о себе.
Лучшая реакция обычного человека это не паника и не отключение. Это освоить эти инструменты, пока взрослые спорят, как быстро строить следующие.