Экономика инференса: цепочки мыслей ИИ-агентов раздувают затраты без роста точности
Сколько вычислительного бюджета сжигают автономные агенты, когда их заставляют генерировать длинные цепочки рассуждений на естественном языке перед каждым действием во внешней среде? Команды инженеров, внедряющие автономных агентов, сталкиваются с жесткой финансовой реальностью: требование к моделям выдавать промежуточные шаги логики сжигает токены и раздувает счета за облачные вычисления, далеко не всегда повышая точность выполнения задач.
Исследование, опубликованное на arXiv 3 ноября 2026 года (arXiv:2611.05709v1) группой авторов из LG AI Research и Университета штата Северная Каролина (Мин Сон Ким, Сындон Ё, Санхю Юн, Е Сыль Сим, Сухи Юн, Донмин Ким и Чон Ын Ким), показывает: отказ от промежуточных мыслей учителя в процессе дистилляции агентов часто оставляет производительность модели-ученика неизменной. Стандартные методы дистилляции регулярно обучают компактные модели на полных траекториях моделей-наставников, контролируя как промежуточный ход мыслей, так и итоговые действия. Однако исследование демонстрирует, что на популярных бенчмарках текстовые рассуждения забирают львиную долю контекстного бюджета, не обеспечивая пропорционального прироста эффективности.
Копирование полных цепочек рассуждений наставника в продакшен-модели неоправданно завышает расходы на генерацию токенов и создает избыточные вычислительные издержки. Отраслевой стандарт долгое время опирался на архитектуру ReAct, предложенную Яо и соавторами в 2023 году, где рабочие траектории чередуют рассуждение на естественном языке, целевое действие во внешней среде и полученное наблюдение. Но гарантирует ли параллельный контроль обоих каналов более высокую точность выполнения задач?
Отказ от рассуждений модели-учителя
Результаты экспериментов показывают: искажение мыслей наставника практически не ухудшает результаты ученика, тогда как искажение действий приводит к существенной деградации метрик на моделях любых масштабов. Более того, ученик, обученный на полных траекториях учителя, может пойти по ошибочной логической цепочке и провалить задачу, в то время как модель, ориентированная исключительно на действия, решает ее успешно.
«На популярных бенчмарках для агентов при любых масштабах моделей изменение или удаление рассуждений практически не влияет на производительность модели-ученика».
В вопросе из бенчмарка HotpotQA о годе основания франшизы, за которую выступал бейсболист Маркус Уэйн Гарланд, ученик, обученный на мыслях и действиях, пришел к выводу, что команда Baltimore Orioles была создана в 1903 году, и выдал неверный ответ. В то же время модель, обученная строго на действиях, вообще не генерировала токены рассуждений и вернула корректный 1901 год.
Когда контроль рассуждений все еще необходим
Контроль за цепочками мыслей остается критически важным в специфическом рабочем сценарии: на бенчмарках количественных рассуждений, где информация из логического блока не раскрывается или раскрывается лишь частично в самом шаге действия во время обучения. В этих условиях отказ от мыслей учителя стабильно снижает точность ученика, поскольку само действие не отражает скрытые математические вычисления.
«Наш главный вывод заключается в том, что важность контроля рассуждений зависит от формата представления действий: в частности, от того, раскрыта ли информация из мысли в самом действии».
Чтобы подтвердить эту механику, исследователи увеличили объем информации из рассуждений, передаваемой напрямую в шаг действия, не меняя базовые вычисления. Модели-ученики мгновенно стали менее зависимы от контроля текстовых мыслей. Когда формат действия уже содержит необходимые операционные данные, промежуточные цепочки рассуждений можно исключить практически без потерь для итоговых результатов.
Инженерные пайплайны, по умолчанию использующие дистилляцию полных траекторий, тратят бюджет контекста на шаги логики, не приносящие предельной точности. Разделение контроля действий и избыточных токенов рассуждений позволяет командам настраивать архитектуру инференса с учетом того, отражают ли действия агента его намерения.
В чём смысл
Зачем заставлять автономных агентов расписывать каждый шаг мысли на естественном языке, если это только раздувает счета за облачный инференс? Эксперименты LG AI Research и Университета штата Северная Каролина наглядно подтверждают: при дистилляции моделей искажение действий наставника мгновенно ломает результаты ученика, тогда как искажение мыслей почти никак не влияет на точность. Перенос скрытых вычислений прямо в параметры шага действия позволяет полностью избавиться от холостой генерации текстовых цепочек рассуждений. Отказ от текстового потока мыслей в пользу обучения чистым действиям срезает расходы на генерацию токенов без потерь в качестве работы компактных моделей.
Источник: arXiv cs.AI