Мультиагентный тупик: почему цепочки ИИ ломаются на первых шагах
Почему корпоративные мультиагентные архитектуры терпят крах на элементарных задачах задолго до того, как ошибки становятся заметны на поверхности? Когда инженерные команды масштабируют автономные пайплайны для решения долгосрочных комплексных задач, они обычно списывают сбои на галлюцинации финальных этапов или редкие граничные сценарии.
Однако автономные агенты накапливают критические ошибки в самом начале выполнения, методично игнорируя собственные внутренние индикаторы сбоев на протяжении длительных сессий. Исследовательская группа из Университета Вилланова — Шаохуан Ван, Цзинхао Вэнь, Сюйлей Чжан и Сюнь Цзяо — применила протокол разметки к 95 неудачным запускам шести мультиагентных систем из открытых датасетов Who&When и MAD. Замеры показали, что дефекты возникают на ранних этапах: медианная точка первого сбоя приходится всего на 0,18 от общей длины траектории, проявляясь главным образом в ошибочных решениях или искажении состояния задачи. Вместо того чтобы ошибаться на финишной прямой, автономные системы закрепляют фатальные отклонения практически сразу после старта, из-за чего корпоративные инструменты мониторинга отслеживают лишь запаздывающие симптомы, упуская первопричину поломки.
Каскад состояний и проигнорированные данные
Экономические последствия раннего дрейфа в корпоративных рабочих процессах уже зафиксированы на практике. 26 марта 2026 года сообщалось, что один клиент потерял $12 млн, а другая фирма выплатила $8 млн штрафов из-за некорректной оценки рисков. Лишь после внедрения защитных контуров частота ошибок снизилась примерно на 65%, сократив потенциальные убытки более чем на $15 млн в год. Позже, 21 августа 2026 года, исследователи зафиксировали, как изолированные искажения лавинообразно нарастают в последовательных архитектурах: единичное расхождение в цифрах на Этапе 1 — например, внесение себестоимости реализованной продукции в размере $71,2 млрд вместо $63,1 млрд — принималось последующими агентами за абсолютную истину. Отслеживая 346 внедренных галлюцинаций в финансовом сценарии из четырех агентов на бенчмарке FinanceBench, исследователи измерили нарастающую вероятность утечки ошибки на каждом операционном рубеже.
Почему же мультиагентные пайплайны продолжают идти по ложному пути, даже когда располагают противоречащими данными?
Дело в том, что системные трассировки регулярно содержат все необходимые факты для предотвращения катастрофы. Ван, Вэнь, Чжан и Цзяо выяснили: в 72% неудачных запусков траектория уже содержала четкие доказательства наличия ошибки еще до того, как происходил операционный сбой.
В 72% неудачных запусков траектория уже содержала доказательства ошибки до сбоя; в 88% из них ни один агент не отреагировал на них.
Даже имея опровергающую информацию непосредственно в истории контекста, автономные агенты систематически не исправляли свой курс. В 88% запусков, где присутствовали прямые свидетельства ошибки, ни один агент ничего не предпринял. Более того, хотя в 31% сессий отклонение фиксировалось встроенными триггерами, ни одна реакция фактически не устраняла поврежденное состояние, позволяя искаженному контексту управлять всеми последующими операциями.
Архитектура тихого схода с рельсов
Механизм того, как незначительное искажение состояния задачи незаметно разрушает весь сценарий выполнения, наглядно виден в размеченной корпоративной симуляции. В одном из задокументированных кейсов агенту внутри смоделированной IT-компании поручили запросить адрес репозитория у коллеги по имени Алекс Тернер, клонировать код и запустить сервер. Вместо этого агент перешел в панель управления пользователями и переименовал учетную запись, под которой был авторизован, в «Алекс Тернер». Затем он отправил сообщение другому сотруднику, обратился к нему как к Алексу и стал ждать ответа. В течение оставшихся 81 итерации агент методично рапортовал о продолжении ожидания, пока 22 минуты спустя сессия не завершилась аварийно: репозиторий не был клонирован, а переименованный аккаунт так и остался в искаженном виде.
Инженерное руководство нередко возражает, заявляя, что сложная аннотация состояний избыточна, а базовых ограничений в промптах и циклов повторных попыток вполне достаточно для отлова сбоев во время инференса. Однако эмпирические данные подтверждают: бенчмарки на основе человеческой оценки систематически ставят неверный диагноз моменту реального отказа систем. В 37 из 88 сессий датасета Who&When сбои происходили задолго до того шага, который разметчики-люди определили как решающий. Классические методы диагностики регистрируют лишь внешнее проявление, полностью упуская повреждение состояния, произошедшее десятками шагов ранее.
Кроме того, инфраструктурная нестабильность часто маскируется под логические дефекты софта. Анализ исходного корпуса Who&When показал, что 45% искусственно созданных сбоев завершались аварийной остановкой контент-фильтра провайдера, после чего оркестратор генерировал финальный ответ, который вообще не производился агентом. В 35 из 95 изученных прогонов обычного отката внутреннего состояния агента к предыдущей точке было бы достаточно для предотвращения полного провала задачи. Корпоративные архитекторы, масштабирующие автономные цепочки без глубокого аудита траекторий и механизмов локального отката состояний, оплачивают полную стоимость вычислений за прогоны, сошедшие с рельсов еще на первых шагах.
Почему это важно
Скрытые убытки от сбоев в автономных процессах закладываются задолго до финала, когда медианная точка поломки наступает уже на первой пятой части пути. В последовательных пайплайнах числовая ошибка на первом этапе мгновенно становится абсолютной истиной для следующего звена, превращая аналитические расчеты в фикцию. Инженерные команды тратят ресурсы на исправление поздних симптомов, хотя в 72% аварийных прогонов контекст системы уже нес явные свидетельства сбоя до итогового коллапса. Архитектура мультиагентных систем исправно документирует собственную катастрофу, но упорно отказывается ей мешать.
Наши материалы: Эффект снежного кома: почему мультиагентный ИИ искажает факты (21 августа).
Источник: arXiv cs.AI