Meta* меняет монолитные LLM на четырнадцать агентов удар по затратам на токены
Meta* внедрила 1300-строчный оркестратор, который распределяет более двадцати рабочих процессов между четырьмя специализированными ИИ-агентами, не выполняя при этом никакой предметной работы самостоятельно. Этот архитектурный выбор решает фундаментальную проблему корпоративных внедрений ИИ: монолитные модели, которые пытаются удерживать всю бизнес-логику в едином контекстном окне, неизбежно рушатся под собственным весом. Когда Meta впервые задействовала ИИ-агентов для автоматизации интеграции столбцов данных в своих системах рекомендаций — процесс, охватывающий три репозитория кода, три языка программирования и до шести стадий конвейера, которые должны оставаться синхронизированными, — команда инженеров попала в общеотраслевую ловушку создания единого умного агента, якобы знавшего все.
В контролируемых демонстрациях монолитная модель работала сносно, но производственные среды выявили серьезные операционные риски. Единственный агент начал галлюцинировать, перекрестно смешивать концепции, применять соглашения об именовании полей из одной подсистемы к другой и использовать паттерны генерации кода, предназначенные для одного источника данных, при заполнении данных из совершенно другого. Добавление большего контекста и расширенных библиотек промптов лишь ухудшало производительность вместо ее улучшения, что прямо противоречит преобладающему на рынке мнению, будто увеличенные контекстные окна решают проблемы с рассуждениями.
Экономика загрязнения контекста и мультиагентная эффективность
Финансовые затраты на содержание раздутых моделей общего назначения становятся очевидными при анализе потребления токенов и уровня ошибок в многорепозиторных рабочих процессах. Препринт из отдела искусственного интеллекта и здоровья человека Вайндрайха в Mount Sinai показал, что оркестрированные мультиагентные системы удерживали точность на уровне 65,3% при пакетах из 80 задач, тогда как одиночные агенты падали до 16,6%, одновременно сокращая расход токенов до 65 раз. Meta оценила альтернативный подход с использованием одного агента, чей показатель успешности колебался от 70% до 80% при ручной настройке промптов для каждой задачи, требуя от инженера создания пользовательского системного промпта для каждого конкретного задания. Без такого ручного сопровождения показатели успешности падали до 10-20%.
Препринт из отдела искусственного интеллекта и здоровья человека Вайндрайха в Mount Sinai показал, что оркестрированные мультиагентные системы удерживали точность на уровне 65,3% при пакетах из 80 задач, тогда как одиночные агенты падали до 16,6%, одновременно сокращая расход токенов до 65 раз.
Эта трудоемкая инженерия промптов обнажает лежащий в основе сбой единичной экономики универсальных ИИ-агентов. Предприятия, тратящие ценные инженерные часы на заказные промпты для моделей общего назначения, просто субсидируют архитектурное ограничение за счет фонда оплаты труда. Meta устранила эту операционную брешь, разделив систему на детерминированный маршрутизатор и четырнадцать специализированных субагентов, каждый из которых поддерживает строго изолированный контекст.
Детерминированные протоколы против рассуждений LLM в продакшене
Операционная стабильность обновленной архитектуры Meta опирается на строгое ограничение мест, где большим языковым моделям разрешено принимать решения. Тонкий оркестратор Meta следует фиксированному семишаговому протоколу для каждого запроса, где шаги с первого по пятый и седьмой являются полностью детерминированными, в то время как только шестой шаг включает рассуждения большой языковой модели внутри изолированного субагента. Шаблоны рабочих процессов действуют как детерминированные машины состояний, которые ограничивают пространство принятия решений модели, позволяя командам повторно использовать один и тот же пул из четырнадцати субагентов в совершенно разных операционных конвейерах, таких как подключение схем, обработка событий и миграция конвейеров.
Индустрия годами преследовала дорогую иллюзию о том, что одна достаточно крупная модель способна заменить целый отдел, чтобы в итоге обнаружить: добавление новых знаний агенту общего назначения гарантирует лишь более дорогостоящие галлюцинации. Масштабирование корпоративной автоматизации требует сокращения площади, на которой вероятностные модели могут допускать ошибки, а не бесконечного расширения контекстных окон.
Источник: Engineering at Meta