← Новости

Миграция на Managed Deep Agents — экономия на запросах к ИИ достигала 94%

Миграция на Managed Deep Agents — экономия на запросах к ИИ достигала 94%
LangChain Blog

Content Studio превратилась из генератора некачественных черновиков в ключевой инструмент go-to-market для LangChain после четырехмесячного цикла итераций, сосредоточенного на корпоративных ограничениях бренда. По словам команды разработчиков, они потратили четыре месяца на обучение агента своим специфическим эстетическим предпочтениям путем публичного исправления его ошибок внутри компании. Ранние итерации выдавали стандартные генеративные артефакты, демонстрируя, что, хотя базовая модель отлично справлялась с написанием кода, ей не хватало необходимого контекста бренда.

Автоматизация рутинных задач по дизайну с помощью пользовательских агентных конвейеров снижает давление на штат, но требует непрерывной настройки контекста. Агент был полностью создан собственными силами поверх Managed Deep Agents силами GTM Engineering в тесном сотрудничестве с командой дизайнеров. Продукт генерирует видео, графику для социальных сетей, реконструированные изображения пользовательских интерфейсов и презентации из одной подсказки внутри Slack.

Инфраструктура песочницы и операционные расходы

Техническая реализация опирается на изолированные среды и многопользовательский интерфейс, предназначенный для обработки многочасовых асинхронных задач. Как поясняют создатели системы, Managed Deep Agents предоставляет контролируемую песочницу LangSmith Sandbox, интеграцию со Slack, управляемые инструменты, ограниченную память агента и планирование запусков. Каждый созданный актив пишется на коде, что позволяет командам проверять рендеры и управлять процессами напрямую в Slack, где любой участник команды может вмешаться во время долго выполняющихся фоновых задач.

Вкус проистекает из контекста. Модели уже пишут хороший код, но им нужны принципы ваших дизайнеров, средства защиты от мусора, генерируемого ИИ, и обоснование обратной связи, чтобы создавать работы, похожие на ваши.

Экономика запуска агента демонстрирует резкое падение накладных расходов на инфраструктуру. Медианный запрос теперь обходится примерно в 50 центов расходов на модель по сравнению примерно с 8 долларами в середине сентября, в то время как проприетарная кодовая база разработчиков сократилась примерно на 80% после миграции на Managed Deep Agents.

Метрики масштабирования и трансформация процессов

Практическое развертывание масштабировалось на широкий спектр внутренних и внешних рабочих процессов компании. Content Studio выпустила более 3 000 активов в масштабах всей компании, включая более 80 презентаций, одна из которых легла в основу самого просматриваемого органического видео LangChain на YouTube.

Три из четырех запросов поступают за пределами маркетингового отдела, а 75% пользователей являются постоянными еженедельными посетителями. Как отмечают разработчики, жестко закодированные правила, призванные исправить слабые места фундаментальных моделей, неизбежно деградируют по мере развития базовых архитектур, требуя регулярной чистки кодовой базы по мере расширения возможностей ИИ.

Что не сходится

За счет чего автономный конвейер для контента перестает выдавать стандартный визуальный мусор? Четыре месяца публичной калибровки внутри команды показали, что успех агентных систем держится не на возможностях базовой модели писать код, а на передаче жестких контекстных рамок компании. При этом постоянное развитие базовых архитектур заставляет регулярно вычищать собственные костыли из кодовой базы, чтобы система не деградировала со временем.

Источник: LangChain Blog