Память ИИ-агентов: почему избыточное логирование сжигает бюджеты на токены

Сколько вычислительных ресурсов сжигает предприятие, когда автономный агент документирует каждое микродействие вместо выполнения своей основной задачи?
Anthropic исследовала, как модели Claude сохраняют информацию во внешних файлах заметок между сессиями и извлекают её для последующих задач при неизменных весах базовой модели. Результаты показывают: сохранение сырого контекста без фильтрации приводит к административным тупикам и снижает процент успешно завершенных задач. Эффективная память агента строится на выборочной очистке малоценных данных, а не на накоплении исчерпывающих журналов активности, пожирающих емкость контекстного окна.
Издержки избыточного логирования
Когда автономные агенты фиксируют каждую операционную деталь, хранилища памяти разрастаются экспоненциально. Бизнесу приходится отвечать на вопрос: сколько токенов уходит впустую, пока агент принимает каждое промежуточное наблюдение за постоянное знание?
В тесте Anthropic на базе игры Pokémon Red более ранняя Claude Sonnet 3.7 посчитала потенциально важным абсолютно каждое событие. Примерно за 10 000 игровых шагов Claude Sonnet 3.7 сгенерировала 413 файлов в 225 папках, создавая отдельные записи для каждого боя и найденного предмета. Поскольку игровая среда непрерывно меняется, этот архив быстро превратился в устаревшие данные. Вместо продвижения к целевым метрикам агент растратил бюджет вычислений на реорганизацию иерархии папок, заработав в итоге всего один игровой значок.
Более ранняя модель Claude Sonnet 3.7 сочла потенциально важным всё подряд и примерно за 10 000 игровых шагов создала 413 файлов в 225 папках.
Для сравнения: более новая Claude Fable 5 выбрала точечный операционный след. По данным Anthropic, Claude Fable 5 ограничила память несколькими файлами, проигнорировала информацию, уже видимую на экране, и зафиксировала высокоуровневые планы, стратегии и проверенные правила, что позволило ей получить четыре значка.
Почему жесткие правила ведения документации не решили эту организационную проблему?
Жесткие ограничения нередко снижают эффективность агента вместо её повышения. На бенчмарках Anthropic директивные инструкции вроде записывай только ошибки нивелировали почти всё операционное преимущество более сильных моделей. Старым же моделям по-прежнему требовались явные параметры работы — например, обязательные промпты с требованием проверять существующие файлы перед каждой выдачей ответа.
Исправление искажений через автономный аудит
Избыточное логирование несет прямой операционный риск, если агент начинает полагаться на ошибочные внутренние заметки. В игровом тесте Anthropic Claude неверно записала географическое положение горного ориентира, трижды попала в одну и ту же ловушку на основе собственной записи и зашла в тупик. Чтобы устранить искажения в заметках, Anthropic внедрила механизм межсессионного обслуживания под названием Dreaming («Сновидения»), основанный на исследованиях Letta и UC Berkeley. Во время простоя агент анализирует транскрипты сессий, сопоставляет заметки с хронологическими записями и удаляет ошибочные данные.
В тесте Anthropic с Pokémon Red модель Claude трижды попала в одну и ту же ловушку, в итоге попыталась сдаться и провалила цель.
Помимо исправления локальных логических ошибок, Dreaming поддерживает структурированную базу корпоративных знаний. Claude обработала около 350 000 внутренних документов компании Stainless, приобретенной Anthropic, сформировав связанную базу знаний. В юридическом бенчмарке Anthropic модель Claude показала точность 87% на перекрестных запросах к документам при использовании этой структурированной вики совместно с поиском — против 73% при использовании исключительно поисковой выборки.
Anthropic объявила, что запустила Dreaming в мае в статусе исследовательского превью внутри Claude Managed Agents. Архитектура поддерживает Claude Opus 4.7 и Sonnet 4.6, обрабатывая до 100 исторических сессий для удаления дубликатов и устаревших записей.
Anthropic признает, что текущие архитектуры памяти сопряжены с ощутимыми накладными расходами. Ведение заметок во время выполнения задач отвлекает агента от непосредственных бизнес-целей, Dreaming требует дополнительных вычислительных циклов в периоды простоя, а хранилища знаний по-прежнему несут риск накопления галлюцинаций без регулярной принудительной очистки.
Где подвох
Безупречная память парадоксально парализует работу автономного ИИ-агента, тогда как сознательное отсечение деталей приносит результат: попытка сохранить каждый шаг похоронила Claude в сотнях папок, снизив отдачу всего до одного игрового значка. Вместо ожидаемой автономии бизнес получает цифрового бюрократа, который растрачивает контекстное окно на бесконечную перепроверку устаревших заметок. Окупятся ли дополнительные вычислительные мощности на ночную очистку памяти ради прироста точности до 87% на корпоративных документах?
Наши материалы: Anthropic loop engineering: новые уровни автономии Claude (17 июля).
Источник: The Decoder