ByteDance сокращает обучение ИИ-агентов до трех шагов ради снижения затрат

Исследователи из ByteDance и американских университетов доказали, что сложные многоэтапные пайплайны обучения ИИ-моделей во многом избыточны. Их выводы ставят под сомнение текущую инженерную практику, в рамках которой разработчики постоянно раздувают вычислительные бюджеты за счет нагромождения последовательных фаз обучения.
От современных ИИ-агентов ждут автономной работы: поиска информации в сети, исполнения программного кода и решения многосоставных задач. Однако, как показывает исследование, методы обучения этим навыкам стали чрезмерно перегруженными. Столь многослойная архитектура размывает отдачу от вычислений: теперь крайне сложно выделить, какая именно фаза обучения обеспечивает прирост производительности, в то время как затраты на воспроизведение результатов стремительно растут.
Сократив весь процесс всего до трех базовых этапов, исследовательская группа успешно создала конкурентоспособную открытую модель. Этот результат открывает путь к более экономному подходу для инженерных команд, стремящихся ограничить траты на инфраструктуру.
Источник: The Decoder