Meta* Andromeda обрабатывает миллиарды рекламных креативов в секунду
Бюджеты на генерацию контента упираются в жесткие инфраструктурные ограничения, когда объем доступных рекламных креативов начинает опережать пропускную способность серверов. То, как совместное проектирование аппаратного обеспечения и моделей снижает затраты на инференс при нагрузках масштаба миллиардов запросов, остается центральным вопросом для инженерных команд. В центре этой гонки находится Meta* Andromeda, движок персонального ретривала рекламы, разработанный для обработки массивных пулов кандидатов. Исторически глубокое ранжирование оставалось слишком дорогим для применения на этапе предварительного отбора рекламы из-за колоссальных вычислительных накладных расходов.
Инструменты генеративного искусственного интеллекта помогли рекламодателям быстро создать сотни миллионов новых объявлений, расширив пул кандидатов до беспрецедентных масштабов. В продакшене система оценивает каждое подходящее объявление с качеством, близким к моделям ранжирования, и выдает топ-кандидатов со скоростью более одного миллиарда рекламных объявлений в секунду.
Инфраструктурный прорыв через ко-дизайн АРХИТЕКТУРА META* ANDROMEDA
Последняя итерация Meta Andromeda представляет три синергетических архитектурных новшества, которые привносят смесь экспертов (MoE), вдохновленную большими языковыми моделями, в этап ретривала.
Преодоление этих ограничений потребовало перехода к принципиально новым архитектурным схемам, объединяющим большие языковые модели и смесь экспертов. Модели ретривала образца 2024 года полагались на глубокие нейронные сети, оптимизированные под графические процессоры, и обрабатывали десятки миллионов рекламных объявлений в секунду на одну карту. Новые бизнес-потребности требуют оценки миллиардов единиц контента на один чип, что неизбежно создает узкие места в полосе пропускания памяти. Передача терабайтов промежуточных тензоров через иерархию памяти и маршрутизация данных между центральными процессорами и удаленными ускорителями перегружают сетевые интерконнекты.
Совместное проектирование железа и моделей напрямую решает эту проблему за счет объединения фрагментированных рабочих нагрузок в единый пайплайн на GPU, работающий на аппаратных пределы. Масштабирование ретривала до миллиардов объявлений создает критические узкие места в пропускной способности памяти и насыщает сетевые каналы между CPU и удаленными аппаратными ускорителями, заставляя инженеров перепроектировать иерархию памяти.
Финансовая отдача и конверсионный разрыв
Финансовые показатели рекламной платформы и рост вовлеченности аудитории напрямую отражают эти инженерные изменения. Начиная с 2025 года, развертывание обновленной архитектуры обеспечило прирост конверсий на Facebook† на 2.4% за счет точного отбора креативов из расширенного пула. Предварительный отбор сужает массив рекламы до небольшой группы сильных кандидатов за миллисекунды, позволяя последующим дорогим этапам ранжирования подробно оценивать выживших претендентов.
Обещанный технологический прорыв сталкивается с физическими ограничениями кремния и необходимостью постоянного наращивания капитальных затрат на суперчипы. Алгоритмическая эффективность маскирует неизбежное исчерпание потенциала экстенсивного роста инфраструктуры, где дальнейшее расширение рекламного пула потребует новых аппаратных революций.
Что изменилось
Чтобы не захлебнуться в терабайтах промежуточных данных между процессорами и ускорителями, инженерам пришлось буквально переизобретать архитектуру памяти под смесь экспертов на GPU. По данным компании, пропускная способность Andromeda превысила миллиард объявлений в секунду, однако эта колоссальная аппаратная стройка дала платформе лишь 2,4% прироста конверсий на Facebook с 2025 года. Инженерный подвиг Meta лишь подтверждает жесткую реальность: взрывной рост генеративного контента сжигает кремний быстрее, чем приносит реальную отдачу рекламодателям.
Источник: Engineering at Meta