Google DeepMind снизил стоимость инференса запуском Gemini Decisions API
Доминирующий поисковый оператор индустрии запустил интерфейс, созданный исключительно для задач быстрой оценки данных, нанеся прямой удар по накладным расходам стандартных генеративных запросов. Google DeepMind представляет Gemini Decisions API — специализированный интерфейс, спроектированный для решения закрытых задач, таких как бинарные ответы «да/нет», вопросы с несколькими вариантами ответов и балльные шкалы оценок.
Вместо того чтобы вынуждать приложения оплачивать генерацию полного объема текстового ответа, базовая архитектура Gemini Decision 1 напрямую оценивает кандидатов. Модель обрабатывает до 1000 независимых вопросов за один проход по тексту, изображениям, аудио, видео и PDF-файлам, возвращая вероятности вместе с оценками достоверности с задержкой от 150 до 250 миллисекунд.
Внутренние нагрузки и коммерческая дистрибуция
Google сообщает, что архитектура уже интегрирована в несколько внутренних операционных пайплайнов. Компания заявляет, что использует API для динамической маршрутизации моделей внутри Gemini Notebook, прототипирования дизайна в Stitch и проверок безопасности в поисковой выдаче Google Search.
Стоимость API составляет $0,10 за миллион входных токенов при полном отсутствии платы за выходные токены.
При таком тарифе, по расчетам Google, обработка обходится примерно в пять раз дешевле, чем при использовании Gemini 3.5 Flash-Lite. Доступ открыт немедленно через Google AI Studio, а интеграции со сторонними экосистемами развертываются на платформах OpenRouter, LangChain, Vercel и других.
Инфраструктурные реалии конкуренции
Данная ценовая модель появилась на фоне быстрого смещения фокуса в секторе машинного обучения: индустрия уходит от универсальной потоковой передачи текста к узкоспециализированным компонентам маршрутизации. Движение на рынке началось после того, как стартап Jev представил собственную версию, спровоцировав немедленные ответные релизы со стороны OpenAI, Cloudflare и Microsoft, которые вышли с аналогичными предложениями.
Для корпоративных архитектур, завязанных на непрерывную категоризацию, ключевой риск смещается в сторону зависимости от одного поставщика (vendor lock-in), поскольку базовые провайдеры встраивают слои классификации напрямую в свои консоли для разработчиков. Команды, выстраивающие инфраструктуру вокруг этих узкоспециализированных эндпоинтов принятия решений, привязывают свои топологии маршрутизации к закрытым метрикам оценки конкретного вендора, разменивая сиюминутное сокращение операционных расходов на долгосрочную потерю переносимости систем.
Как это выглядит рядом
Рыночная гонка за дешевую маршрутизацию развернулась после запуска стартапа Jev, на который Google, OpenAI, Microsoft и Cloudflare ответили собственными специализированными сервисами. Инфраструктурная экономия на проверках оборачивается тем, что логика пайплайнов намертво привязывается к закрытым метрикам единственной платформы.
Источник: The Decoder