Выпуск DeepSeek DeepInfer: как открытый инференс давит на маржу API провайдеров
DeepSeek открыла исходный код DeepInfer под лицензией Apache 2.0, предоставив свою проприетарную инфраструктуру обслуживания для локального развертывания. Согласно отчету The Decoder, DeepInfer выступает в качестве базового уровня выполнения для модели V4.1-Flash, управляя запросами инференса в больших масштабах.
Фреймворк напрямую опирается на оптимизации vLLM, включая пользовательские вычислительные ядра, распределенную межчиповую обработку и ускоренные процедуры генерации текста. В DeepSeek подтвердили, что будущие итерации моделей будут поставляться с той же инфраструктурой обслуживания.
Репликация обработки токенов API
Параллельно с движком DeepSeek выпустила утилиту deepseek-recipe, предназначенную для точного воспроизведения поведения токенизации официального API DeepSeek на частной инфраструктуре.
Как компания заявила на X, заявленная цель заключается в снижении вычислительных затрат, сокращении энергопотребления и повышении доступности AI-инфраструктуры.
Этот выпуск создает прямое ценовое давление на западных поставщиков API, таких как OpenAI и Anthropic, заставляя корпоративных покупателей сопоставлять маржинальность управляемых сервисов с совокупной стоимостью локальной эксплуатации.
Риски для западных поставщиков
Если западные AI-компании не достигнут целевых показателей роста из-за сжатия маржи и более дешевых альтернативных вариантов инфраструктуры, такой результат создаст очевидный риск распределения капитала для корпоративных покупателей.
Корпоративные клиенты теперь сталкиваются с жестким стратегическим выбором: переплачивать за премиальные цены проприетарных экосистем или переносить рабочие нагрузки на оптимизированные локальные стеки, построенные на открытых архитектурах.
Источник: The Decoder