← Новости

Инфраструктурный тупик: экономия на API обернулась утечками корпоративных данных

Инфраструктурный тупик: экономия на API обернулась утечками корпоративных данных
Иллюстрация: The Value Engineering, ИИ

Менее 1% рабочих пространств Notion столкнулись с утечкой расшифровок AI-чатов, согласно заявлению разработчика корпоративного ПО. Инцидент произошел на стороне Fireworks AI — четырехлетнего инфраструктурного стартапа из области залива Сан-Франциско, специализирующегося на хостинге и дообучении моделей с открытыми весами. Вскоре после обнаружения инцидента Notion разорвала контракт с поставщиком. Эта единственная метрика вскрывает хрупкую экономику корпоративного ухода от централизованных AI-лабораторий: обещание удешевления инференса и полного контроля над данными разбивается об операционную уязвимость сторонней инфраструктуры.

Anthropic провела крупнейшее первичное публичное размещение акций в истории, продемонстрировав колоссальный аппетит публичного рынка к разработчикам передовых моделей. Тем не менее предприятия активно ищут архитектурные решения, позволяющие обойти дорогостоящие API флагманских систем. Специализированные платформы дообучают скачиваемые открытые модели на закрытых корпоративных данных, рассчитывая обеспечить более быстрое исполнение при меньших операционных затратах, чем у проприетарных моделей под управлением Anthropic и OpenAI. Обучая компактные модели под узкие корпоративные задачи, бизнес пытается защитить свою маржинальность от растущих счетов за токены и одновременно создать закрытые конкурентные преимущества, которые невозможно скопировать.

Экономика кастомных весов

Главный финансовый драйвер дообучения открытых моделей — лавинообразный рост расходов на API передовых лабораторий. Как пояснил сооснователь Fireworks AI Чэньюй Чжао на конференции Slush, ранние тесты на премиальных моделях несут минимальный финансовый риск до момента подтверждения продуктово-рыночного соответствия. Однако когда корпоративные системы масштабируются до более чем 10 000 или 100 000 активных пользователей, ежемесячные затраты на токены быстро достигают диапазона от $10 000 до $100 000, вынуждая финансовые и инженерные отделы искать альтернативы. Чжао, который десять лет проработал в Google и руководил инженерной командой из 50 человек в Google Cloud Vertex AI перед запуском Fireworks AI вместе с Линь Цяо и Димой Джульгаковым, утверждает, что закрытые флагманские модели избыточны для стандартных корпоративных сценариев.

«Мы используем открытые модели, которые зачастую компактнее, дешевле и быстрее, и позволяем компаниям насыщать их собственными данными для специализации. Таким образом, вы владеете своим ИИ, а не остаетесь в заложниках у гигантских технологических конгломератов».

По оценкам Чжао, открытые модели отстают от флагманских лабораторий максимум на шесть месяцев, а на практике этот разрыв ближе к трем месяцам. Помимо удельной экономики инференса, ключевым мотивом миграции остается сохранение конфиденциальности данных. В июле генеральный директор Microsoft Сатья Наделла публично выразил обеспокоенность тем, что ведущие AI-лаборатории поглощают внутренние ноу-хау клиентов через постоянный поток промптов. Для компаний со специфическими отраслевыми процессами передача ценных запросов сторонним поставщикам создает структурный риск утечки операционной экспертизы в пользу внешней олигополии.

Бреши в безопасности инфраструктуры

Способна ли независимая инфраструктура действительно гарантировать заявленную приватность данных?

Недавние сбои показывают, что развертывание систем на независимой базе открытых весов сопряжено с серьезными рисками для корпоративной безопасности. Этой осенью Fireworks AI раскрыла информацию о двух инцидентах. В первом случае злоумышленники получили доступ к API-ключам и токенам, хранившимся в виде секретов для ограниченного числа учетных записей. Во втором — хакеры взломали облачного провайдера стартапа, проникли в среду разработки и получили доступ к базам данных клиентов и платежным записям. Представители Uber заявили, что злоумышленники похитили имена, адреса, даты рождения и номера водительских удостоверений примерно 150 000 водителей через стороннего подрядчика, которого издание TechCrunch идентифицировало как Fireworks AI.

Системные операционные провалы такого рода усложняют расчеты корпоративных стратегов. Передовые модели остаются незаменимыми для комплексного планирования и сложного логического вывода, даже если рутинные операции передаются специализированным компактным моделям. Однако эксплуатация гибридных маршрутов — отправка сложных задач в передовые API с одновременным делегированием дискретных запросов открытой инфраструктуре — требует уровня надежности вендоров, который современные стартапы пока обеспечить не в состоянии.

Консолидация капитала и корпоративная ловушка

Несмотря на раскрытые уязвимости, венчурный капитал продолжает оценивать независимую инфраструктуру по агрессивным мультипликаторам. Летом инвесторы оценили Fireworks AI в $17,5 млрд, и сейчас стартап ведет предварительные переговоры о привлечении очередного раунда. Конкуренты в лице Together AI и Baseten за последние месяцы также закрыли масштабные инвестиционные сделки. Технологический сектор рассматривает развертывание кастомных моделей как базовый инфраструктурный слой: Palo Alto Networks договорилась о поглощении Applied Compute за $4,5 млрд акциями. Стартап Applied Compute, основанный всего год назад бывшими исследователями OpenAI, обучает и запускает кастомные модели на закрытых данных заказчиков, полностью копируя бизнес-модель Fireworks AI.

Корпорации уходили к независимым хостинг-провайдерам, стремясь защитить накопленные знания от поглощения бигтехом и обуздать расходы на токены. Теперь игроки сферы кибербезопасности и консолидаторы инфраструктуры платят миллиарды за контроль над этим сегментом, пока сами стартапы допускают утечки клиентской переписки и конфиденциальных баз данных из сред разработки.

Что изменилось

Раньше бизнес безоговорочно платил передовым лабораториям за надежный забор вокруг своих данных, а теперь попытка срезать косты на открытых весах сама пробила брешь в защите. Расчет на собственное дообучение разбился о банальную инфраструктурную уязвимость: хостинг открытых моделей перенес корпоративные секреты из закрытого контура флагманов в руки внешнего подрядчика с сырой безопасностью. Notion моментально выставила поставщика за дверь, защищая репутацию, но утечка чатов показала истинную цену дешевого инференса. Сколько еще корпоративных секретов утечет через независимый хостинг, пока экономия на токенах Anthropic и OpenAI не покажется бизнесу слишком дорогой?

Источник: TechCrunch