Nvidia инвестирует в оптимизацию GPU-нагрузок через софт Simplismart
Nvidia поддержала индийский стартап Simplismart в раунде финансирования на сумму $14 млн, сделав ставку на программное обеспечение, которое помогает компаниям запускать модели искусственного интеллекта более эффективно и с меньшим количеством графических процессоров. По мере того как бум искусственного интеллекта создает нагрузку на вычислительные мощности, компании сталкиваются с крупными расходами на аппаратное обеспечение для питания приложений, в то время как надежная и экономичная эксплуатация этих моделей в масштабе остается серьезной проблемой. Различные рабочие нагрузки требуют жестких компромиссов между скоростью, стоимостью и производительностью, что влечет за собой сложную настройку для развертывания моделей в соответствии с требованиями бизнеса. Simplismart привлекла раунд Серии B в размере $14 млн, оценив четырехлетний стартап примерно в $100 млн. Лид-инвестором в раунде Серии B выступила Dallas Venture Capital при участии Nvidia, Accel, Shastra VC и Micromax.
Рыночные реальности через финансовое давление объясняют, почему создатели основного оборудования для искусственного интеллекта финансируют софт, позволяющий компаниям тратить меньше денег на покупку этого самого оборудования. Компании сжигают капитальные затраты на дорогие графические процессоры для развертывания моделей, однако экономика инференса в масштабе становится неустойчивой без глубокой оптимизации программного обеспечения.
Программная инфраструктура и оптимизация затрат
ПО от Simplismart располагается между моделями искусственного интеллекта и вычислительной инфраструктурой, на которой они работают, регулируя развертывание и управление моделями под запросы клиентов. Оно оптимизирует такие параметры, как скорость ответа, объем обрабатываемых запросов и потребление вычислительной мощности, помогая компаниям извлекать больше ценности из имеющегося стека GPU. Базирующийся в Бенгалуру стартап предлагает компаниям способ развертывания и запуска моделей искусственного интеллекта через собственную платформу либо в рамках их текущей облачной и локальной инфраструктуры, а также предоставляет инструменты для дообучения моделей, автоматического масштабирования вычислительных ресурсов и мониторинга производительности. Облачные провайдеры также используют эту технологию для создания и эксплуатации собственных сервисов инференса искусственного интеллекта на базе инфраструктуры GPU.
Simplismart заявляет, что ее софт помог платформе генерации видео с использованием искусственного интеллекта InVideo снизить затраты на обслуживание GPU на 56%. Стартап также сотрудничает с видеокомпаниями HeyGen и Higgsfield, а также с корпоративным стартапом в области искусственного интеллекта Ema, в то время как индийский облачный провайдер Yotta задействует эту технологию для работы бессерверного сервиса инференса искусственного интеллекта на своей платформе Shakti Studio. Годовой регулярный доход Simplismart вырос в 14 раз за последние шесть месяцев до суммы, исчисляемой восьмизначным числом. Более половины выручки Simplismart приходится на США, несмотря на то что у стартапа больше клиентов в Индии.
Как пояснил в интервью Амританшу Джайн, сооснователь и генеральный директор Simplismart, на практике никому не нужны исключительно самые быстрые или самые дешевые варианты инференса. Вместо этого компаниям требуется запускать модели искусственного интеллекта на скоростях и по ценам, которые имеют экономический смысл для их конкретных приложений. Стартап выигрывает там, где требования к соглашениям об уровне обслуживания и совокупной стоимости владения оказываются наиболее жесткими. Джайн отметил, что в отличие от конкурентов, предлагающих фиксированные настройки для ускорения или удешевления инференса, Simplismart стремится найти баланс под индивидуальные потребности каждого клиента.
Рыночная конкуренция и стратегическая интеграция
Nvidia сотрудничает со Simplismart в области технических интеграций, в том числе в рамках своего ПО для инференса Dynamo. Основанный в 2022 году бывшим инженером Oracle Амританшу Джайном и бывшим инженером Google Деваншем Гхатаком, стартап в настоящее время насчитывает 58 сотрудников, по данным Амританшу Джайна. Полученные средства Simplismart планирует направить на расширение присутствия в США, масштабирование команды и дальнейшие инвестиции в разработку ПО для инференса.
Стартап обслуживает клиентов на высококонкурентном рынке программного обеспечения для инференса, соперничая с продуктами самой Nvidia, а также с решениями крупных облачных провайдеров и гиперскейлеров, включая Amazon Web Services, Google Cloud и Microsoft Azure. Растущее число стартапов разрабатывает инструменты для ускорения и удешевления работы моделей искусственного интеллекта на фоне повышенного спроса на приложения и необходимости более эффективного применения дорогостоящих ресурсов GPU. Данная инвестиция выглядит парадоксом, поскольку Nvidia, доминирующий поставщик чипов для искусственного интеллекта, поддерживает софт, который позволяет компаниям выполнять часть рабочей нагрузки с меньшим количеством графических процессоров.
Амританшу Джайн аргументировал тем, что повышение эффективности инференса в конечном счете пойдет на пользу Nvidia, так как сделает ее аппаратное обеспечение более привлекательным для клиентов и стимулирует более широкое внедрение приложений искусственного интеллекта. Вместо аппаратной эффективности, которая мгновенно решила бы проблему дефицита мощностей у предприятий, рынок сформировал программный уровень, заставляющий покупателей тщательно просчитывать каждый отдельный цикл инференса, пока поставки оборудования продолжаются рекордными темпами.
Анализ редакции
Зачем главному продавцу кремния вкладывать деньги в инструменты, которые позволяют клиентам покупать меньше чипов? В раунде на $14 млн для индийского стартапа Simplismart компания финансирует софт, выжимающий максимум производительности из меньшего парка ускорителей. Ранее мы писали, как Nvidia вложилась в раунд Recursive Superintelligence на $500 млн вместе с GV, а в конце августа мы рассказывали о сделке, где чипмейкер отдал $6 млрд за лицензию на платформу Poolside и нанял 109 ее инженеров. Инвестиция в оптимизацию вычислений отвечает на тот самый вопрос о расходах: гигант страхует спрос софтом, чтобы непомерные траты на кремний не затормозили внедрение нейросетей у заказчиков.
Мы писали об этом: 19 апреля, 21 августа
Источник: TechCrunch