Google и Amazon выпускают инструменты для PyTorch: удар по позициям NVIDIA
PyTorch изначально был разработан компанией Meta* в 2016 году. В 2022 году Meta передала PyTorch в ведение Linux Foundation — некоммерческой организации, которая управляет крупными проектами с открытым исходным кодом. В настоящее время PyTorch лежит в основе примерно 85% приложений на базе искусственного интеллекта. Во вторник Google объявила, что TorchTPU, ее долгожданная интеграция для PyTorch, теперь доступна в качестве проекта с открытым исходным кодом.
С этим релизом Google присоединяется к Amazon в прямой попытке разрушить доминирование NVIDIA в стеке оборудования для искусственного интеллекта, где подавляющее большинство рабочих нагрузок по умолчанию выполняется на графических процессорах NVIDIA. В понедельник Amazon предприняла аналогичный шаг, запустив TorchNeuron. Этот фреймворк позволяет переносить приложения на базе искусственного интеллекта непосредственно на фирменные чипы Trainium от Amazon и инфраструктуру AWS без необходимости переписывания базовой кодовой базы.
Amazon передает в основной проект PyTorch код, который отделяет различные функции от чипов NVIDIA.
Amazon напрямую вносит код в основной проект PyTorch, чтобы отделить ключевые функции от архитектуры NVIDIA, делая фреймворк аппаратно независимым по умолчанию. По оценкам рыночных аналитиков, этот планомерный нажим призван подорвать программную привязку к экосистеме, которая исторически защищала высокую маржинальность оборудования NVIDIA.
Инфраструктурные альтернативы
Интеграция TorchTPU от Google позволяет запускать приложения искусственного интеллекта непосредственно на тензорных процессорах (TPU) Google. Это значительно снижает сложность миграции существующих рабочих нагрузок PyTorch на TPU и Google Cloud, позволяя командам разработчиков осуществлять переключение с помощью простых изменений конфигурации вместо ручного переписывания.
Google сотрудничала напрямую с Meta, Hugging Face, Inferact, RadixArk и другими игроками экосистемы для обеспечения паритета функций и совместимости библиотек для TorchTPU. Кроме того, поисковый гигант представил специализированный набор TPU-агентов для автоматизации миграции и устранения ошибок, а также обновление своего инструмента LiteRT для оптимизации развертывания приложений PyTorch на периферийных устройствах.
Маловероятно, что разработчики массово откажутся от оборудования NVIDIA в одночасье просто потому, что альтернативные маршруты для чипов наконец стали работоспособными. Тем не менее, скоординированные маневры со стороны Amazon и Google знаменуют собой серьезное наступление на инфраструктурную монополию NVIDIA. Для корпоративных инженерных команд это требует немедленного аудита инфраструктурных зависимостей для оценки затрат на миграцию и расчета потенциальной экономии средств при отказе от проприетарных стеков графических процессоров.
Источник: TechCrunch