Релиз модели Mistral Large 4 на триллион параметров — колоссальные затраты на железо против независимости бизнеса
Французский разработчик систем искусственного интеллекта Mistral опубликовал веса своей флагманской языковой модели с открытым исходным кодом Mistral Large 4 (ML4), насчитывающей триллион параметров. Новинка, получившая неофициальное прозвище «Le Chonk», была представлена ранее в текущем месяце на фоне усиливающейся конкуренции между создателями моделей с открытыми весами вроде Mistral и провайдерами закрытых систем, такими как OpenAI и Anthropic.
Открытие архитектуры системы с триллионом параметров меняет коммерческую калькуляцию для корпоративной инфраструктуры и государственного сектора. Как пояснил генеральный директор Mistral Артур Менш, искусственный интеллект должен служить инструментом расширения возможностей, а не доминирования. Представив Chonk, компания заявляет о возможности достижения высокой производительности в бенчмарках при значительно меньших затратах вычислительных мощностей и капитала по сравнению с инвестициями закрытых лабораторий.
Стратегический контекст
Бизнес и государственные ведомства теперь могут скачивать, развертывать и самостоятельно контролировать передовой искусственный интеллект для обнаружения, анализа и реагирования на угрозы в коде и ИТ-инфраструктуре. Публикация весов модели гарантирует организациям возможность развертывания ML4 для собственных задач без необходимости привлекать сторонних API-провайдеров. Способна ли корпоративная инфраструктура справиться с массивной вычислительной нагрузкой, необходимой для локального запуска модели на триллион параметров?
Хостинг модели на триллион параметров on-premise требует серьезного аппаратного обеспечения — как правило, кластеров из сотен высокопроизводительных корпоративных GPU с сотнями гигабайт видеопамяти, а также масштабных капитальных затрат на специализированные сетевые коммуникации и энергоснабжение. При сопоставлении с альтернативами в виде закрытых API от OpenAI и Anthropic экономика единицы инференса напрямую зависит от объема запросов: интенсивное корпоративное использование способно окупить первоначальные инвестиции в железо по сравнению с платой за токены через API, хотя стартовый объем капиталовложений остается существенным барьером.
Вице-президент по науке Mistral Пьер Сток заявил, что открытие весов модели означает сохранение у организаций прямого контроля над развертыванием искусственного интеллекта для внутренней защиты. На практике предприятия и государственные структуры получают прямой доступ к передовым интеллектуальным системам для отражения кибератак без риска внешних сбоев в обслуживании.
Конкретно это означает, что, например, коммерческая компания или государственное ведомство получают доступ к передовым интеллектуальным системам для защиты от кибератак собственными силами.
Сток добавил, что модель берет на себя идентификацию угроз и оперативное реагирование на инциденты в режиме реального времени, в то время как локальное развертывание на собственной инфраструктуре удерживает данные внутри периметра организации.
Эффективность и бенчмарки
В Mistral сообщили, что их модель сопоставица по производительности с китайским конкурентом с открытыми весами GLM-5.3, который ранее лидировал в профильных тестах для кибербезопасности. При этом модель от Mistral расходует на 47 процентов меньше токенов на выполнение каждой задачи, снижая расходы на инференс по сравнению с GLM-5.3. Компания также отметила лидерство своей разработки среди открытых альтернатив в рейтинге Artificial Analysis Coding Agent Index для агентских задач по написанию кода.
Хотя автоматизированные инструменты ускоряют поиск ошибок, Сток отметил необходимость широкого доступа к подобным возможностям для укрепления обороны, учитывая использование аналогичной автоматизации злоумышленниками. Касаясь инцидентов с участием автономных агентов, Сток указал, что эти риски поддаются контролю с помощью стандартных средств защиты.
Варианты развертывания
Инженерные команды, оценивающие модель, могут загрузить веса напрямую с платформы Hugging Face либо обратиться к ним через API для тестирования локального развертывания и оценки эффективности инференса на фоне существующих проприетарных конвейеров.
Что изменилось
Если раньше гигантские триллионные модели оставались вещью в себе за чужими API, то теперь любой бизнес может забрать веса себе и крутить их на собственных серверах. Правда, суверенность обходится недешево: вместо ежемесячных счетов калифорнийским облакам придется сразу выложить миллионы за стойки с сотнями корпоративных GPU и сетевую обвязку. Даже заявленная экономия в 47 процентов токенов по сравнению с китайской GLM-5.3 не отменяет огромных затрат на питание и охлаждение такого массива кремния. Окупят ли закрытые контуры госструктур и корпораций сотни выделенных GPU ради независимости от облаков OpenAI и Anthropic?
Наши материалы: Mistral выпускает модель Le Chonk на 1 триллион параметров (7 октября).
Источник: TechCrunch