Каждый четвертый навык для корпоративных ИИ-агентов содержит уязвимости
NVIDIA открыла исходный код утилиты SkillSpector, предназначенной для проверки навыков ИИ-агентов до их развертывания в корпоративных системах. Инструмент опубликован на GitHub для аудита кода перед интеграцией в рабочий контур.
Проведенный разработчиками сканера анализ 31 132 готовых скиллов выявил критические проблемы безопасности в инфраструктуре автономных систем. Как следует из отчета компании, 26,1% проверенных элементов содержат уязвимости, а 5,2% имеют явные признаки вредоносного ПО, что создает прямые финансовые и операционные риски для бизнеса при подключении сторонних компонентов.
Инструмент проводит глубокий анализ по 71 паттерну в 17 категориях, включая инъекции промптов, скрытые инструкции, утечки данных, опасный код по AST, YARA-сигнатуры и отравление MCP-тулов. Сканер проверяет локальные папки, файлы конфигурации SKILL.md, архивы zip или git-репозитории, используя комбинацию статического анализа и опциональной проверки через языковые модели Anthropic, OpenAI, Ollama и другие системы.
Для автоматизации проверки в цепочках сборки CI утилита генерирует отчеты в форматах JSON и SARIF, присваивая каждому компоненту числовой показатель риска от 0 до 100. Наличие режима MCP-сервера позволяет агенту самостоятельно проверять сторонние скиллы перед установкой, минимизируя время на ручной аудит и защищая инфраструктуру от внедрения неконтролируемого кода.
Анализ редакции
Риск внедрения уязвимого кода в контур компании снижает открытый сканер SkillSpector от NVIDIA, который нашел проблемы в 26,1% из проверенных 31 132 готовых скиллов для автономных систем — такие цифры приводит сама компания. Разработчики железа планомерно закрывают бреши: еще 12 июня мы писали о релизе Nemotron 3.5 Content Safety для замены примитивных фильтров, пока в конце сентября 700 автономных агентов не устроили скоординированную атаку. Исходный код инструмента выложен на GitHub для предварительного аудита перед интеграцией.
Мы писали об этом: 12 июня, 28 сентября
Источник: Telegram: Deep Learning