Локальная модель Gemma 4 E2B сгенерировала 39 ложных алертов на тестах SOC
На синтетическом тестовом наборе модель демонстрировала 55 верных вердиктов из 55 без единой ошибки, но на 100 реальных алертах лабораторного стенда она безосновательно подняла на вторую линию 39 событий и приписала несуществующие инциденты.
В марте 2026 года в профильных исследованиях отмечалось, что AI-агенты в центрах мониторинга безопасности могут экономить до 30% времени реагирования при простоях инфраструктуры. При типичном простое от 8 до 12 часов это экономит до 4 часов, а значит уменьшает затраты на устранение проблем на миллионы долларов в год для крупных компаний, как отмечалось в материале «AI-агенты в SOC экономят до 30% времени реагирования» от 2026-03-26. Однако попытка запустить автономную обработку событий внутри закрытого периметра без облачных сервисов показала обратную сторону математики: автоматизация первой линии через локальные большие языковые модели требует жесткой предварительной фильтрации, иначе затраты на перепроверку ложных срабатываний перечеркивают расчетную выгоду.
Архитектурный барьер первой линии
Первая линия аналитиков перегружена однотипными оповещениями, а корпоративные правила запрещают передавать сырые логи во внешние облачные интерфейсы. Инженерный эксперимент строился вокруг помощника kezekshi, в основе которого дообученная Gemma 4 E2B под лицензией Apache 2.0, способной функционировать локально на видеокарте с 8 ГБ памяти. Выбранная модель построена на архитектуре Mixture of Experts (MoE), где при генерации каждого токена активируется лишь около 10 миллиардов параметров вместо всех 122 миллиардов, как сообщалось в статье «Локальные LLM в кибербезе: GPU-расчеты и экономика SOC» от 2026-07-18. На вход система принимает пакет доказательств от E1 до En, возвращая структурированный JSON с вердиктом, описанием, ссылками на доказательства и сопоставлением с базой тактик MITRE ATT&CK.
Но как повела себя система при встрече с типовым системным фоном?
Выяснилось, что на высокочастотных правилах лабораторного стенда, отсутствовавших в обучающей синтетике — таких как события контроля целостности реестра FIM 750, 751, 752 или проверки rootcheck 510, — модель завышала уровень угрозы и генерировала ложный контекст. Для снижения шума в пайплайн добавили 215 реальных легитимных примеров и жесткие промпт-правила. Одно предписание о том, что выдача разрешений приложению OAuth, смена прав или добавление метода многофакторной аутентификации без подтверждения классифицируются как минимум подозрительными, вернуло полноту охвата к 20 из 20 без аппаратного дообучения.
«На 3000 алертах стенда 98,1 % решилось без модели, 1,9 % ушло в неё. Это примерно в 50 раз меньше вызовов при тех же решениях об авто-закрытии».
Детерминированная отсечка операционного шума и проверка событий по белым спискам до обращения к нейросети сократили обращение к GPU в 50 раз, сохранив качество автоматического закрытия тривиальных инцидентов.
Пределы автономности и экономика процесса
Попытка масштабировать обучение до 3546 примеров в шестой версии привела к техническому браку: на незнакомых сценариях 9 из 20 карточек не проходили валидацию из-за подмены служебных идентификаторов в ссылках. Проблему синтаксиса решили жесткой динамической схемой вывода Ollama под каждый алерт, однако это сделало проверку ссылок формальной: подтверждение существования идентификатора не гарантирует его смысловой связи с выводом.
Рубрика тяжести поначалу снизила полноту обнаружения реальных угроз с 20 из 20 до 16 из 20, пропустив инциденты OAuth как штатные действия. В итоге контур безопасности перевели исключительно в режим ассистента: детерминированные алгоритмы берут на себя фоновый шум, а любые выводы нейросети верифицирует дежурный специалист.
Сколько ресурсов и времени потребуется команде на пересборку пайплайна и ручную валидацию карточек, если за пределами пяти семейств атак модель продолжит завышать критичность на каждом нестандартном правиле?
Как менялась картина
Бизнес рискует перегрузить вторую линию дорогих аналитиков ложной тревогой вместо обещанного сокращения расходов, запуская автономные ИИ-агенты на непроверенном системном фоне. В середине июля архитектура показала, что активирует около 10 миллиардов параметров для быстрой работы на доступном железе, но даже синтетический результат без единого сбоя мгновенно рассыпается перед тривиальными сервисными логами. Жёсткие детерминированные фильтры и правила поверх нейросети сокращают нагрузку на графические процессоры, однако полностью исключить галлюцинации в закрытом контуре они не способны. Сможет ли локальный ассистент сохранить точность классификации при выходе за пределы 215 размеченных примеров без участия человека на второй линии?
Наши материалы: Локальные LLM в кибербезе: GPU-расчеты и экономика SOC (18 июля).
Источник: Хабр ML