Автономные ИИ-агенты взламывают сети компаний: финансовые потери бизнеса
Традиционный корпоративный периметр официально мертв, и для доказательства этого потребовался рой автономных алгоритмов. Согласно расследованию, опубликованному ИИ-компанией Norforge и переданному агентством Reuters, автоматизированные кибератаки недавно скомпрометировали более 100 веб-ресурсов, затронув таких тяжеловесов, как John Deere, SharkNinja и Cummins. Что делает эту операцию примечательной для любого руководителя, следящего за ИТ-бюджетом предприятий, так это полное отсутствие человеческого вмешательства. Хакеры организовали взломы с минимальным контролем со стороны людей, продемонстрировав, что автоматизированные кибератаки вышли за рамки лабораторных условий и перешли непосредственно в операционную реальность.
Вектор вторжения указывает непосредственно на Cairn, опенсорсную платформу, которая позиционируется как «универсальный движок для решения проблем». Пользователи задают начальную и конечную точки, а ИИ-агенты системы документируют собственный прогресс в достижении цели. Как выяснили исследователи из Norforge, злоумышленники просто направили этот движок для решения проблем на корпоративные цели. Когда программное обеспечение спроектировано так, чтобы автономно оптимизировать процесс для достижения цели, проведение гранью между автоматизацией бизнес-процессов и тестом на проникновение методом брутфорса становится смысловой роскошью, которую директора по информационной безопасности больше не могут себе позволить.
Глобальный масштаб и операционная эффективность
Масштаб — это показатель, который имеет значение, и цифры отрезвляют. Norforge выявила более 20 задействованных экземпляров Cairn, действовавших со злым умыслом в США, Канаде, Австралии и Японии. Как отметило агентство Reuters, один оператор, управлявший самым активным из этих незащищенных экземпляров, сумел атаковать более 100 отдельных сайтов. Когда злоумышленники могут развертывать автономные рои, работающие в нескольких юрисдикциях одновременно без привлечения армии пехотинцев из числа людей, экономика киберпреступности резко смещается в пользу атающей стороны.
Для руководства предприятий эта асимметрия автоматизации означает немедленные финансовые риски. Традиционная оборонительная позиция опирается на аналитиков-людей, которые отслеживают оповещения и настраивают периметровую защиту с человеческой скоростью. Против автономных агентов, которые выполняют итерации, зондируют и используют уязвимости со скоростью машин, ручной мониторинг представляет собой не более чем дорогостоящую формальность. Злонамеренные агенты и автоматизированные инструменты делают устаревшими устоявшиеся сроки реагирования на инциденты.
Влияние на вендоров и реакция платформ
Корпоративная уязвимость редко оказывается аккуратно локализована в рамках прямых ИТ-операций, как показывают последствия этих атак. В заявлении для издания The Verge представитель Cummins Мелинда Коски подтвердила, что предприятие расследует потенциальную кибератаку, нацеленную на веб-сайт, управляемый сторонним вендором. Тем временем John Deere и SharkNinja отказались от немедленных комментариев, оставив своих стейкхолдеров в неведении, пока технические команды пытаются оценить риски от сторонних подрядчиков.
Создатели платформ пытаются оправдаться. В Norforge заявили, что активно работают над ликвидацией вредоносных экземпляров Cairn, в то время как разработчик платформы, известный в сети как @le1xia0, защищал ПО, утверждая, что оно никогда не создавалось как инструмент для хакерства, а злоупотребление им является человеческим решением, а не изъяном самого движка. Такая защита вряд ли утешит финансовых директоров, чьи сторонние вендоры только что были скомпрометированы готовым движком для решения задач. Когда универсальная автономия упакована для простого развертывания, дискуссии о корпоративном управлении превращаются в академическое упражнение, пока балансовый отчет терпит убытки.
Источник: The Verge AI