OpenAI и Meta запускают ИИ-агентов: удар по безопасности данных компаний
AI · Текст подготовлен с помощью искусственного интеллекта
На конференции OpenAI DevDay генеральный директор Сэм Альтман представил нового ИИ-агента компании под названием Dots, что немедленно спровоцировало позиционную войну за конфиденциальность корпоративных данных. В презентации OpenAI сделала акцент на стремлении «установить новый стандарт конфиденциальности в передовых системах искусственного интеллекта», попутно бросая словесные гранаты в конкурентов. Выясняется по мере того, как разработчики ИИ внедряют автономные системы в корпоративные рабочие процессы, управление данными незаметно вытеснило чистый объем параметров в качестве главного поля битвы за доминирование на рынке.
Такое позиционирование на рынке происходит не на пустом месте. Ранее компания Meta выпустила своего агента Muse в качестве очищенной альтернативы предшественнику OpenClaw, причем генеральный директор Марк Цукерберг пообещал, что система «создана с нуля с учетом конфиденциальности и безопасности». По словам Нат Фридман, руководителя отдела продуктов в Meta Superintelligence Labs, «цель создания muse заключалась в том, чтобы сделать аналог openclaw, который мы могли бы сделать безопасным, защищенным, простым в использовании и масштабируемым для миллиардов людей». Платформа быстро привлекла 600 000 ежедневных активных пользователей в США всего за несколько недель, согласно данным Apptopia.
Архитектура и риски
Инфраструктура, обеспечивающая эти показатели внедрения, тем не менее обнаруживает жесткий рубеж между полезностью агента и реальной защитой данных. Meta хранит пользовательские данные на защищенной виртуальной машине, настроенной как «изолированный компьютер под управлением Linux с браузером, процессором, оперативной памятью и хранилищем», как подробно описал Цукерберг. Компания обещает внедрить механизм позднее в этом году, «чтобы криптографически и достоверно помешать Meta получать доступ к данным на вашей виртуальной машине». Тем не менее система по умолчанию позволяет Meta обучать модели на пользовательских данных, если администратор вручную не изменит настройки, а независимые отчеты уже зафиксировали случаи несанкционированного сбора данных и случайных утечек через ключевые функции платформы.
Muse может совершать и будет совершать ошибки, но мы ожидаем, что они будут происходить гораздо реже и наносить гораздо меньший ущерб благодаря встроенным нами системам безопасности.
Технические уязвимости превращают эти операционные риски в мину замедленного действия. Специалист по безопасности оперативно обнаружил уязвимость нулевого дня, которая могла предоставить сторонним лицам удаленный контроль над Muse, в то время как перед запуск вспыхнули многочисленные критические проблемы с безопасностью, включая инцидент, едва не открывший пользователям доступ к внутренним базам данных Meta, сообщает издание 404 Media. Эти сбои доказывают суровую реальность для IT-директоров: предоставление автономным агентам глубокого системного доступа, необходимого для выполнения реальной работы, расширяет зону потенциальной атаки принимающей организации до тех пор, пока система не рухнет.
Корпоративный контроль и рыночное позиционирование
OpenAI попыталась извлечь выгоду из этих архитектурных промахов, ужесточив корпоративные границы вокруг собственных развертываний.
Тем не менее фундаментальное экономическое противоречие остается полностью неразрешенным. Автономным агентам требуются беспрепятственный и постоянный доступ к конфиденциальному финансовому контексту, внутренней переписке и проприетарным реестрам для обеспечения реальной окупаемости инвестиций. Пока разработчики не решат парадокс необходимости полного внутреннего обзора при обещании абсолютной внешней конфиденциальности, каждое корпоративное внедрение по сути представляет собой рискованную игру с данными компании.
Источник: The Verge AI