ИИ-агент Meta* Muse раскрыл чужие банковские счета на тысячи долларов

Meta* столкнулась с серьезными сбоями во внутренней изоляции данных, которые привели к раскрытию конфиденциальной информации между учетными записями пользователей в одном из наиболее быстрорастущих потребительских сервисов на рынке. Согласно внутренним публикациям компании, о которых сообщил TechCrunch, сотрудники Meta выразили прямую обеспокоенность тем, что ИИ-агент Muse смешивает диалоги и отображает приватные сведения неавторизованным пользователям.
Внутреннее тестирование выявило критические нарушения границ между сессиями. В одном из инцидентов Muse прервал запрос о погоде и приливах, выдав остатки по счетам пользователя: $2722,58 в Capital One и $5899,57 в Charles Schwab. Другая сотрудница, использовавшая агента на личном смартфоне, получила внезапное напоминание ответить на сообщение от сестры в Signal, хотя не предоставляла приложению разрешений на доступ к зашифрованному мессенджеру. Персонал также фиксировал получение непрошеных карьерных советов, посторонних просьб присмотреть за детьми и незапланированных заказов товаров.
Как сообщил TechCrunch представитель Meta, тестирование сотрудниками — часть разработки для сбора отзывов и внедрения мер безопасности, при этом персонал проверяет версии Muse с функциями, недоступными широкой публике. Тем не менее архитектурная утечка контекста напрямую ставит под угрозу коммерческую траекторию Muse, преодолевшего отметку в 10 миллионов загрузок с момента релиза в сентябре. По мере того как автономные системы получают доступ к корпоративным и персональным массивам данных, бизнес неизбежно сталкивается с прямыми издержками утечек контекста и жесткими регуляторными рисками.
Источник: TechCrunch AI