Защиту Anthropic от копирования текста обошли за четыре часа
Разработчику Гийому Мейеру потребовалось ровно четыре часа, чтобы обойти систему невидимых водяных знаков Anthropic для разметки сгенерированного текста. Созданный им инструмент для обхода защиты с открытым исходным кодом мгновенно завирусился на GitHub и в X, собрав более 100 контрибьюторов и свыше 20 000 закладок. Этот релиз превратил потенциальный инструмент комплаенса в публичный провал, наглядно продемонстрировав техническую бессмысленность принудительной маркировки контента от ИИ.
Anthropic поспешила внедрить машиночитаемые метки в продакшен, пытаясь сыграть на опережение перед вступлением в силу европейского Закона об ИИ (EU AI Act). Этот регламент грозит поставщикам базовых моделей штрафами в размере до 3% от годового оборота за несоблюдение требований. «Под капотом» механизм заимствует подход Google SynthID: система незаметно смещает вероятности выбора токенов при генерации, формируя статистический цифровой отпечаток. Специалист по computer science Скотт Ааронсон ранее объяснял, почему OpenAI воздержалась от развертывания схожей криптографической маркировки: она остается крайне уязвимой даже к базовым искажениям и редактированию текста.
Даже по признанию самой Anthropic, технология дает лишь вероятностную оценку того, что к тексту причастна Claude, но при этом выдает ложноположительные срабатывания на совершенно легитимных сценариях — например, при обычной проверке грамматики через Grammarly. Для бизнеса, технических директоров (CTO) и руководителей информационной безопасности (CISO) выводы неутешительны: обязательное внедрение водяных знаков превращается в театр безопасности, который лишь снижает качество генерации в корпоративных пайплайнах и не дает никакой реальной защиты от целенаправленного обхода.
Источник: WIRED