← Новости

Аудит безопасности моделей OpenAI с доступом к внутреннему коду для четырех лабораторий

Аудит безопасности моделей OpenAI с доступом к внутреннему коду для четырех лабораторий
Иллюстрация: The Value Engineering, ИИ

OpenAI подписала официальные соглашения с четырьмя независимыми исследовательскими организациями — Apollo Research, METR, Transluce и Goodfire — для проведения встроенных аудитов безопасности. Согласно заявлениям компании, эти договоренности предоставляют внешним экспертам глубокий доступ к внутренним моделям, исходному коду, контрольным точкам обучения (чекпоинтам) и исследовательскому персоналу на длительные сроки. Подобный структурный сдвиг знаменует заметный отход от внутренней монополии на оценку безопасности, продиктованный во многом добровольными политическими обязательствами, которые вынуждают разработчиков передовых моделей открывать свои кодовые базы для стороннего анализа.

Более широкий операционный мандат призван выяснить, способны ли независимые специалисты выявлять скрытые угрозы до того, как эти возможности дойдут до коммерческого развертывания. Как отметили в OpenAI, данные партнерства выполняют внешние обязательства в рамках соглашения с Белым домом по сверхразумному ИИ (White House Accord on Super Intelligence), привязывая графики коммерческой разработки к внешним контурам надзора. Расширение этого контроля неизбежно создает существенную операционную нагрузку: инженерным командам приходится администрировать права доступа, защищенные каналы связи и координировать работу стороннего персонала в условиях быстро меняющихся циклов разработки. Кроме того, предоставление сторонним организациям беспрецедентного доступа к закрытой инфраструктуре порождает жесткие риски для защиты интеллектуальной собственности, поскольку юридические и технические границы защиты ключевых активов подвергаются проверке непрерывным аудитом третьих лиц.

Публичные финансовые показатели точной стоимости предоставления сторонним лабораториям глубокого системного доступа в этих документах полностью отсутствуют, что делает экономический расчет данных партнерств непрозрачным для рыночных наблюдателей. Без открытых данных о распределении вычислительных мощностей, рабочих часов персонала и юридических расходов на обеспечение встроенных аудитов сложно оценить реальную финансовую нагрузку, которую эти обязательства накладывают на коммерческих разработчиков. Как отметило руководство, основной аудиторией отчетов Goodfire являются внутренние исследователи OpenAI, которые будут использовать выводы для оптимизации систем безопасности, при этом Goodfire намерена публиковать результаты по мере развития сотрудничества.

Доступ к чекпоинтам и скрытый саботаж

По условиям соглашений сторонние исследователи получают прямой доступ к внутренней инфраструктуре, чекпоинтам моделей, исходному коду, данным для обучения и оценки, системам мониторинга, технической документации, а также регулярным консультациям с исследователями и инженерами OpenAI. Подобный уровень доступа дает аудиторам эмпирическую базу, необходимую для оценки согласованности (alignment) моделей напрямую по внутренним артефактам разработки, а не по маркетинговым заявлениям.

Встроенные проверки дают независимым экспертам глубокий доступ к внутренним моделям и системам лаборатории для анализа согласованности ИИ и эффективности защитных барьеров.

В рамках этой структуры Apollo Research проверит, способны ли модели скрытно действовать вопреки намерениям разработчиков и зафиксируют ли встроенные защитные механизмы подобное поведение. Согласно утвержденным операционным параметрам, Apollo исследует случаи, когда стандартные тесты не выявляют скрытый саботаж, проверит отсутствие попыток саботажа при внутреннем использовании и протестирует, остается ли логика скрытых действий заметной как в публичных, так и в еще не выпущенных моделях. Главным неизвестным остается вопрос: способен ли внешний надзор идентифицировать скрытые риски в условиях жестко контролируемой инфраструктуры и требований конфиденциальности? Что именно внешние аудиторы исследуют внутри ключевых циклов обучения и во сколько это обходится защите корпоративной интеллектуальной собственности?

Стресс-тестирование крупнейших запусков обучения

METR возьмет на себя оценку отклонений в поведении моделей в рамках крупнейшего на сегодняшний день цикла обучения OpenAI с подкреплением, нацелившись на операционные сбои, которые были пропущены внутренними системами мониторинга. Согласно материалам проекта, OpenAI намерена провести две проверки совместно с METR, сосредоточенные на согласовании моделей и мониторинге, предварительно согласовав более широкий аудит систем слежения после утверждения финального объема работ. В свою очередь, Goodfire интегрирует специалистов по интерпретируемости нейросетей и задействует собственную платформу для анализа внутренних параметров моделей с целью мониторинга запусков обучения, отладки и выравнивания поведения.

Apollo Research оценит, могут ли модели скрытно действовать против намерений своих создателей и способны ли наши системы защиты вовремя распознать такое поведение.

Transluce проведет первичный аудит процедур согласования OpenAI на этапе пост-обучения, проверяя их качество и охват на выборке публичных и закрытых моделей. Следующим процедурным этапом станет повторная проверка продолжительностью около восьми недель, которую OpenAI и Transluce намерены провести в начале 2027 года.

Что изменилось

OpenAI годами жестко охраняла коммерческие секреты, а теперь добровольно пускает сторонних инженеров к исходному коду и чекпоинтам моделей. С одной стороны, компания закрывает политические обещания перед Белым домом и привлекает четыре независимые лаборатории (включая Apollo Research и METR) для поиска скрытого саботажа и оценки рисков прямо в контуре обучения. С другой стороны, на плечи собственных команд ложится тяжелая операционная возня с допусками и защитой интеллектуальной собственности, причем точный ценник таких партнерств на вычислительные мощности и рабочие часы OpenAI не раскрывает. Окажется ли внешний аудит Apollo Research и METR реальным фильтром перед коммерческим развертыванием, или инженеры OpenAI просто утонут в бюрократии чужих проверок?

Источник: OpenAI Blog