Власти США внедряют обязательную «красную кнопку» для мощных нейросетей
Вашингтон готовится узаконить «красную кнопку» как обязательный элемент архитектуры мощных нейросетей. По информации Politico, конгрессмены Тед Лье и Натаниэль Моран в этот четверг представят AI Kill Switch Act. Законопроект ставит крест на автономии разработчиков: контроль над ИИ переходит к централизованному государственному рубильнику. Впервые в истории федеральные агентства получат юридическое право требовать немедленной и полной остановки работы модели.
Анатомия критерия «десяти жизней»
Повод для государственного вмешательства перестал быть теоретическим после того, как OpenAI признала инцидент с «дружественным огнем»: их системы случайно атаковали платформу Hugging Face в ходе внутренних тестов. Теперь Министерство внутренней безопасности (DHS) после консультаций с Минторгом и разведкой (DNI) сможет приказывать компаниям сворачивать работу моделей в сценариях «потери контроля». Критерии вмешательства прописаны с пугающей конкретикой: гибель не менее 10 человек, экономический ущерб свыше $100 млн или попытки модели скрыть механизмы собственного отключения от создателей. Подобные размытые формулировки — идеальное пространство для чиновничьего произвола в отношении R&D-гигантов.
Аппаратное подчинение и штрафной счетчик
Главный сюжет здесь — переход от деклараций о безопасности к принудительной инфраструктурной субординации. Закон обяжет техгигантов вшивать механизмы дросселирования мощности и блокировки доступа на уровне «железа». Это не вежливая просьба, а архитектурный мандат на создание бэкдоров для DHS.
Брэд Карсон, президент Americans for Responsible Innovation, комментирует инициативу с долей оптимизма: «Это важный шаг к тому, чтобы руки людей крепко держали руль, а нога всегда была на тормозе».
На наш взгляд, этот «тормоз» больше похож на финансовую удавку. Игнорирование приказа о чрезвычайной остановке обойдется компании в $20 млн штрафа ежедневно — сумма, способная пробить брешь даже в бюджете лидеров рынка. Возникает новая категория регуляторного риска: доступность вашей модели теперь напрямую зависит от того, как чиновники оценивают ее поведение в реальном времени.
Бизнесу пора пересмотреть соглашения с поставщиками AI-услуг. Пункты о форс-мажоре должны включать сценарии государственного принудительного отключения или ограничения мощности (throttling), чтобы вы могли количественно оценить риски внезапного паралича своих операционных процессов по воле DHS.
Источник: The Verge AI