Калифорния ускоряет работу над безопасностью ИИ и взвешивает вопрос аварийного выключателя

18 сентября 2026 года губернатор Калифорнии Гэвин Ньюсом подписал указ N-9-26 об усилении надзора за системами искусственного интеллекта. Сведения о документе взяты из пресс-релиза канцелярии губернатора: текст подписанного файла не удалось открыть так, чтобы извлечь данные напрямую. Согласно релизу, указ поручает Government Operations Agency совместно с управлением штата по чрезвычайным службам создать группу экспертов, которая в течение двух месяцев должна представить рекомендации по ужесточению законов штата о safety и security ИИ.

Группе предстоит оценить внедрение планов безопасности, составляемых третьими сторонами, независимый аудит внутри лабораторий и отнесение случаев потери контроля к критическим инцидентам. Среди пунктов — аварийное отключение передовых моделей: официальный релиз — и NBC News, описывающая указ, который побуждает экспертов рассмотреть эту меру, — уточняет, что на сегодня документ не обязывает ни одного поставщика устанавливать подобный механизм. Формулировку NBC я привожу в косвенной речи, поскольку получила её в переводе и не смогла сверить с оригиналом. Инициатива ускоряет также применение двух отдельных законов штата: SB 813 (Макнерни), создающего рамки для независимых организаций по проверке систем ИИ, и AB 1405 (Бауэр-Кан), учреждающего реестр аудиторов ИИ с требованиями к независимости и прозрачности. Телеканал Fox Business сообщил, что этот реестр заработает досрочно, в декабре 2027 года, хотя официальная записка администрации не называет конкретных сроков.

Шаг штата обнажает раскол с федеральными институтами. По данным Fox Business, на этой неделе сенатор Рэнд Пол (респ., Кентукки) заблокировал в Сенате законопроект об аварийном отключении моделей, внесённый сенатором Джоном Кеннеди (респ., Луизиана): разлом проходит внутри одной партии, а не между штатом и Вашингтоном. В релизе Ньюсом утверждает, что Калифорния уже построила национальную модель и что политика штата должна стать базовой линией для страны; фразу передаю косвенно, поскольку она доступна только в переводе. При этом остаются неопределёнными технические параметры отключения моделей, уже распространённых с открытыми весами или работающих на чужой инфраструктуре, — предел, который, по Fox Business, признаёт и сам Ньюсом. Неизвестно, кто войдёт в группу экспертов, и указ не гарантирует, что её рекомендации станут законом: в Калифорнии процедура началась бы с нуля.

Гнаться за безопасностью процедурными сроками рискованно: это останется формальным упражнением, пока не будет объяснено, как конкретно выключить программу, распространённую по всему миру. — Olya