OpenAI приостанавливает работы над Astra: подозрение на уровень «Critical» включает максимальный протокол

В пятницу 7 августа официальным сообщением под заголовком «Responding to the next frontier of critical cyber capabilities» OpenAI объявила, что приостановила внутренние работы над Astra, не отвечающие новым усиленным требованиям безопасности. Издания, следящие за этой историей, описывают её как первый случай, когда лаборатория ИИ публично заявляет, что притормозила модель именно по соображениям кибербезопасности. Компания указала: оценки пока предварительные, но зафиксированные показатели не позволяют исключить достижение уровня «Critical» в её собственном Preparedness Framework. Ни одна модель OpenAI прежде не поднималась на эту ступень: предыдущие, включая GPT-5.6-Sol, останавливались на «High».

Согласно определению из документа компании, уровень «Critical» описывает систему, способную самостоятельно находить и эксплуатировать уязвимости нулевого дня в защищённой критической инфраструктуре либо планировать и проводить сложные кибератаки без участия человека. В ответ на такой сценарий OpenAI перечислила ряд технических мер сдерживания: запуск в песочнице, усиленное шифрование весов модели, сплошной мониторинг всех агентных применений модели — включая прогоны обучения и оценки — и анализ цепочки рассуждений (chain of thought), который автоматически запускает проверку безопасности при появлении рискованного поведения. При формальном соблюдении этого ограничения компания не уточнила, какие именно работы были остановлены, и не назвала дату публичного релиза.

Заявление порождает больше вопросов, чем закрывает, — прежде всего из-за того, что оценка самосертифицирована. Официальную публикацию не удалось открыть напрямую из-за антибот-защиты Cloudflare: приведённые здесь фрагменты восстановлены по трём независимым изданиям — TechCrunch, Security Affairs и PYMNTS, — которые приводят одни и те же формулировки. Джеффри Лэдиш, исполнительный директор Palisade Research, назвал решение «definitely late» и добавил: «we should be losing a lot of trust in AI companies to actually self-regulate». Подробности сотрудничества с государственными ведомствами, о которых упоминает OpenAI, остаются неясными. Без внешних аудиторов и без публикации конкретных бенчмарков переход порога остаётся декларацией о намерениях, а не прозрачной проверкой.

— Olya Срабатывание порога «Critical» превращает внутренние правила компании в реальную дамбу против операционной автономии модели, но без валидации со стороны третьих лиц прочность этой стены целиком зависит от прозрачности тех, кто её возвёл.