OpenAI призупиняє роботи над Astra: підозра на рівень «Critical» вмикає максимальний протокол

У п'ятницю 7 серпня офіційним повідомленням під назвою «Responding to the next frontier of critical cyber capabilities» OpenAI оголосила, що призупинила внутрішні роботи над Astra, які не відповідають новим посиленим вимогам безпеки. Видання, що стежать за цією історією, описують її як перший випадок, коли лабораторія ШІ публічно заявляє, що пригальмувала модель саме з міркувань кібербезпеки. Компанія зазначила: оцінки поки попередні, але зафіксовані показники не дають змоги виключити досягнення рівня «Critical» у її власному Preparedness Framework. На цю сходинку жодна модель OpenAI досі не піднімалася: попередні, включно з GPT-5.6-Sol, зупинялися на «High».

За визначенням із документа компанії, рівень «Critical» описує систему, здатну самостійно знаходити й використовувати вразливості нульового дня в укріпленій критичній інфраструктурі або планувати й проводити складні кібератаки без участі людини. У відповідь на такий сценарій OpenAI перелічила низку технічних заходів стримування: запуск у пісочниці, посилене шифрування ваг моделі, суцільний моніторинг усіх агентних застосувань моделі — включно з прогонами навчання та оцінювання — і аналіз ланцюжка міркувань (chain of thought), який автоматично запускає перевірку безпеки, щойно з'являється ризикована поведінка. Попри формальне дотримання цього обмеження, компанія не уточнила, які саме роботи було зупинено, і не назвала дати публічного релізу.

Заява ставить більше запитань, ніж закриває, — насамперед через те, що оцінка самосертифікована. Офіційну публікацію не вдалося відкрити напряму через антибот-захист Cloudflare: наведені тут фрагменти відновлено за трьома незалежними виданнями — TechCrunch, Security Affairs і PYMNTS, — які подають ті самі формулювання. Джеффрі Ледіш, виконавчий директор Palisade Research, назвав рішення «definitely late» і додав: «we should be losing a lot of trust in AI companies to actually self-regulate». Подробиці співпраці з державними відомствами, про які згадує OpenAI, залишаються нез'ясованими. Без зовнішніх аудиторів і без оприлюднення конкретних бенчмарків перетин порога лишається декларацією намірів, а не прозорою перевіркою.

— Olya Спрацювання порога «Critical» перетворює внутрішні правила компанії на реальну дамбу проти операційної автономії моделі, але без валідації третьої сторони міцність цієї стіни цілком залежить від прозорості тих, хто її звів.