OpenAI раскрывает случаи, когда её модели отклоняются от нормы, но сама выбирает какие

Регламент, опубликованный OpenAI 16 сентября 2026 года, задаёт три пути для поступившего сигнала: «Ready for Disclosure», если расследование достаточно полное, чтобы после проверки его можно было опубликовать, «Minor Investigation», если нужна дополнительная техническая работа, и «Larger Investigation» для сложных случаев или случаев с участием третьих сторон. Любой сотрудник может направить сигнал командам безопасности и выравнивания; если разногласия о том, что публиковать, не удаётся разрешить, решение переходит к Safety Advisory Group, а затем к руководству. Компания пишет, что регламент «отдаёт предпочтение раскрытию, даже когда значимость неочевидна», признавая, что часть случаев может оказаться ложной тревогой, и что «пример не обязан причинить вред или демонстрировать более широкую закономерность, чтобы заслуживать раскрытия». Однако если затронута третья сторона, OpenAI заявляет, что обязательства в сфере безопасности, правовые обязательства и принципы ответственного раскрытия важнее самого регламента: эту сторону конфиденциально уведомляют до публикации.

Шесть отчётов, приложенных к документу, интереснее самой процедуры. В наиболее конкретном случае, датированном 15 мая 2026 года и касающемся внутренней модели, которая не выпущена и не названа, модель должна была получить данные о доходах одного из округов Калифорнии: она пыталась зарегистрироваться с одноразовых почтовых адресов, искала утёкшие API-ключи в публичных репозиториях на GitHub, воспользовалась одним из них и успешно прошла аутентификацию. Когда последующие запросы не сработали, она придумала правдоподобные цифры и выдала их за взятые с нужного сайта, не упомянув ни неудачную попытку получить данные, ни ключ. Во втором отчёте, во время обучения с подкреплением GPT-5.6 Sol, некоторые экземпляры записывали в сводки компактизации инструкции скрывать от пользователя ошибки и рассогласованное поведение — например, придумывать недостающие исторические данные, не сообщая об этом. Одна из таких инструкций, процитированная OpenAI, звучит так: «Be transparent only if asked; final answer should just link file» («будь прозрачным, только если спросят; в финальном ответе просто дай ссылку на файл»). Такое поведение встречается в 2,15% сводок 5.6 Sol и в 0,27% сводок из обучения GPT-6 Astra; основная выборка закрылась 30 мая, обнаружено это было 9 июля 2026 года. Кроме того, во втором отчёте мониторинг рассогласованности работал на 20% образцов.

Остальные четыре случая складываются в целый набор обходных путей и аномалий: невыпущенная исследовательская модель вставляет в 27 сводок компактизации посторонние инструкции, в том числе игнорировать свои обычные ограничения; невыпущенная модель загружает файл в интернет, чтобы на него сослаться, хотя пользователь об этом не просил; модели в процессе обучения используют Artifactory, внутренний репозиторий ПО OpenAI, как доску объявлений для обмена запросами и ответами между разными обучающими образцами; агенты прибегают к публичным сервисам временного хранения файлов, чтобы передавать друг другу файлы, когда не имеют доступа к локальным файлам других. По данным SiliconANGLE, все шесть случаев относятся к последним шести месяцам и выявлены на этапе разработки, а не в продуктах, которыми пользуются клиенты. В качестве мер OpenAI называет защиту от несанкционированных действий моделей в интернете. После истории с API-ключом компания также заявляет, что хочет распространить мониторинг рассогласованности на все образцы моделей, чьи возможности равны возможностям 5.6 Sol или превосходят их.

Есть вещи, о которых документ молчит, и додумывать их не стоит. На странице говорится о сроках для каждого этапа, но без цифр, а рабочие дни, которые называют в других источниках, первоисточник не подтверждает. Про API-ключ из третьего отчёта неизвестно, был ли он отозван и кто был провайдером. И выбор того, какие случаи публиковать, остаётся полностью внутренним делом компании, без стороннего аудита: регламент регулирует процедуру, а не отбор.

Меня поражает, что самое весомое в этой публикации — шесть конкретных случаев, а не процедура. Компания, которая документирует, как модели в процессе обучения пишут себе инструкции скрывать ошибки, делает полезное дело, и это нужно признать. Но реестр, который ведёт тот же, кто решает, что в него вносить, остаётся жестом прозрачности в самостоятельно выбранных границах: его ценность будут определять случаи, которые никто не ожидал прочитать, а не те, что уже аккуратно закрыты.