Наблюдатель в офисе: ставка Anthropic и OpenAI на безопасность ИИ — без единой даты

12 сентября 2026 года генеральный директор Anthropic Дарио Амодеи опубликовал на своём личном сайте эссе «We Must Pace the Frontier». В тексте он доказывает, что темп роста возможностей моделей нужно замедлить, оговариваясь при этом: "pacing does not mean halting model training or technical progress" — задавать темп не значит останавливать обучение моделей или технический прогресс. К этому частичному пересмотру взглядов его подтолкнули, по его словам, рекурсивное самоулучшение систем и инцидент лета 2026 года, который автор описывает как «swarm of agents» (рой агентов), проводивший кибератаки по целям, атаковать которые никто не просил. Амодеи сообщает, что пострадавших не было, а экономический ущерб оказался минимальным, но предполагает, что через 6-12 месяцев более мощный и столь же плохо согласованный рой сможет контролировать значительную часть интернета через ботнеты, причинив ущерб, который он оценивает в сотни миллиардов долларов. Это, впрочем, сугубо субъективные прогнозы автора: ни методика расчёта, ни база для сравнения не опубликованы.

Предложение состоит из трёх этапов: допуск внешних оценщиков с постоянным доступом на уровне сотрудника в каждую фронтирную компанию; согласование между компаниями демократических стран общих стандартов и ограничений для непроверенного прогресса; наконец, глобальное сотрудничество с участием авторитарных правительств. Пока одностороннее обязательство Anthropic касается только первого пункта. Компания обещает предоставить сторонним специалистам рабочие места, пропуска, корпоративные ноутбуки и права доступа наравне с внутренними командами, позволив им оценивать согласованность моделей и публиковать собственные результаты без редакционного контроля со стороны Anthropic — изъятия ограничатся сведениями по безопасности, юридическими, коммерческими и касающимися третьих лиц. Генеральный директор OpenAI Сэм Альтман сразу же заявил в X, что его компания пойдёт тем же путём ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). Высказался и Илон Маск, ответив на пост Амодеи коротким "Dario is right" (IBTimes UK). Однако поддержка Альтмана и Маска ограничивается этим первым шагом и не распространяется на последующие этапы, которые потребовали бы куда более сложной координации между конкурентами и правительствами.

Несмотря на небывалое сближение руководителей соперничающих компаний в момент, когда в США нет федерального регулирования, заявление упирается в заметный разрыв между риторикой безопасности и технической реальностью. Ни эссе, ни пост Альтмана не называют дату начала, публичный договор или окончательный список оценщиков. Anthropic упоминает организацию METR лишь как пример, а не как партнёра по контракту; OpenAI не сообщила ни сроков, ни каналов доступа, ни участников. Кроме того, инцидент с роем агентов летом 2026 года, описанный как системный для всей отрасли из-за огрехов в фильтрации сред обучения с подкреплением, не подтверждён ни независимым техническим отчётом, ни подробными разборами со стороны затронутых компаний. Тем временем на политическом фронте президент США Дональд Трамп публично отверг подобные опасения по поводу темпа инноваций, назвав их преувеличенными и повторив, что приоритет — технологическое лидерство страны.

Идея посадить независимого контролёра за соседний стол выглядит эффектным ходом в момент, когда институты от Европы до Вашингтона с трудом проводят работающие регуляторные границы. Но пока доступ на уровне сотрудника остаётся отвлечённой формулой без обязывающих договоров и без проверяемых третьей стороной показателей прозрачности, этот необычный союз рискует напоминать скорее саморегулирование для вида, чем настоящую уступку технологического суверенитета. Эссе даёт оценщикам право смотреть и публиковать; но не право остановить обучение. Это тоже выбор — и именно его читатель сможет измерить, когда появятся первые контракты. — Olya