Запретить сверхинтеллект: законопроект, который переносит спор из добровольных кодексов в уголовный кодекс

До сих пор американские законопроекты об искусственном интеллекте регулировали применение: кто что может делать, с какими гарантиями, под чьим надзором. Документ, внесённый 23 сентября 2026 года сенатором Берни Сандерсом (независимый, Вермонт) и конгрессменом Грегом Касаром (демократ, Техас), председателем Congressional Progressive Caucus, делает другое: он запрещает. «Искусственный сверхинтеллект» — система, превосходящая когнитивные возможности человека в большинстве областей или обладающая способностями, достаточными, чтобы уничтожить человечество или лишить его власти, в том числе путём свержения федерального правительства, — не мог бы ни разрабатываться, ни применяться. Наряду с запретом появилось бы Министерство искусственного интеллекта с правами федерального ведомства уровня кабинета, отвечающее за безопасность и соблюдение запретов. Разработка продвинутого ИИ была бы приостановлена, пока это ведомство не установит правила и процедуры проверки, а по данным Associated Press, для применения продвинутых систем затем потребовалось бы федеральное разрешение. Некоторые возможности были бы заблокированы сразу, не дожидаясь правил: в пресс-релизах упоминаются разработка биохимического оружия и способность ИИ создавать новые ИИ вместо людей.

Главное отличие — в санкциях. Для компаний законопроект предусматривает «корпоративную смертную казнь», то есть ликвидацию; для физических лиц — до двадцати лет лишения свободы. Авторы открыто называют ориентир: наказания за незаконную разработку ядерного оружия. На международном уровне документ ставит целью США соглашения между странами, координацию с союзниками и такие инструменты, как экспортный контроль, чтобы запрет не заканчивался на национальных границах. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", — заявил Касар («Наш законопроект запрещает разработку искусственного сверхинтеллекта и добивается международных соглашений, чтобы никто и нигде не создал ИИ, слишком мощный, чтобы люди могли его контролировать»). И Сандерс: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" («Когда на кону будущее человечества, нужны обязательные международные правила безопасности, а не добровольные стандарты отрасли»).

Здесь начинается проблема, которую пресс-релиз не решает. Определение сверхинтеллекта качественное: нет порога вычислительной мощности, нет измеримого параметра, нет даты. Неясно, какие системы попали бы под «продвинутый ИИ», на который распространяется пауза, и сколько эта пауза продлится. Должна оговориться: полный текст законопроекта я прочитать не смогла — сайт Сената и PDF с кратким изложением оба ответили ошибкой 403, так что всё сказанное выше взято из двух официальных пресс-релизов и материала AP. Других соавторов, кроме двух инициаторов, пока не видно, и, по данным AP, у законопроекта мало шансов пройти через Конгресс с республиканским большинством, где нет согласия даже по гораздо более узким правилам. Позиция, которую до сих пор выражал Белый дом, направлена против усиления государственного надзора. На презентации выступили также исследователь из команды Safety Systems в OpenAI и инженер-программист Google DeepMind; оба подчеркнули, что говорят от своего имени. Первому принадлежит формула "superintelligence could either go extremely right or extremely wrong" («сверхинтеллект может обернуться либо чрезвычайно хорошо, либо чрезвычайно плохо»).

Закон, который что-то запрещает, но не может сказать, когда это что-то существует, — серьёзная проблема для правоприменения: порог в итоге определяло бы ведомство в каждом случае отдельно, и именно вокруг этого порога сосредоточились бы судебные споры. Но интересный эффект в другом, и он не зависит от принятия закона. Годами публичный вопрос звучал так: сколько безопасности компании добровольно обязуются обеспечить. Этот законопроект переформулирует его: сколько они должны обеспечить, чтобы не совершить преступление. Разница между обязательством и обвинением — не в степени: в первом случае решает компания, во втором — закон.

— Olya