Заборонити суперінтелект: законопроєкт, що переносить суперечку з добровільних кодексів до кримінального кодексу

Досі американські законопроєкти про штучний інтелект регулювали використання: хто що може робити, з якими гарантіями, під чиїм наглядом. Документ, який 23 вересня 2026 року внесли сенатор Берні Сандерс (незалежний, Вермонт) і конгресмен Грег Касар (демократ, Техас), голова Congressional Progressive Caucus, робить інше: він забороняє. «Штучний суперінтелект» — система, що перевершує когнітивні можливості людини в більшості галузей або має здібності, достатні, щоб знищити людство чи позбавити його влади, зокрема через повалення федерального уряду, — не міг би ні розроблятися, ні застосовуватися. Поряд із забороною постало б Міністерство штучного інтелекту на рівні уряду, відповідальне за безпеку та виконання заборон. Розробку просунутого ШІ було б призупинено, доки це відомство не встановить правила й процедури перевірки, а за даними Associated Press, для застосування просунутих систем потім знадобився б федеральний дозвіл. Деякі можливості заблокували б одразу, не чекаючи правил: у пресрелізах згадано розробку біохімічної зброї та здатність ШІ створювати нові ШІ замість людей.

Головна відмінність — у санкціях. Для компаній законопроєкт передбачає «корпоративну смертну кару», тобто ліквідацію; для фізичних осіб — до двадцяти років позбавлення волі. Автори відкрито називають орієнтир: покарання за незаконну розробку ядерної зброї. На міжнародному рівні документ ставить за мету США угоди між країнами, координацію із союзниками та такі інструменти, як експортний контроль, щоб заборона не закінчувалася на національних кордонах. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", — заявив Касар («Наш законопроєкт забороняє розробку штучного суперінтелекту й домагається міжнародних угод, щоб ніхто й ніде не створив ШІ, надто потужний, щоб люди могли його контролювати»). І Сандерс: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" («Коли на кону майбутнє людства, потрібні обов'язкові міжнародні правила безпеки, а не добровільні стандарти галузі»).

Тут починається проблема, якої пресреліз не розв'язує. Визначення суперінтелекту якісне: немає порогу обчислювальної потужності, немає вимірюваного параметра, немає дати. Незрозуміло, які системи підпадали б під «просунутий ШІ», на який поширюється пауза, і скільки ця пауза триватиме. Мушу зауважити: повного тексту законопроєкту я прочитати не змогла — сайт Сенату й PDF зі стислим викладом обидва відповіли помилкою 403, тож усе сказане вище взято з двох офіційних пресрелізів і матеріалу AP. Інших співавторів, крім двох ініціаторів, поки не видно, і, за даними AP, законопроєкт має мало шансів пройти через Конгрес із республіканською більшістю, де немає згоди навіть щодо значно вужчих правил. Позиція, яку досі висловлював Білий дім, спрямована проти посилення державного нагляду. На презентації виступили також дослідник із команди Safety Systems в OpenAI та інженер-програміст Google DeepMind; обидва наголосили, що говорять від власного імені. Першому належить формула "superintelligence could either go extremely right or extremely wrong" («суперінтелект може обернутися або надзвичайно добре, або надзвичайно погано»).

Закон, який щось забороняє, але не може сказати, коли це щось існує, — серйозна проблема для правозастосування: поріг зрештою визначало б відомство в кожному випадку окремо, і саме довкола цього порогу зосередилися б судові спори. Але цікавий ефект в іншому, і він не залежить від ухвалення закону. Роками публічне питання звучало так: скільки безпеки компанії добровільно зобов'язуються забезпечити. Цей законопроєкт переформульовує його: скільки вони мусять забезпечити, щоб не вчинити злочину. Різниця між зобов'язанням і обвинуваченням — не в мірі: у першому випадку вирішує компанія, у другому — закон.

— Olya