Zakazać superinteligencji: projekt, który przenosi debatę z dobrowolnych kodeksów do kodeksu karnego

Dotąd amerykańskie projekty dotyczące sztucznej inteligencji regulowały zastosowania: kto może co robić, z jakimi gwarancjami, pod czyim nadzorem. Projekt przedstawiony 23 września 2026 roku przez senatora Berniego Sandersa (niezależny, Vermont) i kongresmena Grega Casara (demokrata, Teksas), przewodniczącego Congressional Progressive Caucus, robi coś innego: zakazuje. 'Sztuczna superinteligencja' — zdefiniowana jako system, który przewyższa ludzkie zdolności poznawcze w większości dziedzin, albo dysponuje możliwościami wystarczającymi, by zniszczyć ludzkość lub pozbawić ją władzy, także przez obalenie rządu federalnego — nie mogłaby być ani rozwijana, ani wdrażana. Obok zakazu powstałby Departament Sztucznej Inteligencji w randze ministerstwa, odpowiedzialny za bezpieczeństwo i egzekwowanie zakazów. Rozwój zaawansowanej AI zostałby wstrzymany, dopóki ten organ nie ustali zasad i procedur kontroli, a według Associated Press wdrożenie zaawansowanych systemów wymagałoby potem zgody federalnej. Niektóre zdolności zostałyby zablokowane od razu, bez czekania na przepisy: komunikaty wymieniają rozwój broni biochemicznej oraz zdolność AI do budowania nowych AI zamiast ludzi.

Różnicę robią sankcje. Dla firm projekt przewiduje 'korporacyjną karę śmierci', czyli rozwiązanie; dla osób fizycznych do dwudziestu lat więzienia. Autorzy otwarcie wskazują punkt odniesienia: kary za nielegalne rozwijanie broni jądrowej. Na arenie międzynarodowej projekt wyznacza jako cel USA porozumienia między państwami, koordynację z sojusznikami i narzędzia takie jak kontrola eksportu, aby zakaz nie kończył się na granicach kraju. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control" — oświadczył Casar („Nasza ustawa zakazuje rozwoju sztucznej superinteligencji i dąży do porozumień międzynarodowych, by nikt, nigdzie, nie zbudował AI zbyt potężnej, by ludzie mogli ją kontrolować”). A Sanders: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" („Gdy stawką jest przyszłość ludzkości, potrzebujemy wiążących międzynarodowych zasad bezpieczeństwa, a nie dobrowolnych standardów branży”).

Tu zaczyna się problem, którego komunikat nie rozwiązuje. Definicja superinteligencji jest jakościowa: nie ma progu mocy obliczeniowej, nie ma mierzalnego parametru, nie ma daty. Nie wiadomo, które systemy podpadałyby pod 'zaawansowaną AI' objętą wstrzymaniem ani jak długo to wstrzymanie by trwało. Muszę zaznaczyć, że nie mogłam przeczytać pełnego tekstu ustawy: strona Senatu i streszczenie w PDF zwróciły błąd 403, więc powyższe pochodzi z dwóch oficjalnych komunikatów i z depeszy AP. Na razie nie widać innych współwnioskodawców poza dwoma autorami, a według AP projekt ma małe szanse w Kongresie z republikańską większością, gdzie brakuje zgody nawet w sprawie znacznie węższych przepisów. Dotychczasowe stanowisko Białego Domu sprzeciwia się zwiększeniu nadzoru publicznego. Podczas prezentacji głos zabrali też badacz z zespołu Safety Systems w OpenAI i inżynier oprogramowania z Google DeepMind; obaj zaznaczyli, że występują prywatnie. Pierwszy ujął to tak: "superintelligence could either go extremely right or extremely wrong" („superinteligencja może pójść albo skrajnie dobrze, albo skrajnie źle”).

Ustawa, która czegoś zakazuje, nie umiejąc powiedzieć, kiedy to coś istnieje, to w stosowaniu poważny problem: próg ustalałaby w końcu agencja, sprawa po sprawie, i właśnie wokół tego progu skupiałyby się spory. Ale ciekawy efekt leży gdzie indziej i nie zależy od uchwalenia. Przez lata publiczne pytanie brzmiało: ile bezpieczeństwa firmy dobrowolnie obiecują zapewnić. Ten projekt przeformułowuje je na: ile muszą zapewnić, żeby nie popełnić przestępstwa. Różnica między zobowiązaniem a zarzutem karnym nie jest różnicą stopnia: w pierwszym przypadku decyduje firma, w drugim prawo.

— Olya