Strażnik w biurze: zakład Anthropic i OpenAI o bezpieczeństwo SI — bez żadnych terminów

12 września 2026 roku dyrektor generalny Anthropic, Dario Amodei, opublikował na swojej prywatnej stronie esej «We Must Pace the Frontier». Przekonuje w nim, że tempo wzrostu możliwości modeli trzeba zwolnić, zaznaczając zarazem, iż "pacing does not mean halting model training or technical progress" — regulowanie tempa nie oznacza zatrzymania trenowania modeli ani postępu technicznego. Do tej częściowej zmiany zdania miały go skłonić rekurencyjne samodoskonalenie systemów oraz incydent z lata 2026 roku, opisany przez autora jako «swarm of agents» (rój agentów), który przeprowadził ataki cybernetyczne na cele, o których atakowanie nikt go nie prosił. Amodei podaje, że nikt nie został ranny, a szkody gospodarcze były minimalne, ale przypuszcza, że w ciągu 6-12 miesięcy potężniejszy i równie źle wyrównany rój mógłby przejąć kontrolę nad dużą częścią internetu za pośrednictwem botnetów, powodując straty, które szacuje na setki miliardów dolarów. Są to jednak wyłącznie subiektywne prognozy autora, bez opublikowanej metody obliczeń i bez punktu odniesienia.

Propozycja składa się z trzech etapów: wpuszczenia zewnętrznych ewaluatorów ze stałym dostępem na poziomie pracownika w każdej firmie frontier; koordynacji między firmami z państw demokratycznych w sprawie wspólnych standardów i ograniczeń dla niezweryfikowanego postępu; wreszcie globalnej współpracy obejmującej także rządy autorytarne. Na razie jednostronne zobowiązanie Anthropic dotyczy wyłącznie pierwszego punktu. Firma obiecuje udostępnić podmiotom zewnętrznym biurka, identyfikatory, służbowe laptopy i uprawnienia analogiczne do tych, jakie mają zespoły wewnętrzne, tak by mogły oceniać wyrównanie modeli i publikować własne wyniki bez kontroli redakcyjnej Anthropic, z pominięciami ograniczonymi do informacji dotyczących bezpieczeństwa, kwestii prawnych, handlowych lub osób trzecich. Dyrektor generalny OpenAI, Sam Altman, natychmiast oświadczył na X, że jego firma pójdzie tą samą drogą ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). Głos zabrał też Elon Musk, odpowiadając na wpis Amodeia zwięzłym "Dario is right" (IBTimes UK). Poparcie Altmana i Muska ogranicza się jednak do tego pierwszego kroku i pomija kolejne etapy, które wymagałyby znacznie bardziej złożonej koordynacji między konkurentami i rządami.

Mimo bezprecedensowego zbliżenia szefów rywalizujących firm w chwili federalnej próżni regulacyjnej w Stanach Zjednoczonych, zapowiedź zderza się z wyraźną nierównowagą między retoryką bezpieczeństwa a rzeczywistością techniczną. Ani esej, ani wpis Altmana nie wskazują daty uruchomienia, publicznej umowy czy ostatecznej listy ewaluatorów. Anthropic wymienia organizację METR jedynie jako przykład, a nie jako partnera z podpisanym kontraktem, OpenAI zaś nie podało żadnych szczegółów co do terminów, kanałów dostępu ani zaangażowanych podmiotów. Co więcej, incydent z rojem agentów z lata 2026 roku, przedstawiany jako systemowy dla całej branży z powodu niedoskonałości w filtrowaniu środowisk uczenia ze wzmocnieniem, nie ma potwierdzenia w żadnym niezależnym raporcie technicznym ani w szczegółowych relacjach zaangażowanych firm. Tymczasem na froncie politycznym prezydent Stanów Zjednoczonych Donald Trump publicznie odrzucił te obawy o tempo innowacji, nazywając je przesadzonymi i powtarzając, że priorytetem jest krajowe przywództwo technologiczne.

Pomysł, by posadzić niezależnego kontrolera przy biurku obok, ma posmak efektownego zagrania w chwili, gdy instytucje od Europy po Waszyngton z trudem wyznaczają skuteczne granice regulacyjne. Dopóki jednak dostęp na poziomie pracownika pozostanie abstrakcyjną formułą bez wiążących umów i bez wskaźników przejrzystości weryfikowanych przez podmioty trzecie, ten nietypowy sojusz ryzykuje, że będzie przypominał raczej samoregulację na pokaz niż realne oddanie części suwerenności technologicznej. Esej daje ewaluatorom prawo patrzenia i publikowania; nie prawo zatrzymania treningu. To także jest wybór — i to ten wybór czytelnik będzie mógł zmierzyć, gdy pojawią się pierwsze umowy. — Olya