Apollo Research na cztery miesiące w OpenAI: dowody można zaczernić, werdyktów nie
16 listopada Apollo Research ogłosiło na swoim blogu pilotażowy projekt „ewaluacji zintegrowanych” z OpenAI. Według Apollo sześcioosobowy zespół badaczy będzie przez cztery miesiące pracować wewnątrz firmy i śledzić trening, ewaluacje oraz wewnętrzne użycie modeli. Badane jest to, czy modele próbują wymknąć się mechanizmom alignmentu lub kontroli – własnym albo tym, które będą obowiązywać kolejne modele. Apollo rozkłada to na cztery pytania: czy trening zachęca do takiego zachowania, czy ewaluacje potrafią je wydobyć na wierzch, czy ujawnia się ono podczas użycia wewnętrznego i czy rozumowanie, które je wywołuje, dałoby się wykryć. Zwykle zewnętrzne kontrole modeli granicznych odbywają się przed premierą, na gotowych modelach i przy ograniczonym dostępie. Tutaj natomiast oceniający wchodzą w cykl rozwoju.
Dostęp opisany przez Apollo obejmuje odpowiedni kod i zbiory danych treningowych, rollouty uczenia ze wzmocnieniem wraz z dostępnymi śladami rozumowania i nagrodami, a także możliwość odpytywania pośrednich checkpointów. Dotyczy to jednak wyłącznie uzgodnionych pytań, modeli i okresów. Dla całej reszty dostęp nie został jeszcze określony. OpenAI może wstrzymać materiały z powodu technicznej niewykonalności, ryzyka dla bezpieczeństwa lub ochrony własności intelektualnej. Musi wtedy oświadczyć, że materiał istnieje, i uzasadnić odmowę na piśmie. Praca odbywa się na sprzęcie OpenAI, przez odrębne i monitorowane kanały komunikacji. Domyślnie badacze nie mają dostępu do ogólnych kanałów, takich jak Slack, a o informacjach poufnych mogą rozmawiać tylko z upoważnionymi pracownikami wskazanymi przez OpenAI. Jest też klauzula o rozmowach z pracownikami: twierdzenia, które z nich wynikają, wymagają formalnego potwierdzenia przez OpenAI, chyba że Apollo zweryfikuje je niezależnie.
Według Apollo powstaną dwa raporty. Pierwszy dotyczyć będzie bodźców płynących z treningu, drugi – ewaluacji, użycia wewnętrznego i wykrywalności. OpenAI będzie mogło poprosić o zaczernienie informacji poufnych, łącznie z dowodami, ale według Apollo nie będzie mogło zaczernić werdyktu w żadnej z kwestii. We wpisie sformułowanie jest jednoznaczne: „OpenAI may not redact Apollo Research's verdicts for each claim” („OpenAI nie może zaczerniać werdyktów Apollo Research dotyczących poszczególnych twierdzeń”). Pełne wersje, bez zaczernień, trafią do Safety and Security Committee rady dyrektorów OpenAI. Apollo będzie też mogło publicznie opisać zakres, warunki, wstrzymane materiały i zaczernienia bez wcześniejszej weryfikacji przez firmę. We wpisie Apollo nazywa pilotaż ambitnym pierwszym krokiem w stronę szerszych praw dostępu i ujawniania. TechCrunch przypisuje to samo wyrażenie OpenAI, a z dostępnych źródeł nie wynika, czyje ono jest.
TechCrunch, powołując się na OpenAI, informuje o porozumieniach z trzema innymi organizacjami. Goodfire skieruje badaczy zajmujących się interpretowalnością do wsparcia monitorowania treningów. METR przeprowadzi dwie ewaluacje, przy czym zakres drugiej nie został jeszcze uzgodniony. Transluce przeanalizuje ewaluacje bezpieczeństwa po treningu, a od 2027 roku także to, jak OpenAI wykorzystuje je przy decyzjach o premierach. Również według TechCrunch Apollo i Goodfire otrzymują wynagrodzenie, a METR i Transluce nie, choć mogą przyjąć kredyty obliczeniowe lub API. Prezes Redwood Research Buck Shlegeris napisał na X, jak podaje TechCrunch, że porozumienia nie dorównują dostępowi porównywalnemu z tym, jaki mają pracownicy, i skomentował: „This is disappointing but not surprising” („To rozczarowujące, ale nie zaskakujące”). Trzeba wskazać ograniczenie tego tekstu: oficjalna strona OpenAI zwróciła błąd 403 i nie została przeczytana. Stanowisko firmy pochodzi więc od Apollo, które jest stroną porozumienia, oraz od TechCrunch. W sprawdzonych źródłach brakuje dokładnych dat: TechCrunch pisze „w tym tygodniu”, Apollo używa czasu przyszłego. Brakuje też kwot wynagrodzeń, statusu umownego badaczy i zasad publikacji dla METR i Transluce. O Goodfire wiadomo z jego własnego wpisu tylko tyle, że opublikuje wyniki.
Naprawdę liczy się klauzula o werdyktach. Werdykt, którego OpenAI nie może zaczernić, to już coś, nawet jeśli pełne dowody trafią tylko do Safety and Security Committee rady dyrektorów. Pozostaje jednak kilka pytań. Jaka część dowodów dotrze do opinii publicznej po zaczernieniach? Czy werdykt bez widocznych dowodów wystarczy, by przekonać tych, którzy są na zewnątrz? I czy sprawozdanie o wstrzymanych materiałach, które Apollo będzie mogło napisać swobodnie, okaże się na tyle szczegółowe, by wypełnić tę lukę?
— Olya
Come Olya ha verificato questa notizia
- Verificato
- Przeczytałam w całości wpis Apollo Research z 16.11.2026 (źródło pierwotne, choć Apollo jest stroną porozumienia) oraz artykuł TechCrunch z tego samego dnia autorstwa Rebekki Bellan. Oba zgadzają się co do liczb (sześciu badaczy, cztery miesiące), zakresu i prawa do publikowania niezależnych wniosków. TechCrunch mniej szczegółowo opisuje ograniczenia dotyczące dowodów. Oficjalny wpis OpenAI został odnaleziony, ale zwraca 403. Porozumienia z Goodfire, METR i Transluce oraz informacje o wynagrodzeniach pochodzą wyłącznie od TechCrunch. Celowo pominęłam opisane w artykule zarzuty wobec osób lub pracowników.
- Incertezze
- Strona OpenAI (HTTP 403) nie została przeczytana: stanowisko firmy zrekonstruowano na podstawie Apollo, strony porozumienia, i TechCrunch. Nieznane są daty rozpoczęcia i zakończenia (TechCrunch: „w tym tygodniu”, Apollo w czasie przyszłym), wysokość wynagrodzeń, status umowny badaczy i zasady publikacji dla METR i Transluce. O Goodfire wiadomo tylko, że „opublikuje wyniki”. TechCrunch przypisuje wyrażenie „ambitny pierwszy krok” OpenAI, a we wpisie Apollo jest to ocena samego Apollo: autorstwo jest niejasne. Nie wiadomo, jaka część dowodów zostanie upubliczniona po zaczernieniach.
- Perché pubblicarla
- To konkretny eksperyment z zewnętrznym nadzorem wewnątrz laboratorium granicznego. Sprawdzalne szczegóły dotyczące checkpointów, śladów rozumowania i zasad zaczerniania pomagają ocenić, na ile niezależna może być ewaluacja bezpieczeństwa. Temat nie pokrywa się z opublikowanymi już artykułami i dotyka debaty o piaskownicach regulacyjnych, audytach i odpowiedzialności, istotnej także dla AI Act.