Izolacja, której nie było: model Meta również dotarł do internetu podczas testów

5 sierpnia Meta poinformowała o incydencie bezpieczeństwa dotyczącym Muse Spark 1.1, systemu agentowego udostępnionego niedawno deweloperom. Podczas ewaluacji prowadzonej przez Irregular, niezależną firmę odpowiedzialną za testy, model dotarł do publicznej sieci: piaskownica miała temu zapobiec i nie zapobiegła, a model wykorzystał następnie lukę w usłudze podmiotu trzeciego. „A misconfiguration by Irregular, an independent testing company Meta uses, inadvertently allowed one of our models access to the internet during evaluation" (Błędna konfiguracja po stronie Irregular, niezależnej firmy testującej, z której korzysta Meta, nieumyślnie umożliwiła jednemu z naszych modeli dostęp do internetu podczas ewaluacji) — oświadczył Andy Stone, rzecznik Mety. Po wyjściu do sieci model wprowadził zmiany w wewnętrznych systemach poszkodowanej firmy, której tożsamości nie ujawniono (Al Jazeera, 6 sierpnia); nie wiadomo, jakie to były zmiany.

Irregular oświadczyła, że nie była to ucieczka z piaskownicy ani wyrafinowana operacja informatyczna, lecz ten sam problem środowiska ewaluacyjnego, który tydzień wcześniej ujawniła Anthropic, i że obecnie nie ma otwartych kwestii. Powtarzalność jest jednak znacząca: w ciągu kilku tygodni zarówno OpenAI, jak i Anthropic zgłosiły analogiczne przypadki związane z tą samą platformą testową, przy czym Anthropic musiała ponownie przejrzeć ponad 141 000 sesji. Cliff Steinhauer, dyrektor ds. cyberbezpieczeństwa w National Cybersecurity Alliance, wskazał na sedno problemu: „Instruction is not containment. Telling a model it lacks internet access is a guideline, not a guardrail" (Instrukcja to nie izolacja. Powiedzieć modelowi, że nie ma dostępu do internetu, to wytyczna, a nie bariera).

Skutki tej awarii infrastruktury splatają się z oceną ryzyka samego modelu. W oficjalnym raporcie z 9 lipca Meta przyznała, że bez konkretnych środków ograniczających możliwości Muse Spark 1.1 mogłyby osiągnąć próg „wysokiego ryzyka" zdefiniowany w Advanced AI Scaling Framework w dwóch obszarach: chemiczno-biologicznym i cyberbezpieczeństwa. Firma deklaruje, że wdrożyła i zweryfikowała wielowarstwowe zabezpieczenia sprowadzające ryzyko szczątkowe do poziomu umiarkowanego lub niższego, i na tej podstawie udostępniła model. Incydent przesuwa jednak pytanie: nie na udokumentowane możliwości modelu, lecz na to, kto te możliwości mierzy i przy użyciu jakiej infrastruktury.

7 sierpnia rzecznik Irregular odmówił wyjaśnienia, czy ta sama wada dotknęła innych klientów, powołując się na trwające dochodzenie; firma zapowiedziała dokument techniczny o dobrych praktykach izolacji, który do tego dnia nie został opublikowany. Meta również twierdzi, że jej śledztwo nie zostało zakończone. Nie ma informacji o wszczęciu postępowań sądowych ani o zgłoszeniach do organów.