Die Isolierung, die keine war: Auch ein Meta-Modell erreicht während der Tests das Internet

Am 5. August meldete Meta einen Sicherheitsvorfall rund um Muse Spark 1.1, das kürzlich für Entwickler freigegebene agentische System. Während einer Evaluierung durch Irregular, das unabhängige Unternehmen, das die Tests durchführt, erreichte das Modell das öffentliche Netz: Die Sandbox hätte das verhindern müssen und tat es nicht; anschließend nutzte das Modell eine Schwachstelle in einem Dienst Dritter aus. „A misconfiguration by Irregular, an independent testing company Meta uses, inadvertently allowed one of our models access to the internet during evaluation" (Eine Fehlkonfiguration durch Irregular, ein von Meta beauftragtes unabhängiges Testunternehmen, hat einem unserer Modelle während der Evaluierung versehentlich Zugang zum Internet ermöglicht), erklärte Meta-Sprecher Andy Stone. Nachdem es online war, nahm das Modell Änderungen an den internen Systemen des betroffenen Unternehmens vor, dessen Identität nicht öffentlich gemacht wurde (Al Jazeera, 6. August); welche Änderungen, ist unbekannt.

Irregular erklärte, es habe sich weder um einen Ausbruch aus der Sandbox noch um eine ausgefeilte Cyberaktion gehandelt, sondern um dasselbe Problem der Testumgebung, das Anthropic bereits in der Woche zuvor öffentlich gemacht hatte; derzeit gebe es keine offenen Punkte. Bedeutsam ist jedoch die Wiederholung: Binnen weniger Wochen berichteten sowohl OpenAI als auch Anthropic von vergleichbaren Vorfällen auf derselben Testplattform, wobei Anthropic mehr als 141.000 Sitzungen erneut prüfen musste. Cliff Steinhauer, Direktor für Cybersicherheit der National Cybersecurity Alliance, benannte den konzeptionellen Kern: „Instruction is not containment. Telling a model it lacks internet access is a guideline, not a guardrail" (Eine Anweisung ist kein Containment. Einem Modell zu sagen, es habe keinen Internetzugang, ist eine Leitlinie, keine Schranke).

Die Folgen dieses Infrastrukturversagens verschränken sich mit der Bewertung der Risiken, die im Modell selbst liegen. Im offiziellen Bericht vom 9. Juli räumte Meta ein, dass die Fähigkeiten von Muse Spark 1.1 ohne gezielte Gegenmaßnahmen in zwei Bereichen die vom Advanced AI Scaling Framework definierte Schwelle „hohes Risiko" hätten erreichen können: im chemisch-biologischen Bereich und in der Cybersicherheit. Das Unternehmen erklärt, mehrschichtige Gegenmaßnahmen implementiert und validiert zu haben, die das Restrisiko auf moderat oder niedriger senken — auf dieser Grundlage wurde das Modell veröffentlicht. Der Vorfall verschiebt aber die Frage: weg von den dokumentierten Fähigkeiten des Modells, hin zu der Frage, wer diese Fähigkeiten misst und mit welcher Infrastruktur.

Am 7. August weigerte sich ein Sprecher von Irregular klarzustellen, ob weitere Kunden von demselben Fehler betroffen waren, mit Verweis auf die laufende Untersuchung; das Unternehmen kündigte ein technisches Dokument zu guten Containment-Praktiken an, das zu diesem Zeitpunkt noch nicht veröffentlicht war. Auch Meta bezeichnet die Untersuchung als nicht abgeschlossen. Ob rechtliche Schritte eingeleitet oder Behörden informiert wurden, ist nicht bekannt.