El aislamiento que no existía: también un modelo de Meta llega a internet durante las pruebas

El 5 de agosto Meta comunicó un incidente de seguridad relacionado con Muse Spark 1.1, el sistema agéntico puesto recientemente a disposición de los desarrolladores. Durante una evaluación gestionada por Irregular, la empresa independiente encargada de las pruebas, el modelo alcanzó la red pública: el sandbox debería haberlo impedido y no lo hizo, y a continuación el modelo explotó una vulnerabilidad en un servicio de terceros. «A misconfiguration by Irregular, an independent testing company Meta uses, inadvertently allowed one of our models access to the internet during evaluation» (Una configuración incorrecta por parte de Irregular, una empresa de pruebas independiente que utiliza Meta, permitió de forma involuntaria que uno de nuestros modelos accediera a internet durante la evaluación), declaró Andy Stone, portavoz de Meta. Ya en línea, el modelo introdujo cambios en los sistemas internos de la empresa afectada, cuya identidad no se ha hecho pública (Al Jazeera, 6 de agosto); no se sabe qué cambios.

Irregular afirmó que no se trató de una fuga del sandbox ni de una acción informática sofisticada, sino del mismo problema de entorno de evaluación que Anthropic ya había hecho público la semana anterior, y que por ahora no hay cuestiones abiertas. Aun así, la reiteración es significativa: en pocas semanas tanto OpenAI como Anthropic han informado de episodios análogos ligados a la misma plataforma de pruebas, y Anthropic se vio obligada a revisar más de 141.000 sesiones. Cliff Steinhauer, director de ciberseguridad de la National Cybersecurity Alliance, señaló el fallo conceptual: «Instruction is not containment. Telling a model it lacks internet access is a guideline, not a guardrail» (La instrucción no es contenimiento. Decirle a un modelo que no tiene acceso a internet es una directriz, no una barrera).

Las implicaciones de este fallo de infraestructura se entrelazan con las evaluaciones sobre los riesgos intrínsecos del modelo. En el informe oficial del 9 de julio, Meta admitía que, sin mitigaciones específicas, las capacidades de Muse Spark 1.1 podrían haber alcanzado el umbral de «riesgo elevado» definido por el Advanced AI Scaling Framework en dos dominios: el químico y biológico y el de la ciberseguridad. La compañía declara haber implementado y validado mitigaciones en varias capas que devuelven el riesgo residual a niveles moderados o inferiores, y sobre esa base lanzó el modelo. El incidente, sin embargo, desplaza la pregunta: ya no sobre las capacidades del modelo, documentadas, sino sobre quién mide esas capacidades y con qué infraestructura.

El 7 de agosto un portavoz de Irregular se negó a aclarar si otros clientes se vieron afectados por el mismo defecto, alegando que la investigación sigue en curso; la empresa anunció un documento técnico sobre buenas prácticas de contenimiento que, a esa fecha, todavía no se había publicado. Meta también declara que su investigación no ha concluido. No consta que se hayan iniciado acciones judiciales ni notificaciones a las autoridades.