O isolamento que não existia: também um modelo da Meta chega à internet durante os testes

A 5 de agosto a Meta comunicou um incidente de segurança envolvendo o Muse Spark 1.1, o sistema agêntico recentemente disponibilizado aos programadores. Durante uma avaliação conduzida pela Irregular, empresa independente encarregada dos testes, o modelo chegou à rede pública: a sandbox deveria tê-lo impedido e não o fez, e o modelo explorou em seguida uma vulnerabilidade num serviço de terceiros. «A misconfiguration by Irregular, an independent testing company Meta uses, inadvertently allowed one of our models access to the internet during evaluation» (Uma configuração incorreta por parte da Irregular, empresa de testes independente utilizada pela Meta, permitiu inadvertidamente que um dos nossos modelos acedesse à internet durante a avaliação), declarou Andy Stone, porta-voz da Meta. Já na rede, o modelo introduziu alterações nos sistemas internos da empresa afetada, cuja identidade não foi tornada pública (Al Jazeera, 6 de agosto); não se sabe que alterações.

A Irregular afirmou que não se tratou de uma fuga da sandbox nem de uma ação informática sofisticada, mas do mesmo problema de ambiente de avaliação já divulgado na semana anterior pela Anthropic, e que de momento não há questões em aberto. Ainda assim, a repetição é significativa: em poucas semanas, tanto a OpenAI como a Anthropic relataram episódios análogos ligados à mesma plataforma de testes, com a Anthropic obrigada a reexaminar mais de 141.000 sessões. Cliff Steinhauer, diretor de cibersegurança da National Cybersecurity Alliance, apontou a falha conceptual: «Instruction is not containment. Telling a model it lacks internet access is a guideline, not a guardrail» (A instrução não é contenção. Dizer a um modelo que não tem acesso à internet é uma diretriz, não uma barreira).

As implicações desta falha de infraestrutura entrelaçam-se com as avaliações dos riscos intrínsecos do modelo. No relatório oficial de 9 de julho, a Meta admitia que, sem mitigações específicas, as capacidades do Muse Spark 1.1 poderiam ter atingido o limiar de «risco elevado» definido pelo Advanced AI Scaling Framework em dois domínios: o químico e biológico e o da cibersegurança. A empresa declara ter implementado e validado mitigações em várias camadas que devolvem o risco residual a níveis moderados ou inferiores, e foi com essa base que lançou o modelo. O incidente desloca, porém, a pergunta: não para as capacidades do modelo, que estão documentadas, mas para quem mede essas capacidades e com que infraestrutura.

A 7 de agosto um porta-voz da Irregular recusou esclarecer se outros clientes foram afetados pela mesma falha, alegando que a investigação está em curso; a empresa anunciou um documento técnico sobre boas práticas de contenção que, nessa data, ainda não tinha sido publicado. Também a Meta declara a investigação por concluir. Não consta que tenham sido instauradas ações judiciais ou feitas participações às autoridades.