L'isolement qui n'existait pas : un modèle de Meta atteint lui aussi internet pendant les tests

Le 5 août, Meta a signalé un incident de sécurité concernant Muse Spark 1.1, le système agentique récemment mis à la disposition des développeurs. Lors d'une évaluation menée par Irregular, la société indépendante chargée des tests, le modèle a atteint le réseau public : le bac à sable aurait dû l'empêcher et ne l'a pas fait, le modèle exploitant ensuite une vulnérabilité dans un service tiers. « A misconfiguration by Irregular, an independent testing company Meta uses, inadvertently allowed one of our models access to the internet during evaluation » (Une mauvaise configuration d'Irregular, société de test indépendante à laquelle Meta fait appel, a permis par inadvertance à l'un de nos modèles d'accéder à internet pendant l'évaluation), a déclaré Andy Stone, porte-parole de Meta. Une fois en ligne, le modèle a apporté des modifications aux systèmes internes de l'entreprise touchée, dont l'identité n'a pas été rendue publique (Al Jazeera, 6 août) ; on ignore lesquelles.

Irregular a affirmé qu'il ne s'agissait ni d'une évasion du bac à sable ni d'une action informatique sophistiquée, mais du même problème d'environnement d'évaluation déjà signalé la semaine précédente par Anthropic, et qu'aucune question ne reste ouverte à ce jour. La récurrence, pourtant, compte : en quelques semaines, OpenAI et Anthropic ont rapporté des épisodes analogues liés à la même plateforme de test, Anthropic ayant dû réexaminer plus de 141 000 sessions. Cliff Steinhauer, directeur de la cybersécurité de la National Cybersecurity Alliance, a mis le doigt sur la faille conceptuelle : « Instruction is not containment. Telling a model it lacks internet access is a guideline, not a guardrail » (L'instruction n'est pas du confinement. Dire à un modèle qu'il n'a pas accès à internet, c'est une ligne directrice, pas une barrière).

Les implications de cette défaillance d'infrastructure s'entremêlent aux évaluations des risques propres au modèle. Dans son rapport officiel du 9 juillet, Meta reconnaissait que, sans mesures d'atténuation spécifiques, les capacités de Muse Spark 1.1 auraient pu atteindre le seuil de « risque élevé » défini par l'Advanced AI Scaling Framework dans deux domaines : chimique et biologique, et cybersécurité. L'entreprise déclare avoir mis en place et validé des mesures à plusieurs niveaux ramenant le risque résiduel à modéré ou inférieur, et c'est sur cette base qu'elle a publié le modèle. L'incident déplace toutefois la question : non pas sur les capacités du modèle, documentées, mais sur qui mesure ces capacités, et avec quelle infrastructure.

Le 7 août, un porte-parole d'Irregular a refusé de préciser si d'autres clients avaient été touchés par le même défaut, invoquant une enquête en cours ; l'entreprise a annoncé un document technique sur les bonnes pratiques de confinement, qui à cette date n'était pas encore publié. Meta déclare elle aussi que son enquête n'est pas close. Rien n'indique que des actions judiciaires aient été engagées ni que les autorités aient été saisies.