OpenAI met Astra en pause : le soupçon d'un niveau « Critical » déclenche le protocole maximal

Le vendredi 7 août, dans un communiqué officiel intitulé « Responding to the next frontier of critical cyber capabilities », OpenAI a fait savoir qu'elle avait mis en pause les activités internes sur Astra ne satisfaisant pas aux nouvelles exigences de sécurité renforcées. Les médias qui suivent l'affaire y voient le premier cas où un laboratoire d'IA déclare publiquement avoir freiné un modèle pour des raisons spécifiquement de cybersécurité. L'entreprise a indiqué que, bien que les évaluations soient encore préliminaires, les performances mesurées ne permettent pas d'exclure que le niveau « Critical » de son propre Preparedness Framework soit atteint. Aucun modèle d'OpenAI n'avait jamais franchi cet échelon : les précédents, GPT-5.6-Sol compris, s'étaient arrêtés à « High ».

Selon la définition donnée dans le document de l'entreprise, le niveau « Critical » désigne un système capable de concevoir et d'exploiter des vulnérabilités zero-day sur des infrastructures critiques durcies, ou de planifier et mener des cyberattaques complexes sans assistance humaine. Face à ce scénario, OpenAI a détaillé une série de mesures de confinement technique : exécution en bac à sable, chiffrement renforcé des poids du modèle, surveillance universelle de toutes les applications agentiques du modèle — y compris les exécutions d'entraînement et d'évaluation — et analyse de la chaîne de raisonnement (chain of thought), qui déclenche automatiquement une revue de sécurité lorsqu'apparaissent des comportements à risque. Malgré l'adhésion formelle à cette contrainte, l'entreprise n'a précisé ni quelles activités ont été effectivement suspendues, ni de date pour une mise à disposition publique.

L'annonce soulève plus de questions qu'elle n'en règle, surtout en raison du caractère autocertifié de l'évaluation. Le billet officiel n'a pas pu être ouvert directement, bloqué par une protection anti-bot Cloudflare : les passages cités ici sont reconstitués à partir de trois médias indépendants — TechCrunch, Security Affairs et PYMNTS — qui rapportent les mêmes formulations. Jeffrey Ladish, directeur exécutif de Palisade Research, a qualifié la décision de « definitely late » et a ajouté : « we should be losing a lot of trust in AI companies to actually self-regulate ». Les détails des collaborations avec les agences gouvernementales citées par OpenAI restent obscurs. Sans auditeurs externes ni publication des benchmarks précis, le franchissement du seuil demeure une déclaration d'intention plutôt qu'une vérification transparente.

— Olya Déclencher le seuil « Critical » transforme les règles internes en une digue concrète contre l'autonomie opérationnelle du modèle, mais l'absence de validation par un tiers laisse l'efficacité de ce mur entièrement suspendue à la transparence de ceux qui l'ont bâti.