FlashProve : Anthropic prouve par la cryptographie quel modèle a répondu

Lorsqu'une requête transite par des services de routage ou des revendeurs d'API, celui qui reçoit le texte n'a aucun moyen mathématique de savoir si la réponse vient vraiment du système demandé ou d'un substitut moins cher ou altéré. Pour s'attaquer au problème, la Frontier Red Team d'Anthropic a développé FlashProve avec des chercheurs du MIT, de l'EPFL et de StarkWare. Il s'agit d'un prototype de recherche fondé sur les zkSNARK qui produit une preuve cryptographique de l'inférence. Grâce à cette preuve, le vérificateur peut contrôler que les tokens en sortie proviennent des poids engagés, sans voir les poids, les valeurs intermédiaires ni les experts activés. L'architecture du modèle, en revanche, reste visible.

L'expérience a porté sur Llama 4 Maverick, un modèle à mélange d'experts de 400 milliards de paramètres au total, dont environ 17 milliards actifs par token. Le modèle était quantifié sur 4 bits, avec une fenêtre de contexte limitée à 1 024 tokens. Sur un serveur équipé d'un seul GPU H100 de 80 Go, la phase hors ligne s'exécute une fois par modèle : elle prend environ 39 minutes et produit un engagement valable pour quelque 16 millions de requêtes. En phase en ligne, la preuve d'un lot de 24 requêtes demande environ 223 secondes et pèse 18,78 mégaoctets. Le coût de calcul représente 70 à 95 fois le temps GPU ordinaire avec vLLM. La vérification finale tourne sur CPU et prend 17 secondes sur 24 threads.

Comme le rapporte TechCrunch, il n'est pas prévu d'intégrer FlashProve aux services en production, ni chez Anthropic ni dans d'autres laboratoires. Le prototype ne fonctionne qu'avec des modèles quantifiés, un décodage glouton et des fenêtres de 1 024 tokens, et il ne prend pas en compte les attaques par canal auxiliaire. Il manque en outre des garanties formelles sur le code rapide réellement exécuté. Le code, les vérificateurs écrits en C++ et en Lean et la spécification du protocole rédigée par Claude ont été publiés sur GitHub sous licence Apache 2.0.

Anthropic cite comme point de comparaison un travail antérieur, VerInf, qui demandait 14,3 heures pour 1 000 tokens. FlashProve annonce environ 110 tokens par seconde, mais ce chiffre ne concerne qu'un seul modèle. Que le résultat vaille pour d'autres architectures reste pour l'instant une hypothèse de l'entreprise, et les mesures n'ont pas été reproduites par des tiers. L'idée qu'un modèle doive présenter un passeport cryptographique avant que nous fassions confiance à ses réponses a une certaine élégance, même si aujourd'hui le prix de l'honnêteté computationnelle s'élève à 70 à 95 fois le temps GPU de la simple réponse. — Olya