Un fournisseur affirme servir un certain modèle d'intelligence artificielle: comment le client peut-il en être certain? Le 2 novembre, Anthropic a publié FlashProve, un prototype open source qui génère une preuve cryptographique pour démontrer qu'une réponse a été produite par un modèle spécifique, sans en révéler les poids. La démonstration porte sur Llama 4 Maverick dans une version à 4 bits, sur des fenêtres de 1 024 tokens. FlashProve n'est pas un service actif sur les API de Claude, et le code est déclaré non maintenu.
Nous avons lu l'article de recherche d'Anthropic, signé par des chercheurs de l'entreprise avec des universitaires de l'EPFL et du MIT, ainsi que le README du dépôt public sur GitHub. Le post sur X par lequel Anthropic a annoncé ces travaux le 3 novembre n'est pas accessible avec nos outils. Les données de performance citées sont déclarées par Anthropic et n'ont pas été mesurées par des tiers.
New Anthropic research: progress on provable inference for large language models.
, Anthropic (@AnthropicAI) November 3, 2026
Here, we introduce FlashProve. Building on established cryptographic techniques, FlashProve allows developers to verify whether a given response came from a given AI model. It's substantially more…
Le problème: quel modèle a vraiment répondu
Selon Anthropic, les utilisateurs ne peuvent aujourd'hui pas vérifier que les réponses proviennent bien du modèle que le développeur déclare utiliser. L'article identifie deux risques distincts. Le premier concerne les services de routage susceptibles de substituer le modèle promis par un modèle moins coûteux. Le second vise les attaques qui altèrent le flux de tokens entre le modèle et l'utilisateur. Pour les entreprises qui achètent des services d'IA via des plateformes intermédiaires, l'enjeu est concret: elles paient pour un modèle précis et n'ont aucun moyen de contrôler lequel travaille réellement.
Ce sujet prend de l'ampleur avec la multiplication des canaux de distribution: des clouds qui revendent des modèles tiers aux modèles à poids ouverts proposés par plusieurs fournisseurs à des prix variables. La question de la transparence devient ainsi centrale pour tout acheteur de services d'IA en 2026.
Comment ça fonctionne: engagement, preuve, vérification
Le système opère en trois étapes. D'abord, le fournisseur publie une empreinte courte qui l'engage sur un ensemble précis de poids, sans les révéler: selon Anthropic, cette phase prend environ 39 minutes, une seule fois par modèle. Ensuite, pour chaque réponse, le GPU du fournisseur produit une preuve que la séquence de tokens correspond bien à la sortie du modèle engagé. Enfin, n'importe qui peut vérifier la preuve sur un processeur ordinaire, sans poids ni GPU, en disposant uniquement de l'empreinte, du prompt et de la réponse.
La technique utilisée est un zkSNARK, une preuve à divulgation nulle de connaissance: elle démontre qu'un calcul a été exécuté correctement sans révéler les données utilisées. C'est la même famille d'outils que le monde crypto emploie pour la confidentialité et la scalabilité, et que la Banque de France et l'AMF ont examinée dans le cadre des réflexions sur la vie privée dans les paiements numériques. Les poids, les valeurs intermédiaires et le choix des experts du modèle restent cachés. L'architecture, précise Anthropic, n'est pas dissimulée.
Les chiffres du prototype
Llama 4 Maverick est un modèle de 400 milliards de paramètres avec une architecture à experts, dont environ 17 milliards sont actifs par token. Le prototype fonctionne sur une conversion publique à 4 bits. Sur un seul GPU H100 avec 24 cœurs de processeur, selon les données déclarées par Anthropic, la phase de preuve progresse à environ 110 tokens par seconde, avec des preuves d'environ 19 mégaoctets pour chaque requête de 1 024 tokens. La vérification d'une preuve prend 17 secondes sur 24 threads, et le client doit télécharger environ 6,5 mégaoctets de données d'engagement.
Le coût est le facteur le plus pesant. D'après le post de recherche d'Anthropic, générer les preuves requiert entre 70 et 95 fois le temps GPU nécessaire pour faire tourner le modèle avec vLLM, l'un des moteurs d'inférence les plus utilisés. Anthropic compare ce résultat avec un autre travail, celui d'Attestable, qui atteint 53 à 77 tokens par seconde sur un modèle dense de 31 milliards de paramètres, mais sans avoir publié de bibliothèque open source.
Ce que la preuve ne garantit pas
La preuve indique de quel modèle provient une réponse, pas si cette réponse est correcte. Anthropic liste d'autres limites. La preuve concerne le décodage déterministe: avec l'échantillonnage, qui introduit de l'aléatoire dans les réponses, la sortie réelle pourrait diverger à un certain point. Le modèle prouvé correspond à une version intégrale exacte des poids, et une réponse calculée en virgule flottante pourrait s'en écarter. La quasi-équivalence ne couvre pas les prompts construits spécialement pour exploiter les différences, et les attaques basées sur les temps de réponse sortent du périmètre couvert.
Des limites pratiques s'ajoutent à cela. La fenêtre de 1 024 tokens est, selon les termes d'Anthropic, «assez courte» pour une conversation. Le code C++ rapide ne bénéficie pas de garanties formelles et rien n'assure qu'il corresponde exactement à la preuve écrite dans le langage Lean, où la solidité du protocole est démontrée mathématiquement. Le README du dépôt est sans ambiguïté: il s'agit d'un artefact de recherche, «non maintenu» et n'acceptant pas les contributions. Aucun audit de sécurité externe n'est mentionné.
Anthropic
Et en France, qu'est-ce que cela change?
Pour les entreprises et les administrations publiques qui achètent des services d'intelligence artificielle via des revendeurs ou des plateformes, FlashProve ne modifie rien aujourd'hui: ce n'est pas un produit commercial et il n'est intégré dans aucun service disponible. Il indique toutefois une direction. Un contrat qui garantit l'utilisation d'un modèle précis pourrait un jour être vérifiable par une preuve cryptographique, plutôt que par une simple confiance envers le fournisseur. C'est le même glissement que les preuves à divulgation nulle de connaissance ont opéré dans les services financiers, où Coinbase en demande la reconnaissance dans les règles américaines anti-blanchiment.
Steve Weis
La question touche aussi la dépendance technologique européenne. Les autorités de surveillance ont signalé que la finance de l'Union européenne dépend d'intelligences artificielles étrangères, souvent accessibles via plusieurs couches de fournisseurs. Des outils de vérification indépendants du fournisseur pourraient devenir une exigence contractuelle, à condition que les coûts baissent significativement. Aujourd'hui, avec une surcharge comprise entre 70 et 95 fois, selon les mesures publiées par Anthropic le 2 novembre, cela ne constitue pas une option viable pour un usage quotidien.
FlashProve
Ce qui est confirmé, ce qui ne l'est pas
- Confirmé: prototype open source sous licence Apache 2.0, publié le 2 novembre; démontré sur Llama 4 Maverick en quantification 4 bits avec des fenêtres de 1 024 tokens; vérification sur CPU en 17 secondes sans accès aux poids; surcoût de 70 à 95 fois le temps GPU d'une inférence normale; code déclaré sans maintenance par ses auteurs.
- Non précisé: audits de sécurité externes; coûts financiers; application aux API de Claude ou à d'autres modèles; délais pour des contextes plus longs.
- À surveiller: extension à des contextes plus longs et à d'autres architectures; éventuelles adoptions par des fournisseurs ou plateformes; vérifications indépendantes du code.
La lecture d'ensemble
Notre interprétation, que nous assumons comme telle: FlashProve introduit dans l'intelligence artificielle une idée née dans l'univers crypto, celle de ne pas faire confiance mais de vérifier. Aujourd'hui, l'utilisateur d'un service IA doit croire le fournisseur sur le modèle effectivement utilisé, tout comme il fallait autrefois faire confiance à un intermédiaire pour le solde d'un compte. La preuve cryptographique sépare deux questions souvent confondues: l'origine d'une réponse et sa qualité. FlashProve répond uniquement à la première, et c'est déjà considérable. Reste à voir si quelqu'un, Anthropic y compris, choisira de l'intégrer dans des services réels, à l'instar d'autres initiatives de transparence, comme l'accès accordé aux évaluateurs de METR au sein d'Anthropic.
Trois signaux méritent attention. Le premier est la réduction de la surcharge de calcul, aujourd'hui entre 70 et 95 fois selon Anthropic, sans laquelle aucun fournisseur ne pourra proposer des preuves pour chaque réponse. Le second est l'extension à des contextes longs et à d'autres modèles, y compris ceux à poids fermés comme Claude. Le troisième est de savoir si ce code, abandonné par ses auteurs, sera repris par d'autres groupes ou par des plateformes souhaitant vendre une provenance vérifiable.
