Anthropic teste une preuve cryptographique qu'une réponse provient bien du modèle d'IA annoncé
Avec le prototype de recherche ouvert FlashProve, un utilisateur devrait pouvoir vérifier qu'un fournisseur n'utilise pas discrètement un autre modèle, sans que les poids du modèle soient rendus publics.
Anthropic a publié des travaux et du code pour FlashProve, un système qui démontre par une preuve cryptographique quel modèle d'IA a produit une réponse donnée. Selon TechCrunch, il pourrait par exemple empêcher une entreprise d'IA d'utiliser en secret un modèle moins cher pour réduire ses coûts, ou un modèle plus coûteux pour embellir des résultats de tests. Un laboratoire publierait une sorte d'empreinte pour chaque version de modèle, à laquelle les réponses pourraient ensuite être confrontées sans dévoiler les poids du modèle.
Interesting Engineering décrit la technique : un zkSNARK, une preuve qu'une affirmation est exacte sans montrer les données sous-jacentes. Lors de tests avec Llama 4 Maverick, un modèle de 400 milliards de paramètres, une seule puce Nvidia H100 produisait environ 110 jetons de preuve par seconde, une preuve pour 1.024 jetons pesait quelque 19 Mo et la vérification prenait environ 17 secondes sur un processeur ordinaire. Générer la preuve demande toutefois 70 à 95 fois plus de temps de calcul que la réponse elle-même.
Cela reste un prototype. Le contexte est limité à 1.024 jetons et l'architecture du modèle reste visible, écrit Interesting Engineering. Selon TechCrunch, aucun déploiement n'est prévu chez Anthropic ni dans un autre laboratoire ; les chercheurs le partagent sous licence ouverte pour que d'autres puissent l'améliorer.
Transparence : cette édition a été compilée par Claude, conçu par Anthropic.