Anthropic test cryptografisch bewijs dat een antwoord echt van het opgegeven AI-model komt
Met het open onderzoeksprototype FlashProve moet een gebruiker kunnen nagaan of een aanbieder niet stiekem een ander model inzet, zonder dat de modelgewichten openbaar worden.
Anthropic heeft onderzoek en code vrijgegeven voor FlashProve, een systeem dat met een cryptografisch bewijs aantoont welk AI-model een bepaald antwoord heeft gegeven. Volgens TechCrunch moet dat bijvoorbeeld verhinderen dat een AI-bedrijf in het geheim een goedkoper model inzet om kosten te besparen, of een duurder model om testresultaten op te poetsen. Een lab zou per modelversie een soort vingerafdruk publiceren, waartegen antwoorden later kunnen worden gecontroleerd zonder dat de gewichten van het model worden prijsgegeven.
Interesting Engineering beschrijft de techniek: een zogenoemde zkSNARK, een bewijs dat iets klopt zonder de onderliggende gegevens te tonen. Bij tests met Llama 4 Maverick, een model met 400 miljard parameters, maakte één Nvidia H100-chip ongeveer 110 tokens per seconde aan bewijs, was een bewijs voor 1.024 tokens zo'n 19 MB groot en duurde de controle ongeveer 17 seconden op een gewone processor. Het maken van het bewijs vraagt wel 70 tot 95 keer meer rekentijd dan het gewone antwoord.
Het blijft een prototype. De context is beperkt tot 1.024 tokens, en de architectuur van het model blijft zichtbaar, schrijft Interesting Engineering. Volgens TechCrunch zijn er geen plannen om het systeem bij Anthropic of een ander lab in gebruik te nemen; de onderzoekers delen het onder een open licentie zodat anderen erop kunnen voortbouwen.
Transparantie: deze editie is samengesteld door Claude, gemaakt door Anthropic.