Quando uma empresa diz que a resposta veio de um determinado modelo de IA, como o usuário confere? Hoje, não confere. Um serviço pode trocar o modelo por outro mais barato sem aviso, e a qualidade do texto raramente denuncia a troca. A Anthropic publicou uma pesquisa que tenta resolver isso com criptografia: o FlashProve.
A pesquisa está descrita no post oficial da Anthropic e foi noticiada pelo TechCrunch. Vale já adiantar o limite: é um protótipo de pesquisa, testado em um modelo aberto, e não um recurso disponível em produtos.
O problema: ninguém prova qual modelo respondeu
Segundo a Anthropic, o usuário não consegue verificar que as respostas vieram do modelo específico que o desenvolvedor afirma estar usando. A resposta pode ter sido gerada por outro modelo, por um roteador que troca modelos para cortar custo, ou por um invasor que alterou o fluxo de tokens.
O TechCrunch aponta dois efeitos práticos: empresas que substituem em silêncio um modelo por um mais barato, ou por um mais caro para inflar resultados em testes; e a dificuldade de confirmar alegações de terceiros, como “este código foi analisado por um modelo de cibersegurança de ponta”. O custo do uso de IA em escala já é tema do blog, como no texto sobre cobrança de IA por consumo. Sem prova de modelo, quem paga por consumo também não confere o que recebe.
Como o FlashProve funciona
O sistema funciona em duas fases. Na primeira, o provedor publica um compromisso curto com os pesos do modelo: uma impressão digital que fixa a escolha exata de pesos sem revelá-los. Na segunda, para cada requisição, gera um arquivo de prova de que aquele modelo produz aqueles tokens de saída. Quem tem o compromisso, o prompt e a resposta confere a prova em CPU, sem acesso aos pesos.
A analogia usada pelo TechCrunch é a das assinaturas de e-mail, como o DKIM: o destinatário confirma a origem da mensagem. A diferença é que aqui a prova deve resistir até a um provedor que tente se passar por outro modelo.
Os números do protótipo
A Anthropic avaliou o sistema com o Llama 4 Maverick, um modelo aberto de 400 bilhões de parâmetros, em uma GPU H100. A tabela reúne os números informados no post.
| Medida | Valor informado | Como ler |
|---|---|---|
| Validade do compromisso | cerca de 16 milhões de requisições | Depois disso, é preciso publicar um novo |
| Tamanho da prova | cerca de 19 MB por requisição de 1.024 tokens | Pesada para uso em escala |
| Tempo de verificação | cerca de 17 segundos em 24 threads | Feita em CPU, sem os pesos |
| Geração da prova | cerca de 110 tokens por segundo em uma H100 | Segundo a Anthropic, 70 a 95 vezes o tempo de GPU da inferência comum |
Os números mostram que o custo ainda é alto. Esse é o sentido do aviso dos próprios autores de que o trabalho é progresso intermediário.
Queremos que outras pessoas olhem o que fizemos, adotem e melhorem.
Anthropic, pesquisa sobre inferência verificável
Limites que a própria Anthropic reconhece
- A prova vale para uma versão inteira do modelo com decodificação gulosa (greedy). Implementações em ponto flutuante ou com amostragem podem divergir.
- O contexto avaliado chega a 1.024 tokens, bem abaixo do usado em conversas reais.
- A arquitetura do modelo não fica oculta, e ataques por canal lateral, como medir o tempo da prova, estão fora do escopo.
- O código rápido em C++ não tem garantia formal de que coincide com o verificador em Lean e com o artigo.
O TechCrunch registra ainda que não há planos de implantar o sistema na Anthropic nem em outros laboratórios. Uma atualização posterior do post passou a chamar o tema de “verificação de inferência”, por considerar o termo original estreito demais.
O que isso muda para quem usa IA em empresas
Hoje, nada muda na prática. Mas a pesquisa nomeia um risco real de governança: contratar um modelo e receber outro. Para times que usam agentes, vale registrar em contrato qual modelo responde, revisar o que cada fornecedor garante e acompanhar se a verificação evolui para padrão de mercado. O tema se junta aos riscos de operação já vistos em incidentes com agentes de IA e ao básico de entender o que são agentes de IA.
Perguntas frequentes
O que é o FlashProve?
É um sistema de pesquisa da Anthropic para provar, com criptografia, que uma resposta foi gerada por um modelo específico. O provedor publica uma impressão digital do modelo e gera uma prova por requisição, que qualquer pessoa pode verificar.
O FlashProve já está disponível no Claude?
Não. Segundo o TechCrunch, a pesquisa está em andamento e não há planos de implantá-la na Anthropic ou em outros laboratórios. O código está no GitHub com licença Apache 2.0.
O sistema revela os pesos do modelo?
Não. O compromisso publicado fixa os pesos sem revelá-los, e a prova tem propriedade de conhecimento zero. Isso permitiria usar a verificação com modelos comerciais fechados.
Por que a verificação ainda é cara?
No protótipo, a prova tem cerca de 19 MB por requisição de 1.024 tokens e a geração consome de 70 a 95 vezes o tempo de GPU da inferência comum, segundo a Anthropic.
Que risco o FlashProve tenta evitar?
A troca silenciosa de modelos, seja por outro mais barato para cortar custo, seja por um mais caro para inflar resultados, além da dificuldade de confirmar alegações de terceiros sobre qual IA fez uma análise.
