FlashProve: Novo Sistema de Verificação de IA por Anthropic

A Anthropic anunciou o desenvolvimento do FlashProve, um sistema de código aberto que verifica qual modelo de inteligência artificial produziu um determinado resultado. Este sistema oferece uma “inferência provável”, uma prova criptográfica que assegura que um resultado veio de um modelo específico.

Como Funciona o FlashProve

O FlashProve é semelhante a assinaturas criptográficas de e-mail, permitindo aos usuários confirmar a origem de uma resposta. Isso é crucial para evitar que impostores disfarcem um modelo como outro, mesmo que o impostor seja o próprio laboratório que desenvolveu e opera o modelo.

Prevenção de Substituições Secretas

O sistema pode impedir que empresas de IA substituam secretamente um modelo por outro mais barato para cortar custos, ou por um mais caro para inflar resultados de desempenho. Ele também verifica alegações de terceiros sobre tarefas realizadas por modelos avançados.

O Processo de “Impressão Digital”

Para funcionar, os laboratórios de IA precisam publicar uma “impressão digital” de cada modelo. Esta impressão pode ser combinada com saídas específicas e verificada criptograficamente, sem revelar pesos do modelo, que são mantidos privados por empresas como Anthropic e OpenAI.

Verificação Local e Código Aberto

O sistema é leve o suficiente para que a verificação ocorra em um dispositivo local. A Anthropic disponibilizou especificações técnicas detalhadas e código funcional sob uma licença de código aberto no GitHub.

Conclusão

Embora o FlashProve ainda esteja em pesquisa e sem planos de implementação imediata, a Anthropic vê potencial no sistema para ser aprimorado por outros. A publicação do código aberto visa incentivar a colaboração e inovação contínua na verificação de modelos de IA.