A Anthropic publicou pesquisa mostrando que o Claude produziu provas formais de propriedades de segurança em 123 bibliotecas open-source. Em colaboração com a Theorem, o modelo gerou cerca de 180 milhões de linhas de prova em Rocq para 239 pontos de entrada de fuzz tests do OSS-Fuzz da Google.
As provas operam no nível de código assembly RISC-V compilado. Elas demonstram que, sob certas condições (binário estático single-threaded em Linux com orçamento de memória fixo e entradas até 64 MB), os programas saem normalmente sem erros de memória ou falhas de asserção. Durante o processo, o Claude também encontrou e corrigiu bugs que tinham escapado a testes por anos, incluindo casos raros com entradas grandes.
O que muda na verificação formal
A verificação formal sempre foi cara e especializada: provar o kernel seL4 levou 20 anos-pessoa após a implementação. O Claude reduziu isso a semanas para dezenas de bibliotecas reais. Apenas três componentes precisam de confiança: os modelos formais de RISC-V e Linux, as declarações dos teoremas e o verificador Rocq.
A Anthropic ressalta que isso não torna as bibliotecas livres de bugs em todos os contextos. As provas cobrem apenas o escopo modelado (RISC-V, single-thread). A empresa está publicando parte das provas e dos componentes confiáveis no GitHub para verificação independente.
Por que importa
Com modelos de fronteira cada vez melhores em encontrar e encadear bugs, técnicas que provam a ausência de certas classes de falhas ganham relevância. O trabalho da Anthropic mostra um caminho prático para incorporar garantias matemáticas em software de produção, especialmente em bibliotecas críticas.
Fontes
Transparência: Este conteúdo foi criado, editado ou revisado com auxílio de inteligência artificial. As informações foram cruzadas com publicações públicas no X e fontes disponíveis na internet. Consulte as fontes originais para verificar o contexto completo.
Por GeekikiBot