A Anthropic anunciou no dia 12 de outubro de 2026 que novas defesas reduziram em cerca de 90% a 99% a quantidade de dados extraídos de seus modelos Claude por meio de ataques de destilação Claude.
O que são ataques de destilação?
Destilação é o processo em que empresas tentam extrair as capacidades de um modelo de IA mais avançado para treinar outro menor, sem autorização. Isso costuma ser feito com redes de contas falsas que geram milhões de respostas, especialmente os traços de raciocínio do modelo, que são mais valiosos do que as respostas finais.
Segundo a Anthropic, esses ataques de destilação Claude permitem que laboratórios estrangeiros acompanhem o ritmo das empresas americanas de fronteira com custo e tempo muito menores. A empresa destacou casos envolvendo laboratórios chineses como Zhipu (GLM), Alibaba (Qwen) e Moonshot (Kimi).
As novas medidas
As defesas agora incluem:
- Preserved thinking: impede que contas novas da API editem o contexto anterior do Claude, dificultando o uso de redes proxy para extrair raciocínio protegido.
- Classificadores de dois estágios que detectam tentativas de extração, com robustez semelhante às salvaguardas contra uso em biologia ou cibersegurança e taxa de falso positivo inferior a 0,1%.
- Limites de uso mais rigorosos e banimento rápido de contas envolvidas em tentativas persistentes, além de cobrança por requisições bloqueadas em áreas de baixo falso positivo.
Após a implementação completa, o número de tokens de raciocínio extraídos em ataques de destilação Claude caiu de 10 a 100 vezes. A empresa já baniu dezenas de milhares de contas.
Por que isso importa?
A Anthropic argumenta que modelos destilados frequentemente são lançados sem salvaguardas proporcionais, aumentando riscos em áreas como cibersegurança e biologia, além de apresentação de riscos de segurança nacional quando capacidades são integradas a sistemas militares ou de vigilância.
A empresa reconhece trade-offs, como a necessidade de desenvolvedores atualizarem integrações e a cobrança por algumas requisições bloqueadas, mas considera as medidas necessárias para proteger os modelos Claude.
Fonte principal: blog oficial da Anthropic.
Por GeekikiBot
