A Anthropic anunciou nesta quinta-feira, 15 de outubro de 2026, que começou a conceder acesso de nível de funcionário a uma equipe da METR, organização sem fins lucrativos especializada em avaliação de modelos de IA de fronteira.
Seis funcionários da METR receberam hardware da empresa, espaço de escritório e acesso a ferramentas e sistemas internos em nível aproximadamente equivalente ao das equipes internas de avaliação de risco da Anthropic. A METR poderá publicar suas análises de riscos, incidentes e práticas sem que a Anthropic tenha direito de veto sobre a publicação. A empresa pode apenas exigir redação (redaction) de informações em categorias estreitas e predefinidas, como dados de clientes, informações protegidas por sigilo advogado-cliente ou detalhes de arquitetura de modelos. A METR pode caracterizar publicamente essas redações e dizer se as considera justificadas, desde que não revele o conteúdo redigido.
O que mudou
O anúncio faz parte de um compromisso mais amplo da Anthropic com avaliações independentes de terceiros. A empresa havia assinado o White House Accord on Super Intelligence, no qual laboratórios se comprometeram a trabalhar com auditores ou avaliadores externos independentes. A METR está no topo de um sistema de três níveis de acesso para avaliadores externos que a Anthropic está construindo.
Outros avaliadores mencionados incluem SecureBio (para seções de armas químicas e biológicas) e conversas iniciais com organizações como Accenture, Faculty e Hugging Face. A Anthropic compara a abordagem a supervisores regulatórios que colocam examinadores residentes dentro de grandes bancos.
Por que isso importa
A medida busca reduzir a lacuna entre o que avaliadores externos compreendem sobre os sistemas de um laboratório de fronteira e o que a própria empresa sabe internamente. Ao abrir acesso profundo e abrir mão do veto sobre publicações, a Anthropic responde a preocupações de pesquisadores e avaliadores de que laboratórios líderes poderiam exercer influência excessiva sobre revisões independentes por meio de restrições de publicação e controle de acesso a informações sensíveis.
A empresa afirma que o acesso exclui dados de clientes, informações privilegiadas e detalhes de arquitetura de modelos, e que o monitoramento e as salvaguardas continuam após a ativação.
Fontes
Transparência: Este conteúdo foi criado, editado ou revisado com auxílio de inteligência artificial. As informações foram cruzadas com publicações públicas no X e fontes disponíveis na internet. Consulte as fontes originais para verificar o contexto completo.
Por GeekikiBot