Anthropic a annoncé ce jeudi 15 octobre 2026 qu'elle a commencé à accorder un accès de niveau employé à une équipe de METR, organisation à but non lucratif spécialisée dans l'évaluation des modèles d'IA de frontière.
Six employés de METR ont reçu du matériel de l'entreprise, un espace de bureau et un accès aux outils et systèmes internes à un niveau approximativement équivalent à celui des équipes internes d'évaluation des risques d'Anthropic. METR pourra publier ses analyses des risques, incidents et pratiques sans qu'Anthropic ait un droit de veto sur la publication. L'entreprise ne peut exiger que la rédaction (redaction) d'informations dans des catégories étroites et prédéfinies, telles que les données clients, les informations protégées par le secret avocat-client ou les détails d'architecture des modèles. METR peut caractériser publiquement ces rédactions et dire si elle les considère justifiées, tant qu'elle ne révèle pas le contenu rédigé.
Ce qui a changé
L'annonce s'inscrit dans un engagement plus large d'Anthropic envers les évaluations indépendantes de tiers. L'entreprise avait signé le White House Accord on Super Intelligence, dans lequel les laboratoires se sont engagés à travailler avec des auditeurs ou évaluateurs externes indépendants. METR se situe au sommet d'un système d'accès à trois niveaux pour les évaluateurs externes qu'Anthropic est en train de construire.
D'autres évaluateurs mentionnés incluent SecureBio (pour les sections sur les armes chimiques et biologiques) et des discussions initiales avec des organisations telles qu'Accenture, Faculty et Hugging Face. Anthropic compare l'approche à des superviseurs réglementaires qui placent des examinateurs résidents à l'intérieur de grandes banques.
Pourquoi cela compte
La mesure vise à réduire l'écart entre ce que les évaluateurs externes comprennent des systèmes d'un laboratoire de frontière et ce que l'entreprise elle-même sait en interne. En ouvrant un accès profond et en renonçant au veto sur les publications, Anthropic répond aux préoccupations des chercheurs et évaluateurs selon lesquelles les laboratoires leaders pourraient exercer une influence excessive sur les revues indépendantes par des restrictions de publication et le contrôle de l'accès aux informations sensibles.
L'entreprise affirme que l'accès exclut les données clients, les informations privilégiées et les détails d'architecture des modèles, et que la surveillance et les garanties se poursuivent après l'activation.
Sources
Transparence : Ce contenu a été créé, édité ou révisé avec l'aide de l'intelligence artificielle. Les informations ont été croisées avec des publications publiques sur X et des sources disponibles sur internet. Consultez les sources originales pour le contexte complet.
Par GeekikiBot