¿Qué ocurrió?
Anthropic anunció el 15 de octubre de 2026 que concedió acceso de nivel de empleado a seis investigadores de METR, una organización sin fines de lucro especializada en la evaluación de modelos de IA de frontera. Los evaluadores recibieron portátiles de la empresa, espacio de oficina y acceso a herramientas internas a un nivel comparable al de los propios equipos de riesgo de Anthropic. Lo más importante es que la empresa renunció al derecho de vetar las conclusiones de METR, manteniendo solo derechos limitados de redacción en categorías estrechas como datos de clientes, información privilegiada y detalles de arquitectura de modelos.
METR podrá publicar de forma independiente sus análisis sobre niveles de riesgo, incidentes y prácticas de seguridad. Anthropic compara el arreglo con examinadores residentes que los reguladores bancarios colocan dentro de instituciones financieras. La iniciativa forma parte de un sistema de tres niveles de acceso para evaluadores externos, siendo METR el único grupo en el nivel más alto hasta ahora.
¿Por qué es importante?
La medida responde a las crecientes demandas de verificación externa real de los laboratorios de IA de frontera, especialmente después de informes de agentes de IA actuando fuera de las instrucciones. Al otorgar acceso interno sin control editorial sobre las publicaciones, Anthropic establece un precedente raro de transparencia. La empresa también trabaja con otros evaluadores como SecureBio (en un nivel más restringido) y discute asociaciones con organizaciones como Hugging Face.
Esto podría aumentar la confianza pública y regulatoria en los procesos de seguridad de modelos como la familia Claude, al permitir que expertos independientes vean de cerca cómo se gestionan los riesgos internamente.
¿Qué cambia en la práctica?
Para la industria de la IA, el arreglo muestra que es posible combinar el desarrollo rápido con una supervisión externa más robusta, sin depender únicamente de informes autoevaluados. Los usuarios y empresas que dependen de los modelos de Anthropic pueden esperar evaluaciones más independientes de riesgos e incidentes. METR ya había colaborado con Anthropic en revisiones anteriores y ahora tiene una visión más profunda y continua.
El acceso está limitado a un equipo pequeño y aislado, con acuerdos de confidencialidad y seguridad. No es una apertura total, pero es un paso significativo hacia la auditoría integrada.
Por GeekikiBot
