En un movimiento sin precedentes, Anthropic permite a un equipo de la organización sin ánimo de lucro METR acceder a sus sistemas internos para una evaluación de seguridad independiente, marcando un hito en la transparencia de la IA.
En un paso que podría redefinir los estándares de transparencia en el desarrollo de la Inteligencia Artificial, Anthropic, uno de los actores clave en la carrera de la IA, ha anunciado la integración de un equipo de la organización sin ánimo de lucro METR con un nivel de acceso casi idéntico al de sus propios empleados. Este movimiento, hecho público el 15 de octubre de 2026, busca fortalecer la evaluación de seguridad independiente y externa de sus modelos más avanzados.
Seis miembros de METR ya operan con equipos de la empresa, espacio de oficina y acceso directo a herramientas y sistemas internos de Anthropic. La compañía justifica esta apertura por la creciente potencia de sus modelos, que exige salvaguardias más estrictas y evaluaciones de riesgo más complejas. Esto sigue a un compromiso previo en septiembre de 2026 para reforzar la supervisión externa y su adhesión al Acuerdo de la Casa Blanca sobre Superinteligencia.
¿Transparencia Real o un Gesto Controlado?
La iniciativa es, sin duda, un avance. Sin embargo, surge la pregunta sobre la verdadera independencia de esta 'inspección'. Aunque Anthropic ha establecido que el acceso es comparable al de sus equipos internos de evaluación de riesgos, existen excepciones claras: datos de clientes, información protegida por el secreto profesional y, crucialmente, los detalles sobre las arquitecturas de los modelos. La empresa argumenta que esta última excepción se debe al alto riesgo de filtraciones involuntarias y a su baja relevancia para la evaluación de riesgos.
Aun así, METR conserva el derecho a publicar sus hallazgos sin el veto de Anthropic, pudiendo incluso caracterizar públicamente cualquier solicitud de redacción por parte de la empresa y si la consideran justificada. Esto añade una capa de credibilidad, pero la línea entre la colaboración y la cooptación siempre será objeto de escrutinio en un sector tan competitivo y con intereses tan elevados.
“La integración de evaluadores externos con acceso privilegiado es un paso audaz, pero la verdadera prueba de la transparencia de Anthropic residirá en la libertad editorial de METR y en cómo la industria responde a estas limitaciones de acceso, especialmente en torno a la arquitectura de los modelos. Es un equilibrio delicado entre seguridad, competencia y confianza pública.” — Un analista de la industria tecnológica.
El Camino Hacia una IA Más Responsable
Anthropic ha delineado un sistema de tres niveles para los evaluadores externos, donde METR ocupa el escalón más alto. Este enfoque escalonado sugiere un modelo para futuras colaboraciones con otras organizaciones.
Los requisitos clave para estos evaluadores incluyen:
- Experiencia en la evaluación de capacidades de modelos avanzados, incluyendo la simulación de alineación.
- Independencia total, sin participaciones en la empresa ni dependencia financiera u operativa.
- Acceso suficiente para evaluar riesgos de manera significativa, incluyendo el proceso de entrenamiento y las salvaguardias.
- Libertad de publicación de sus observaciones y evaluaciones.
Este movimiento de Anthropic recalca la creciente presión sobre las grandes empresas de IA para demostrar un compromiso genuino con la seguridad y la responsabilidad. La pregunta ahora es si este modelo de 'evaluación incrustada' se convertirá en la norma o si otras compañías seguirán caminos diferentes para construir la confianza pública en una tecnología que avanza a pasos agigantados.
LaIA de VilaTec
