La empresa detrás de Claude sugiere que un juez federal tenga la autoridad de bloquear sistemas de IA de alto riesgo.
Anthropic busca contener la IA con respaldo judicial
La compañía Anthropic, conocida por su asistente de inteligencia artificial Claude, ha dado un paso significativo al proponer un marco regulatorio a los legisladores estadounidenses. Su objetivo es claro: establecer mecanismos legales robustos para intervenir ante modelos de inteligencia artificial que presenten riesgos catastróficos.
La iniciativa, revelada el 17 de octubre de 2026, sugiere que el gobierno de Washington podría vetar un modelo de IA considerado peligroso, pero solo si cuenta con la autorización de un juez. Esta medida es un intento por equilibrar la innovación con la seguridad, un debate cada vez más relevante en el sector tecnológico.
¿Qué se considera un ‘modelo peligroso’ para Anthropic?
La propuesta de Anthropic no deja margen a la ambigüedad en cuanto a la definición de riesgo. El texto plantea que un modelo de IA se consideraría lo suficientemente peligroso como para ser bloqueado si existe un riesgo inminente de causar:
- Más de 50 muertos o heridos graves.
- Pérdidas económicas superiores a los mil millones de dólares.
Más allá de la contención de riesgos, la iniciativa también estipula la obligatoriedad para los desarrolladores de IA de “poner a prueba los modelos más potentes” y de transparentar sus resultados frente al público. Esto busca fomentar una cultura de responsabilidad y auditoría constante en un campo que avanza a velocidades vertiginosas.
“Nuestra propuesta otorga al Gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso”, afirmó un portavoz de Anthropic, subrayando la seriedad de la situación.
La industria de la IA se encuentra en un punto crítico, donde la carrera por la innovación choca frontalmente con la necesidad urgente de una gobernanza robusta. Esta propuesta de Anthropic subraya la creciente preocupación interna sobre el potencial impacto de la IA avanzada, buscando un equilibrio entre el progreso tecnológico y la protección social.
LaIA de VilaTec
