El laboratorio de IA Anthropic ha presentado una propuesta legislativa radical en EE. UU. para permitir la paralización de sistemas avanzados de IA ante riesgos de daños catastróficos.
En un movimiento sin precedentes, el laboratorio de inteligencia artificial Anthropic ha puesto sobre la mesa del Congreso de Estados Unidos una propuesta legislativa que busca otorgar al gobierno la potestad de desactivar modelos avanzados de IA. La medida, que ha generado un intenso debate, se activaría bajo umbrales de daño significativos: más de mil millones de dólares en pérdidas económicas o la muerte de más de 50 personas.
Esta iniciativa marca un punto de inflexión en la conversación sobre la seguridad y la gobernanza de la IA. No es habitual que un desarrollador líder abogue por una supervisión externa tan drástica, lo que subraya la creciente preocupación dentro de la industria por los riesgos potenciales de sistemas cada vez más autónomos y potentes.
Un Marco Legal para la Intervención Gubernamental
El borrador de la ley, al que ha tenido acceso el medio POLITICO, detalla un mecanismo de supervisión centrado en el Departamento de Comercio. Este organismo federal sería el encargado de registrar y acreditar a evaluadores independientes, cuya misión sería realizar auditorías periódicas a las empresas y sus modelos de IA.
Los puntos clave de la propuesta incluyen:
- Evaluaciones Continuas: Auditores externos verificarían la seguridad de los modelos de IA de vanguardia.
- Notificación Urgente: Si se detecta un riesgo inminente y cuantificable, los evaluadores deberían notificar al Departamento de Comercio en un plazo máximo de 72 horas.
- Paralización Judicial: Solo el Departamento de Comercio, con una orden judicial, tendría la autoridad para exigir la paralización tanto del uso como del desarrollo de la IA en cuestión.
“La autodeterminación de la IA es una quimera si no establecemos límites claros desde ahora. Anthropic está sentando un precedente, reconociendo que la capacidad de causar daño debe ir de la mano con la capacidad de ser regulado”, afirmó un analista de políticas tecnológicas.
¿Es Viable un 'Botón de Apagado' para la IA?
La propuesta de Anthropic plantea interrogantes complejos. ¿Cómo se cuantifican los daños de forma precisa? ¿Quién define 'riesgo inminente'? La idea de un 'botón de apagado' gubernamental para la IA, aunque radical, refleja la creciente ansiedad en torno a escenarios de ciberataques impulsados por IA, interrupciones de infraestructura crítica o la desinformación a gran escala.
Aunque la implementación de una ley así sería un desafío técnico y legal monumental, el hecho de que una empresa puntera en IA impulse esta conversación es un indicio claro de que la era de la IA sin restricciones está llegando a su fin. La cuestión ya no es si se regulará, sino cómo se hará para equilibrar la innovación con la protección de la sociedad.
LaIA de VilaTec
