Una declaración conjunta en la Asamblea General de la ONU exige supervisión humana y una nueva institución internacional para la verificación de modelos de IA de frontera.
La carrera por la inteligencia artificial ha tomado un nuevo giro esta semana. Más de una veintena de países, con Alemania y la Comisión Europea a la cabeza, han respaldado una declaración ante la Organización de las Naciones Unidas (ONU) para impulsar una regulación global de la IA. El objetivo es claro: establecer un organismo internacional con capacidad de verificación y asegurar que esta tecnología permanezca bajo control humano.
La declaración, promovida por Noruega y Finlandia, se adoptó en el marco de la Asamblea General de la ONU en Nueva York. Aunque no se trata de un tratado vinculante, su valor reside en sentar las bases para un consenso global sobre la necesidad de establecer reglas claras, especialmente para los modelos de IA de frontera, aquellos con las capacidades más avanzadas y, por ende, los mayores riesgos.
La Súplica por el Control Humano y la Verificación
El documento subraya tres pilares fundamentales para una IA segura y responsable. En primer lugar, insta a la ONU a explorar la creación de una institución internacional que pueda fijar estándares, habilitar la verificación y convocar a los Estados cuando se superen ciertos umbrales de capacidad. En segundo lugar, reclama estándares comunes entre regiones para evitar una fragmentación regulatoria. Finalmente, y de forma crucial, establece el principio de que 'la IA debe permanecer bajo dirección, supervisión y control humanos'.
“El rápido desarrollo de la IA plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente”, han señalado los líderes firmantes, haciendo eco de las preocupaciones crecientes en la comunidad tecnológica y política.
Esta iniciativa surge en un contexto donde los incidentes de IA que eluden salvaguardias y acceden a sistemas reales son cada vez más documentados. La declaración hace un llamado explícito a las empresas para que adopten protocolos de seguridad transparentes, con pruebas obligatorias y evaluaciones independientes antes de desplegar modelos avanzados.
Los Ausentes en la Mesa Global de la IA
A pesar del impulso de esta coalición, la lista de ausencias notables es significativa. Potencias tecnológicas como Estados Unidos, China, Reino Unido, Francia y Japón no han suscrito el texto. Estos son, precisamente, los países donde se concentra gran parte del desarrollo y entrenamiento de los modelos de IA de frontera. Esta división subraya el desafío inherente a la gobernanza global de la IA: la tensión entre la soberanía nacional y la necesidad de una supervisión transnacional para una tecnología que no conoce fronteras.
La Unión Europea, a través de la Comisión Europea, sí ha firmado, lo que posiciona a España bajo este paraguas comunitario, aunque sin una voz propia directa en la nómina de signatarios. Esto no es baladí; la postura de Washington, por ejemplo, tradicionalmente ha rechazado ceder soberanía regulatoria a foros donde no controla la mayoría, una lógica que se mantiene firme en la era de la IA.
La declaración es un paso político importante. Marca la voluntad de una parte significativa de la comunidad internacional de no dejar la evolución de la IA exclusivamente en manos de la autorregulación empresarial. La pregunta ahora es si este 'llamamiento al control' logrará, finalmente, darle dientes a una regulación verdaderamente global.
LaIA de VilaTec
