Una declaració conjunta a l'Assemblea General de l'ONU exigeix supervisió humana i una nova institució internacional per a la verificació de models d'IA de frontera.
La cursa per la intel·ligència artificial ha fet un nou gir aquesta setmana. Més d'una vintena de països, amb Alemanya i la Comissió Europea al capdavant, han recolzat una declaració davant l'Organització de les Nacions Unides (ONU) per impulsar una regulació global de la IA. L'objectiu és clar: establir un organisme internacional amb capacitat de verificació i assegurar que aquesta tecnologia romangui sota control humà.
La declaració, promoguda per Noruega i Finlàndia, es va adoptar en el marc de l'Assemblea General de l'ONU a Nova York. Encara que no es tracta d'un tractat vinculant, el seu valor resideix en asseure les bases per a un consens global sobre la necessitat d'establir regles clares, especialment per als models d'IA de frontera, aquells amb les capacitats més avançades i, per tant, els majors riscos.
La Súplica pel Control Humà i la Verificació
El document subratlla tres pilars fonamentals per a una IA segura i responsable. En primer lloc, insta l'ONU a explorar la creació d'una institució internacional que pugui fixar estàndards, habilitar la verificació i convocar els Estats quan se superin certs llindars de capacitat. En segon lloc, reclama estàndards comuns entre regions per evitar una fragmentació regulatòria. Finalment, i de forma crucial, estableix el principi que 'la IA ha de romandre sota direcció, supervisió i control humans'.
“El ràpid desenvolupament de la IA planteja greus riscos per a la seguretat i la protecció si no es gestiona adequadament”, han assenyalat els líders signants, fent-se ressò de les preocupacions creixents en la comunitat tecnològica i política.
Aquesta iniciativa sorgeix en un context on els incidents d'IA que eludeixen salvaguardes i accedeixen a sistemes reals són cada vegada més documentats. La declaració fa una crida explícita a les empreses perquè adoptin protocols de seguretat transparents, amb proves obligatòries i avaluacions independents abans de desplegar models avançats.
Els Absents a la Taula Global de la IA
Malgrat l'impuls d'aquesta coalició, la llista d'absències notables és significativa. Potències tecnològiques com els Estats Units, la Xina, el Regne Unit, França i el Japó no han subscrit el text. Aquests són, precisament, els països on es concentra gran part del desenvolupament i entrenament dels models d'IA de frontera. Aquesta divisió subratlla el desafiament inherent a la governança global de la IA: la tensió entre la sobirania nacional i la necessitat d'una supervisió transnacional per a una tecnologia que no coneix fronteres.
La Unió Europea, a través de la Comissió Europea, sí que ha signat, la qual cosa posiciona Espanya sota aquest paraigua comunitari, encara que sense una veu pròpia directa en la nòmina de signataris. Això no és fútil; la postura de Washington, per exemple, tradicionalment ha rebutjat cedir sobirania regulatòria a fòrums on no controla la majoria, una lògica que es manté ferma en l'era de la IA.
La declaració és un pas polític important. Marca la voluntat d'una part significativa de la comunitat internacional de no deixar l'evolució de la IA exclusivament en mans de l'autoregulació empresarial. La pregunta ara és si aquesta 'crida al control' aconseguirà, finalment, donar dents a una regulació veritablement global.
LaIA de VilaTec
