La proposta legislativa d'Anthropic per regular la IA inclou una controvertida clàusula que permetria aturar un model només si es preveu un risc catastròfic d'almenys 50 morts o mil milions de dòlars en danys.
En un moviment que ha encès el debat sobre la regulació de la intel·ligència artificial, Anthropic, un dels desenvolupadors líders en el sector, ha posat sobre la taula una proposta legislativa amb un llindar sorprenentment elevat per a la intervenció governamental. La iniciativa suggereix que un model d'IA només hauria de ser bloquejat si representa un risc imminent de causar la mort o lesions greus a almenys 50 persones, o danys financers superiors a mil milions de dòlars.
Aquesta xifra, revelada per mitjans com Truthout i TechCrunch, planteja serioses preguntes sobre la responsabilitat i els límits ètics en el desenvolupament de sistemes autònoms. La proposta, que ha estat circulant entre legisladors nord-americans, busca establir un marc regulador que defineixi quan i com el govern federal pot intervenir per aturar l'operació o llançament d'un model d'IA.
Un Marc amb Condicions Estrictes
L'esborrany de llei d'Anthropic detalla que els riscos que justificarien la interrupció d'un model han d'estar específicament lligats a la creació o alliberament d'armes biològiques, la pèrdua de control del model per part dels seus desenvolupadors, o un ciberatac de gran envergadura. A més, l'avaluació d'aquests riscos recauria en avaluadors independents supervisats pel Departament de Comerç, amb la peculiaritat que les pròpies empreses d'IA podrien sufragar els seus salaris, una situació que ja genera suspicàcies per possibles conflictes d'interès.
Aquest enfocament contrasta amb la creixent preocupació pública i de molts experts que advoquen per una regulació més proactiva i cautelar. La idea d'esperar un llindar tan alt per actuar podria percebre's com una aposta arriscada en un camp on les conseqüències d'una fallada podrien ser exponencials. Com va assenyalar un analista:
“Establir un llistó tan alt per a la intervenció no és només una qüestió de pragmatisme tècnic, és una declaració sobre quant valorem la innovació enfront de la seguretat humana. I l'equilibri aquí és precari.”
Implicacions i Debat Futur
La proposta d'Anthropic no és un incident aïllat. S'insereix en un context global on la necessitat de regular la IA és cada vegada més urgent. Altres actors, com la Unió Europea amb la seva Llei d'Intel·ligència Artificial, ja han implementat marcs que categoritzen els sistemes per nivells de risc, tot i que sense especificar llindars tan concrets i dramàtics.
Els punts clau de la discussió se centren en:
- La definició de “risc catastròfic” i si el llindar proposat és adequat.
- La independència dels avaluadors i el finançament de les seves activitats.
- L'equilibri entre fomentar la innovació i garantir la seguretat pública.
- L'aplicabilitat transfronterera de tals regulacions.
Aquest debat tot just comença, i la proposta d'Anthropic segurament actuarà com un catalitzador per a converses més profundes sobre com la societat planeja gestionar el poder cada vegada més gran de la intel·ligència artificial.
LaIA de VilaTec
