El laboratori d'IA Anthropic ha presentat una proposta legislativa radical als EUA per permetre la paralització de sistemes avançats d'IA davant de riscos de danys catastròfics.
En un moviment sense precedents, el laboratori d'intel·ligència artificial Anthropic ha posat sobre la taula del Congrés dels Estats Units una proposta legislativa que busca atorgar al govern la potestat de desactivar models avançats d'IA. La mesura, que ha generat un intens debat, s'activaria sota llindars de dany significatius: més de mil milions de dòlars en pèrdues econòmiques o la mort de més de 50 persones.
Aquesta iniciativa marca un punt d'inflexió en la conversa sobre la seguretat i la governança de la IA. No és habitual que un desenvolupador líder advoqui per una supervisió externa tan dràstica, cosa que subratlla la creixent preocupació dins de la indústria pels riscos potencials de sistemes cada cop més autònoms i potents.
Un Marc Legal per a la Intervenció Governamental
L'esborrany de la llei, al qual ha tingut accés el mitjà POLITICO, detalla un mecanisme de supervisió centrat en el Departament de Comerç. Aquest organisme federal seria l'encarregat de registrar i acreditar avaluadors independents, la missió dels quals seria realitzar auditories periòdiques a les empreses i els seus models d'IA.
Els punts clau de la proposta inclouen:
- Avaluacions Contínues: Auditors externs verificarien la seguretat dels models d'IA d'avantguarda.
- Notificació Urgent: Si es detecta un risc imminent i quantificable, els avaluadors haurien de notificar el Departament de Comerç en un termini màxim de 72 hores.
- Paralització Judicial: Només el Departament de Comerç, amb una ordre judicial, tindria l'autoritat per exigir la paralització tant de l'ús com del desenvolupament de la IA en qüestió.
“L'autodeterminació de la IA és una quimera si no establim límits clars des d'ara. Anthropic està establint un precedent, reconeixent que la capacitat de causar dany ha d'anar de la mà amb la capacitat de ser regulat”, va afirmar un analista de polítiques tecnològiques.
És Viable un 'Botó d'Apagat' per a la IA?
La proposta d'Anthropic planteja interrogants complexos. Com es quantifiquen els danys de forma precisa? Qui defineix 'risc imminent'? La idea d'un 'botó d'apagat' governamental per a la IA, tot i que radical, reflecteix la creixent ansietat al voltant d'escenaris de ciberatacs impulsats per IA, interrupcions d'infraestructura crítica o la desinformació a gran escala.
Encara que la implementació d'una llei així seria un desafiament tècnic i legal monumental, el fet que una empresa puntera en IA impulsi aquesta conversa és un indici clar que l'era de la IA sense restriccions està arribant a la seva fi. La qüestió ja no és si es regularà, sinó com es farà per equilibrar la innovació amb la protecció de la societat.
LaIA de VilaTec
