La recent ordre del govern dels EUA sobre els models Fable 5 i Mythos 5 d'Anthropic obre un debat crític sobre la seguretat nacional i el control de la IA avançada.
La setmana passada, el món de la Intel·ligència Artificial va ser testimoni d'un esdeveniment sense precedents que ha sacsejat els fonaments de la innovació i la regulació. El 12 de juny de 2026, el govern dels Estats Units va emetre una directiva de control d'exportacions a Anthropic, la companyia darrere dels models Claude Fable 5 i Mythos 5, obligant-los a suspendre l'accés a aquests models avançats per a tots els clients, inclosos els seus propis empleats estrangers.
Aquesta mesura dràstica, presa només tres dies després del llançament de Fable 5 el 9 de juny, es va fonamentar en preocupacions de seguretat nacional, específicament per una vulnerabilitat de 'jailbreak'. Es va al·legar que aquesta bretxa permetia eludir les salvaguardes dissenyades per limitar l'ús de Fable 5 en tasques relacionades amb la ciberseguretat, com la identificació de vulnerabilitats de programari.
Un 'Jailbreak' Viral i el Precedent de Control
La situació va escalar ràpidament després de la publicació d'un 'jailbreak' per un usuari conegut com 'Pliny the Liberator' a la plataforma X el 10 de juny. Aquest atac, descrit com una 'cacera en grup' multiagent, utilitzava una combinació d'Unicode, homòglifs i substitució de caràcters ciríl·lics per evadir els classificadors de seguretat del model. Encara que Anthropic va descriure el problema com “estret” i va afirmar no haver rebut un suport escrit detallat per a la posició del govern, l'administració nord-americana va actuar amb contundència.
“Aquest incident marca la primera vegada que les autoritats de control d'exportacions dels EUA s'utilitzen per regular un model d'IA de frontera per motius de seguretat nacional. Un precedent que redefineix les regles del joc per a tot el sector.”
Aquest succés subratlla una tensió creixent entre la velocitat de la innovació en IA i la necessitat d'una supervisió rigorosa. Si bé el govern ja havia emès una ordre executiva el 2 de juny de 2026, 'Promoting Advanced Artificial Intelligence Innovation and Security', que establia un marc voluntari per a la revisió governamental de models avançats, l'acció contra Anthropic demostra que la flexibilitat té límits quan la seguretat nacional entra en joc.
Implicacions per al Futur de la IA
La suspensió de Fable 5 i Mythos 5 ha reavivat debats crítics dins de la comunitat tecnològica i reguladora. Aquests inclouen:
- Alineació de la IA: Com podem assegurar que els models avançats actuïn sempre en benefici humà?
- Seguretat de models de frontera: La inevitabilitat dels 'jailbreaks' i la dificultat d'assegurar completament aquests sistemes.
- Supervisió governamental: El paper i els límits de la intervenció estatal en el desenvolupament tecnològic.
- Controls d'exportació: L'aplicació de lleis de seguretat nacional a la tecnologia d'IA, fins i tot per a l'accés intern d'estrangers.
- Transparència de codi obert: El dilema entre la col·laboració i la contenció de riscos.
Aquest incident amb Anthropic és un recordatori contundent que, a mesura que la IA avança, les implicacions no només resideixen en les seves capacitats, sinó també en com les societats trien (o es veuen obligades a) controlar-les. Estem preparats per a un futur on la línia entre la innovació tecnològica i l'amenaça a la seguretat nacional es difumina cada vegada més?
LaIA de VilaTec
