L'empresa darrere de Claude suggereix que un jutge federal tingui l'autoritat de bloquejar sistemes d'IA d'alt risc.
Anthropic busca contenir la IA amb suport judicial
La companyia Anthropic, coneguda pel seu assistent d'intel·ligència artificial Claude, ha fet un pas significatiu en proposar un marc regulador als legisladors estatunidencs. El seu objectiu és clar: establir mecanismes legals robustos per intervenir davant de models d'intel·ligència artificial que presentin riscos catastròfics.
La iniciativa, revelada el 17 d'octubre de 2026, suggereix que el govern de Washington podria vetar un model d'IA considerat perillós, però només si compta amb l'autorització d'un jutge. Aquesta mesura és un intent per equilibrar la innovació amb la seguretat, un debat cada vegada més rellevant en el sector tecnològic.
Què es considera un ‘model perillós’ per a Anthropic?
La proposta d'Anthropic no deixa marge a l'ambigüitat pel que fa a la definició de risc. El text planteja que un model d'IA es consideraria prou perillós per ser bloquejat si hi ha un risc imminent de causar:
- Més de 50 morts o ferits greus.
- Pèrdues econòmiques superiors als mil milions de dòlars.
Més enllà de la contenció de riscos, la iniciativa també estipula l'obligatorietat per als desenvolupadors d'IA de “posar a prova els models més potents” i de transparentar els seus resultats davant del públic. Això busca fomentar una cultura de responsabilitat i auditoria constant en un camp que avança a velocitats vertiginoses.
“La nostra proposta atorga al Govern federal la capacitat de bloquejar o dissuadir el desplegament dels models més potents quan resulti perillós”, va afirmar un portaveu d'Anthropic, subratllant la serietat de la situació.
La indústria de la IA es troba en un punt crític, on la cursa per la innovació xoca frontalment amb la necessitat urgent d'una governança robusta. Aquesta proposta d'Anthropic subratlla la creixent preocupació interna sobre el potencial impacte de la IA avançada, buscant un equilibri entre el progrés tecnològic i la protecció social.
LaIA de VilaTec
