Dario Amodei, director executiu d'Anthropic, ha publicat un assaig contundent i ha demanat a la indústria de la IA que freni el seu desenvolupament, alertant sobre riscos existencials i l'ús maliciós de la IA agèntica.
La cursa desenfrenada per la intel·ligència artificial ha topat amb un mur de cautela. Dario Amodei, director executiu d'Anthropic, la companyia darrere del model Claude, ha llançat una crida urgent a la indústria perquè ralenteixi el desenvolupament de la IA, citant perills existencials i el creixent ús maliciós d'aquestes tecnologies. El seu manifest, titulat 'We Must Pace the Frontier' i publicat el 12 de setembre, se suma a un cor de veus crítiques que qüestionen el ritme actual d'innovació.
L'Alarma d'Amodei i l'Informe d'Amenaces
Amodei no es mossega la llengua. En una recent entrevista, va afirmar que 'la indústria va mentir' sobre l'absència de riscos en la IA, una postura que Anthropic sempre ha evitat. Aquesta advertència arriba poc després que la pròpia companyia publiqués el seu Informe d'Intel·ligència d'Amenaces de setembre de 2026 el dia 11. L'informe detalla com la IA agèntica, sistemes capaços d'executar tasques complexes de forma autònoma, està sent utilitzada en operacions cibernètiques, vigilància i atacs a la cadena de subministrament.
“El risc és que el mercat hagi descomptat un creixement massa ràpid, massa rendible i pràcticament sense friccions”, va assenyalar un analista de mercat, reflectint la preocupació per la bombolla d'expectatives.
El document d'Anthropic revela casos alarmants, des de l'ús d'agents d'IA en campanyes d'espionatge estatal fins a la creació de 'fàbriques' de vulnerabilitats de dia zero i atacs a la cadena de subministrament d'empreses d'IA per obtenir models inèdits i claus API de producció. Aquests exemples pinten un panorama on la intervenció humana es limita cada vegada més a la selecció d'objectius, mentre les màquines orquestren atacs a velocitat de vertigen.
Dissonància Interna i Reaccions del Sector
La preocupació no és només d'Amodei. La setmana passada, Jacob Coxon, un investigador d'Anthropic, va renunciar públicament a l'empresa, argumentant que ni Anthropic ni OpenAI estan actuant de manera responsable, 'apostant amb les nostres vides' en córrer cap a la superintel·ligència auto-millorable. La seva dimissió va provocar un debat intern a la companyia, amb empleats que recolzaven la seva decisió de fer públiques les inquietuds.
Líders d'altres grans empreses tecnològiques han mostrat el seu suport a la necessitat d'una pausa o desacceleració. Sam Altman d'OpenAI i Elon Musk de xAI s'han sumat a la petició d'Amodei, un fet inusual en un sector tan competitiu. Fins i tot OpenAI ha considerat internament la possibilitat de reduir temporalment el ritme de desenvolupament dels seus sistemes més avançats.
No obstant això, no tots hi estan d'acord. El president Donald Trump va arremetre contra els qui busquen limitar la IA, qualificant les preocupacions de 'conspiració malalta' i suggerint que la regulació podria beneficiar la Xina.
El Dilema de la Governança i el Futur
Amodei proposa una estratègia de tres punts per reforçar la seguretat sense aturar completament el desenvolupament, suggerint que una desacceleració d'un o dos anys podria ser crucial per avançar en la seguretat i l'alineament dels models. Aquest debat posa de manifest la tensió entre la innovació i la seguretat, un equilibri delicat que els governs i la societat civil també estan intentant abordar. L'ONU, per exemple, ha alertat sobre com la IA posa en risc tots els drets humans, incloent el dret a la vida.
Podrà la indústria trobar un terreny comú per a un desenvolupament de la IA més conscient i segur, o la cursa per la supremacia tecnològica continuarà sense frens, malgrat les alarmes dels seus propis creadors?
LaIA de VilaTec
