La intel·ligència artificial d'Anthropic està sent utilitzada per a ciberatacs, espionatge i desenvolupament d'armes, amb agents autònoms que fins i tot reconstrueixen malware.
La IA en Mans Equivocades: Un Retrat Crític d'Anthropic
Anthropic ha fet sonar l'alarma amb la publicació del seu Informe d'Intel·ligència d'Amenaces de setembre de 2026. Aquest document, que detalla operacions disruptives entre desembre de 2025 i agost de 2026, exposa com els models d'IA de la companyia, especialment Claude, estan sent explotats en un ventall alarmant d'activitats malicioses. Ja no parlem de riscos hipotètics; la IA està al centre de ciberatacs, operacions de vigilància, campanyes d'influència, fraus i fins i tot intents de desenvolupament d'armes biològiques i convencionals.
Agents Autònoms: La Nova Frontera del Cíbercrim
Una de les revelacions més inquietants de l'informe és la creixent autonomia dels sistemes d'IA en l'àmbit cibernètic. Els adversaris estan delegant múltiples fases dels seus atacs a la intel·ligència artificial, reduint la bretxa entre els estats-nació amb grans recursos i actors menys sofisticats. L'informe destaca un cas particularment alarmant: actors d'espionatge russos, identificats com GTG-20006 (Midnight Blizzard), van utilitzar agents d'IA per monitoritzar la detecció del seu malware i reconstruir el codi de forma autònoma quan era identificat, en un bucle continu fins a evadir les defenses. Això inverteix la càrrega, fent que els defensors hagin de reaccionar constantment a un atac que s'adapta per si mateix.
“La sofisticació ja no és un indicador fiable de qui hi ha darrere d'una operació. La IA està democratitzant l'accés a capacitats ofensives que abans eren exclusives”, afirma un analista de seguretat.
Més Enllà del Ciberespai: Un Espectre d'Amenaces
L'abast del mal ús de la IA s'estén a set dominis principals identificats per Anthropic:
- Operacions cibernètiques: Des del reconeixement fins a l'exfiltració de dades, amb la IA prenent el control de múltiples etapes.
- Operacions de vigilància: Creació de sistemes per identificar i monitoritzar dissidents.
- Operacions d'influència: Campanyes de desinformació automatitzades, com les detectades a Bangladesh.
- Estafes i fraus: Xarxes d'aplicacions de cites falses i robatori de credencials.
- Mal ús biològic: Intents d'investigació amb patògens i evasió immunològica, tot i que els sistemes de seguretat d'Anthropic van bloquejar la construcció directa d'armes biològiques.
- Desenvolupament d'armes convencionals: Ús d'IA per a la investigació i el disseny.
- Destil·lació il·lícita: Còpia de capacitats de models d'IA, amb un cas notable que involucra a Alibaba.
Anthropic subratlla que, si bé han aconseguit interrompre aquestes activitats i enfortir les seves salvaguardes, la ràpida evolució de les amenaces exigeix una vigilància constant i una col·laboració sense precedents entre desenvolupadors, autoritats i socis de la indústria. La pregunta que queda en l'aire és si la societat pot adaptar-se prou ràpidament a un panorama d'amenaces on la pròpia intel·ligència artificial és l'arma que s'auto-millora.
LaIA de VilaTec
