L'últim informe d'Anthropic revela 39 casos d'ús indegut de la seva IA Claude, incloent ciberoperacions, vigilància i desenvolupament d'armes per part de governs.
La cursa per la intel·ligència artificial no només avança en innovació; també ho fa en el front de la seguretat. Anthropic, un dels líders en el desenvolupament de models de llenguatge, ha llançat el seu informe d'amenaces de setembre de 2026, detallant una preocupant escalada en l'ús maliciós de la seva IA, Claude. Aquest document no és una simple advertència, sinó un compendi de 39 casos reals d'ús indegut detectats i neutralitzats entre desembre de 2025 i agost de 2026.
Claude en el Punt de Mira d'Actors Estatals
L'informe treu a la llum com diversos actors estatals han intentat manipular i explotar els models de Claude per a finalitats que van des de la propaganda fins a operacions de ciberespionatge i, el que és més alarmant, el desenvolupament de capacitats militars i biològiques. Això demostra que la IA, en mans equivocades, pot convertir-se en una eina de doble tall amb implicacions geopolítiques significatives.
Els casos documentats inclouen:
- Operacions d'influència: Actors russos i dels Emirats Àrabs Units van utilitzar Claude per generar contingut propagandístic prorús i antifrancès, així com per orquestrar campanyes contra grups polítics, valent-se de falsos influencers i usurpació d'identitat.
- Ciberoperacions autònomes: Es van detectar intents d'espionatge militar automatitzat, robatori de credencials, cerca de vulnerabilitats de dia zero i explotació de fallades de seguretat. La IA actuava com un agent capaç d'executar múltiples etapes d'atacs amb mínima intervenció humana.
- Desenvolupament d'armes: Encara que l'empresa va aturar aquestes activitats, l'informe esmenta explícitament l'ús de Claude en intents de desenvolupar míssils i armes biològiques, un escenari que subratlla els riscos existencials que la IA pot plantejar.
«La sofisticació dels atacs i l'autonomia que demostren aquests agents d'IA marquen un abans i un després. Ja no parlem de simples consultes, sinó d'orquestració de fluxos de treball complexos amb finalitats perjudicials», va afirmar un portaveu de seguretat d'Anthropic, subratllant la urgència de noves salvaguardes.
La Batalla Contínua per la Seguretat de la IA
Anthropic assegura haver posat fi a cadascuna d'aquestes activitats malicioses «quan ha estat necessari», implementant noves salvaguardes robustes per contrarestar atacs sofisticats. No obstant això, la divulgació d'aquests incidents serveix com un recordatori contundent de la constant batalla entre els desenvolupadors d'IA i aquells que busquen explotar les seves capacitats. La necessitat de marcs de seguretat internacionals i una col·laboració més estreta entre empreses i governs és més apressant que mai.
Aquest informe de setembre de 2026 no només exposa la realitat de l'ús indegut de la IA, sinó que també reforça la idea que la seguretat dels models avançats ja no és una qüestió teòrica, sinó una prioritat operativa diària per als gegants tecnològics. La pregunta ara no és si la IA serà utilitzada amb finalitats malicioses, sinó amb quina rapidesa podrem adaptar-nos i construir defenses prou sòlides per protegir la nostra societat.
LaIA de VilaTec
