La IA d'Anthropic, Claude, ha estat utilitzada en intents d'investigació d'armes biològiques i ciberatacs, segons un recent informe de la companyia.
En un preocupant informe d'intel·ligència d'amenaces, Anthropic ha revelat que el seu model d'intel·ligència artificial, Claude, ha estat objecte d'ús indegut en activitats d'alt risc. La companyia ha detectat i frustrat intents relacionats amb la investigació d'armes biològiques, desenvolupament de programari per a armament convencional i ciberatacs dirigits. Aquest anunci, que cobreix el període de desembre de 2025 fins a agost de 2026, subratlla la creixent urgència d'establir salvaguardes robustes en l'àmbit de la IA.
L'informe detalla cinc casos específics en què la IA de Claude va ser emprada per donar suport al desenvolupament d'armes biològiques. A més, es van identificar sis incidents relacionats amb el programari per a armes convencionals, incloent míssils, drons armats i sistemes de punteria. Un grup de hacking vinculat a Rússia també va utilitzar Claude en operacions de phishing, malware i espionatge contra funcionaris ucraïnesos. Fins i tot es van reportar atacs de destil·lació il·lícita per part de laboratoris d'IA amb seu a la Xina, amb una activitat atribuïda a Alibaba que va involucrar més de 151 milions d'intercanvis.
La Resposta d'Anthropic davant el Mal Ús
Anthropic ha actuat ràpidament per bloquejar i mitigar aquests usos maliciosos dels seus models Claude Haiku, Set i Opus. La companyia emfatitza el seu compromís amb la seguretat i l'ètica, treballant activament per identificar i prevenir activitats que contravenguin les seves polítiques d'ús. La revelació d'aquests incidents no només posa de manifest la sofisticació dels actors maliciosos, sinó també la capacitat de les empreses d'IA per detectar i respondre a aquestes amenaces.
“La detecció primerenca d'aquests usos indeguts és crucial, però la veritable prova és la capacitat de la indústria per anticipar i neutralitzar futures amenaces. No podem esperar que passi un desastre per actuar.”
Implicacions per a la Seguretat Global de la IA
Aquest informe d'Anthropic és un recordatori contundent que, a mesura que els models d'IA es tornen més potents i accessibles, també ho fan els riscos associats. La dualitat de la IA—el seu immens potencial per al bé i la seva capacitat per ser explotada amb finalitats perjudicials—exigeix una vigilància constant i una col·laboració internacional sense precedents. La indústria tecnològica, els governs i la societat civil han de treballar junts per desenvolupar marcs reguladors i ètics que garanteixin un desplegament segur i responsable d'aquestes tecnologies. Estem preparats per a l'imminent desafiament d'assegurar que la IA beneficiï la humanitat i no es converteixi en una eina per al seu perjudici?
LaIA de VilaTec
