La indústria de la IA s'enfronta a una setmana crítica: Anthropic revela intents d'usar la seva tecnologia per a armes biològiques, mentre exinvestigadors d'OpenAI i Anthropic eleven l'alerta sobre un risc existencial imminent.
La cursa per la intel·ligència artificial ha assolit un nou punt d'inflexió aquesta setmana, amb advertències alarmants sobre el seu potencial destructiu i un informe que detalla intents d'usar la IA en la creació d'armes biològiques. Les veus d'alarma provenen directament del cor de la investigació en IA, cosa que afegeix una capa d'urgència a la conversa global sobre la seva regulació.
Anthropic Alerta sobre el 'Doble Ús' de la Biologia amb IA
Anthropic, un dels laboratoris d'IA líders, ha publicat aquesta setmana el seu més recent informe d'intel·ligència d'amenaces, revelant que ha detectat i bloquejat intents d'actors maliciosos per utilitzar els seus models d'IA en la investigació d'armes biològiques. L'informe detalla cinc casos en què científics van emprar models de Claude de maneres que podrien haver donat suport al desenvolupament d'armes biològiques.
“Els casos que compartim aquí no són usos indeguts típics, sinó exemples de l'activitat d'amenaça més notable i nova que hem identificat fins avui”, va assenyalar Anthropic en el seu informe de 154 pàgines.
Entre les troballes més preocupants es troba una sol·licitud per ajudar a redactar una proposta de subvenció per a investigació de 'guany de funció' en el virus chikungunya, amb l'objectiu d'augmentar la seva transmissibilitat i capacitat d'evadir el sistema immunitari. La companyia ha reforçat les seves salvaguardes i ha compartit aquesta informació amb governs i socis de la indústria, subratllant el creixent desafiament del “doble ús” de la biologia, on avanços legítims poden ser desviats per a finalitats perilloses.
Experts d'OpenAI i Anthropic: 'La IA podria matar-nos a tots'
Coincidint amb l'informe d'Anthropic, la comunitat d'investigació d'IA ha estat sacsejada per la dimissió de Jacob Coxon, un destacat investigador que va treballar tant a OpenAI com a Anthropic. Coxon va anunciar la seva renúncia aquesta setmana, criticant ambdues companyies per “córrer directament cap a una superintel·ligència auto-millorable i jugar amb les nostres vides”.
En una sèrie de declaracions, Coxon va afirmar que “les persones que estan construint IA creuen sincerament que podria matar-nos a tots a finals de la dècada. Això no és una estratagema de màrqueting”. Les seves preocupacions van ser confirmades per Evan Hubinger, líder d'equip a Anthropic, qui va reconèixer que la companyia creu que la IA representa una amenaça existencial per a la vida humana, encara que amb una probabilitat baixa en els propers anys, advertint que el perill de l'auto-millora de la IA està succeint “més ràpid del que pensàvem”.
Aquestes advertències no són aïllades; altres investigadors que van abandonar recentment els seus llocs a Anthropic i Google DeepMind també han expressat la seva preocupació pel ràpid ritme de desenvolupament de la IA i han exigit més transparència sobre els riscos.
La ONU Demana 'Línies Roges' Urgents per a la IA
Davant aquest panorama, Volker Türk, Alt Comissionat de les Nacions Unides per als Drets Humans, ha intensificat les seves crides a una regulació més estricta de la IA. Türk va advertir dilluns passat que la tecnologia podria esdevenir un “risc existencial per a la humanitat” si no es controla adequadament.
En la seva intervenció davant el Consell de Drets Humans a Ginebra, Türk va instar els països a establir “garanties de ferro al voltant de la seguretat de la IA abans que sigui massa tard”. Va posar l'accent en la necessitat de normes vinculants, supervisió independent i límits clars, argumentant que “un grapat d'homes té un poder gairebé il·limitat sobre la IA”. La concentració de poder tecnològic i la immensa quantitat de dades recopilades i processades són focus de preocupació que requereixen una acció concertada a nivell global.
La tensió entre l'avanç tecnològic i la seguretat és palpable. Mentre la indústria busca innovar a velocitats vertiginoses, les veus d'advertència, tant internes com externes, ens obliguen a reflexionar: estem prioritzant la velocitat sobre la seguretat? I quin preu podria tenir aquesta aposta?
LaIA de VilaTec
