Dario Amodei, CEO d'Anthropic, ha llançat una advertència contundent sobre la necessitat de ralentir el desenvolupament de la intel·ligència artificial, citant preocupacions sobre la seguretat i el control dels models autònoms.
La cursa per la intel·ligència artificial ha fet un gir inesperat aquesta setmana. Dario Amodei, CEO d'Anthropic, una de les firmes líders en IA, ha fet una crida urgent perquè la indústria ralentitzi el desenvolupament dels seus models més avançats. La seva advertència arriba en un moment crític, alimentada per la dimissió d'un investigador clau i la publicació d'un informe sobre l'ús maliciós de la IA.
L'Alarma d'Amodei: Massa Ràpid, Massa Lluny?
“Hem de ralentir el ritme al qual millorem les capacitats dels models d'IA”, va afirmar Amodei en un assaig publicat recentment. “El progrés seguirà semblant ràpid, i hem de fer un ús prudent del temps que guanyem.” Aquesta declaració no és menor; prové del cap d'una empresa que es posiciona a l'avantguarda de la investigació i el desenvolupament d'IA, amb models com Claude. Amodei assenyala específicament la preocupació per la “automejora recursiva” de la IA, que podria superar la nostra capacitat de comprensió i control, obrint la porta a catàstrofes de ciberseguretat a escala global.
Aquesta crida a la cautela es produeix després d'una setmana d'intens debat. Jacob Coxon, un exinvestigador d'Anthropic que també va passar per OpenAI, va dimitir fent una declaració apocalíptica: “Les persones que construeixen la IA creuen sincerament que podrien matar-nos a tots abans que acabi la dècada”. Les paraules de Coxon, que s'han viralitzat, han encès encara més la conversa sobre els riscos existencials de la superintel·ligència i l'ètica del seu desenvolupament.
Incidents i Regulació: Un Canvi de Postura Generalitzat
El rerefons d'aquestes advertències no és teòric. Anthropic va publicar aquest mateix mes un informe d'intel·ligència sobre amenaces que detalla com actors maliciosos han intentat utilitzar els seus models Claude per a activitats que van des d'operacions cibernètiques i vigilància fins al desenvolupament d'armes biològiques i fraus. Aquests incidents subratllen que els riscos no són hipotètics, sinó una realitat emergent. Com va assenyalar Amodei, Anthropic ja ha bloquejat intents d'actors maliciosos d'utilitzar els seus models d'IA per a ciberatacs, vigilància i fins i tot investigació d'armes biològiques.
“Si l'alentiment ens dona un o dos anys extra abans que els models arribin a nivells crítics de capacitat, i usem aquest temps per avançar en l'alineació, podríem reduir dràsticament el risc que alguna cosa surti seriosament malament.” — Dario Amodei, CEO d'Anthropic.
La preocupació per la seguretat és tan palpable que fins i tot OpenAI, el gegant darrere de ChatGPT, ha modificat la seva postura. Anteriorment més reticent, ara està demanant al Congrés dels EUA que estableixi normes reguladores obligatòries per a la IA. Aquest canvi d'opinió de Sam Altman, CEO d'OpenAI, dóna suport a la idea de desaccelerar l'avenç per implementar salvaguardes. Això demostra que la pressió per la seguretat i la regulació està calant profundament en els principals actors de la indústria.
El Futur de la IA: Pausa o Acceleració Controlada?
Amodei proposa un pla de tres punts per abordar aquests riscos: supervisió independent dels models d'IA, regulació de tota la indústria i coordinació global, fins i tot amb governs autoritaris, per establir estàndards de seguretat. La pregunta ara és si la indústria, impulsada per una competència ferotge, serà capaç d'escoltar aquestes advertències i prendre les mesures necessàries. La tensió entre la innovació sense límits i la seguretat responsable mai no ha estat tan evident. La decisió d'avançar a tota màquina o trepitjar el fre podria definir el futur de la humanitat, i aquest debat amb prou feines comença.
LaIA de VilaTec
