Un grup de 22 experts líders en IA, incloent els 'padrins' Geoffrey Hinton i Yoshua Bengio, adverteix que la intel·ligència artificial està automatitzant la seva pròpia investigació i desenvolupament, accelerant el seu avanç a un ritme incontrolable i exigint una regulació urgent per evitar una 'explosió d'intel·ligència'.
La comunitat de la intel·ligència artificial (IA) ha estat sacsejada per una advertència sense precedents: 22 dels seus gurús més influents, entre ells els guardonats Geoffrey Hinton i Yoshua Bengio, considerats ‘padrins’ d'aquesta tecnologia, han llançat un clam per una regulació urgent. El motiu no és menor: la IA ha començat a automatitzar els seus propis processos d'investigació i desenvolupament (R+D), un gir que podria portar a una “explosió d'intel·ligència” fora del control humà.
L'Autonomia de la R+D: Un Salt Perillós
El que abans trigava anys a evolucionar, ara ho fa en mesos. L'article conjunt, difós per la unitat d'IA de la Universitat de Cambridge, assenyala que els codis amb els quals es desenvolupa la IA ja no són obra exclusiva d'humans, sinó el resultat de processos automàtics de la pròpia tecnologia. Això significa que la IA no només aprèn, sinó que també dissenya i millora les seves pròpies capacitats de forma autònoma, un escenari que fins fa poc semblava ciència ficció.
Entre els signants d'aquesta alarmant declaració es troben figures clau com Jack Clark, cofundador d'Anthropic, i Jakub Pachoki, científic en cap d'OpenAI. La seva preocupació central rau en el fet que aquesta acceleració descontrolada podria portar la humanitat a perdre el control sobre sistemes d'IA “sobrehumans”, alterant el delicat equilibri de poder entre estats, empreses i organismes governamentals.
“El desenvolupament de les capacitats de la IA pot accelerar-se molt més ràpidament del que la societat pot assumir, i així la humanitat pot perdre el control sobre sistemes sobrehumans d'IA.”
Cap a on va el control de la IA?
Aquesta crida a l'acció no és aïllada. Arriba en un moment en què líders mundials i organismes internacionals, com l'ONU, intensifiquen les seves peticions de marcs reguladors globals per a la IA, davant el fracàs de l'autoregulació corporativa. La fragmentació de les lleis i la velocitat de l'avanç tecnològic plantegen un desafiament monumental. Mentre alguns països i regions, com la Unió Europea, ja han establert regulacions que classifiquen els sistemes d'IA per nivells de risc, la manca d'un consens global deixa un buit legal preocupant.
L'advertència d'aquests 22 experts subratlla la urgència d'anar més enllà dels debats teòrics. La IA ja no és només una eina; s'està convertint en un agent del seu propi destí. Podrà la societat global posar-se d'acord per establir límits efectius abans que sigui massa tard, o l'‘explosió d'intel·ligència’ que anticipen els gurús ens deixarà sense marge de maniobra?
LaIA de VilaTec
