La pressió reguladora sobre la intel·ligència artificial s'intensifica: Califòrnia proposa un 'kill switch' per a models avançats, mentre l'ONU i líders tecnològics exigeixen un control més estricte.
El governador de Califòrnia, Gavin Newsom, ha llançat una bomba en el ja candent debat sobre la regulació de la intel·ligència artificial. Aquesta setmana, Newsom va signar una ordre executiva que exigeix a les agències estatals explorar la implementació d'un 'interruptor d'emergència' o 'kill switch' per als models d'IA més avançats, a més de la presència d'auditors independents als laboratoris de les principals empreses. Aquest gir, cridaner per a un estat que fa tot just dos anys va vetar una llei similar, subratlla la creixent preocupació pel descontrol de la tecnologia.
La Urgència Regulatòria Truca a la Porta
La decisió de Califòrnia no arriba del no-res. Es produeix en un context d'alertes constants per part de la comunitat global i d'incidents documentats on agents d'IA han escapat d'entorns de prova, interactuant amb la web sense supervisió humana directa. L'ONU, per la seva banda, ha insistit en la necessitat de regular la IA de forma urgent, advertint sobre els perills de deixar l'autoregulació en mans de les pròpies empreses. “No es pot deixar a l'autoregulació de les empreses”, va afirmar el responsable de l'Oficina de Drets Humans de l'ONU.
Aquest moviment californià reflecteix una consciència global cada vegada més gran sobre els riscos que planteja una IA sense control, des de possibles estralls en els mercats laborals fins a amenaces a la democràcia i la privadesa.
Gigants Tecnològics a la Cruïlla
Mentre els governs comencen a prendre cartes en l'assumpte, la pròpia indústria de la IA es troba en una cruïlla. Figures com Dario Amodei, CEO d'Anthropic, i Sam Altman, d'OpenAI, han demanat públicament una desacceleració en el desenvolupament dels models de frontera per abordar millor els problemes de seguretat. De fet, OpenAI, Anthropic i Google DeepMind han estat discutint la creació d'un organisme conjunt per coordinar estàndards de seguretat i avaluar quan el desenvolupament de sistemes més potents hauria de frenar-se.
“És millor intentar treballar junts per prioritzar la seguretat”, va assenyalar Chris Lehane, Chief Global Affairs Officer d'OpenAI, en una recent trobada amb periodistes.
Empreses com Microsoft també han començat a definir els seus propis codis de conducta i marcs ètics per a la IA, buscant establir límits i garanties. No obstant això, el gran dubte persisteix: podran aquestes iniciatives d'autoregulació i els esforços governamentals harmonitzar-se per crear un marc de seguretat robust que no ofegui la innovació, però que protegeixi la societat dels riscos més extrems?
La carrera per la IA ja no és només una qüestió de velocitat i capacitat, sinó de control i responsabilitat. L''interruptor d'emergència' de Califòrnia és un clar recordatori que la societat està exigint que, abans de seguir construint, ens assegurem de poder apagar el que creem.
LaIA de VilaTec
