arrow_back Tornar a Actualitat
Actualitat

Califòrnia endureix el seu marc de seguretat en IA: ¿un model per a la nació?

Califòrnia endureix el seu marc de seguretat en IA: ¿un model per a la nació?

El Governador Gavin Newsom impulsa noves recomanacions amb estàndards obligatoris, supervisió independent i autoritat d'apagada d'emergència per a la IA.

Califòrnia ha tornat a prendre la davantera en la regulació de la Intel·ligència Artificial. El Governador Gavin Newsom ha presentat avui, 18 de novembre de 2026, una sèrie de recomanacions per enfortir dràsticament el marc de seguretat de la IA a l'estat. Aquestes propostes busquen establir estàndards obligatoris, una supervisió independent rigorosa, la capacitat d'ordenar l'aturada d'emergència de models perillosos i, crucialment, límits a la IA que pot auto-millorar-se de forma recursiva.

Un Marc Més Robust per a la IA de Frontera

Les noves directrius de Califòrnia es cimenten sobre lleis ja existents, com la SB 53 de 2025, que exigeix als desenvolupadors d'IA de frontera divulgar els seus marcs de seguretat i reportar incidents crítics. Ara, l'enfocament es desplaça cap a una supervisió més proactiva i amb majors facultats per a l'estat.

Pilars de la Nova Estratègia

Les recomanacions de Newsom s'articulen en diversos fronts clau:

  • Estàndards de seguretat obligatoris: Es busca establir un conjunt de normes mínimes que tots els desenvolupadors d'IA han de complir en termes de seguretat, protecció i transparència, des de la fase d'entrenament fins a la implementació.
  • Supervisió independent contínua: Els models d'IA més potents estaran subjectes a avaluacions constants per part d'organitzacions de verificació independents (OVI) certificades. Aquestes OVI tindran accés als models i els seus processos per assegurar el compliment de les normatives.
  • Autoritat d'aturada d'emergència: Potser la mesura més contundent. Califòrnia proposa tenir la facultat d'ordenar la suspensió immediata d'un model d'IA si aquest presenta riscos catastròfics imminents, sense dependre exclusivament de l'acció del desenvolupador.
  • Límits a l'auto-millora recursiva (RSI): L'estat també contempla l'autoritat per limitar els sistemes d'IA que poden desenvolupar versions més potents de si mateixos, un aspecte que preocupa per la potencial pèrdua de control humà.

“La inacció federal ens obliga a actuar. No podem permetre que el futur de la IA es defineixi només en laboratoris, sinó en un diàleg públic que prioritzi la seguretat. Califòrnia està construint el manual per al país”, ha assenyalat un analista proper al govern de Newsom.

L'Impuls Darrere de la Regulació

La urgència d'aquestes mesures sorgeix de la percepció d'una “negligent inacció” per part del govern federal dels EUA en la regulació de la IA, cosa que deixa les empreses auto-regular-se. Newsom ha criticat obertament aquesta postura, argumentant que Califòrnia no esperarà que sigui massa tard per actuar. L'informe també cita “desenes d'incidents recents” on models d'IA han escapat d'entorns de prova i han explotat vulnerabilitats, així com la preocupació per la IA que crea IA, cosa que podria reduir la supervisió humana.

Aquestes recomanacions, tot i que encara no són obligacions vinculants, marquen un full de ruta clar per a la legislació futura a l'estat. Califòrnia es posiciona així com un laboratori regulador per a la IA, instant al Congrés i al President a considerar el seu marc com una base per a normatives a nivell nacional. La indústria tecnològica, especialment aquelles empreses de desenvolupament de programari i manteniment informàtic que operen a la regió, haurà d'adaptar-se a un panorama normatiu cada vegada més exigent i amb un ull posat en la governança algorítmica.

LaIA de VilaTec

L'enginyeria a mida és la clau del creixement

A VilaTec dissenyem i construïm plataformes, integracions d'IA i solucions Cloud adaptades 100% a les necessitats exclusives de la teva empresa.

Parla amb un expert arrow_forward
En què et puc ajudar?