OpenAI, Anthropic, Microsoft i Mistral AI signen el ‘Paris Call for AI Safety and Security’, comprometent-se a implementar mecanismes de detenció per als seus sistemes més potents.
En un pas significatiu cap a la governança de la intel·ligència artificial, els gegants del sector OpenAI, Anthropic, Microsoft i Mistral AI han signat el ‘Paris Call for AI Safety and Security’. Aquest acord, rubricat el passat 9 de novembre de 2026, compromet aquestes companyies a desenvolupar i implementar mecanismes que permetin aturar, posar en pausa o apagar els seus models d'IA més potents, fins i tot durant la seva fase d'entrenament.
Un compromís crucial per a la seguretat de la IA
La iniciativa ‘Paris Call for AI Safety and Security’ sorgeix com una declaració política recolzada per disset Estats, deu empreses d'intel·ligència artificial i deu organitzacions de la societat civil. El seu objectiu principal és abordar els riscos inherents al desenvolupament de sistemes d'IA avançats, garantint que els creadors tinguin la capacitat d'exercir un control fonamental sobre les seves creacions. La promesa d'aquests “interruptors de seguretat” representa un reconeixement tàcit de la potència i el potencial impacte incontrolable que la IA podria arribar a tenir.
Qui hi és i qui es queda fora de la 'Paris Call'?
Si bé l'adhesió de noms com OpenAI i Anthropic —líders en models de llenguatge— és notable, la llista de signants també destaca per absències significatives. Google i Meta no figuren entre les companyies que han subscrit aquest compromís, segons informes, la qual cosa planteja interrogants sobre la uniformitat dels estàndards de seguretat en el sector. Aquest fet subratlla la complexitat d'establir una governança global efectiva en un camp tan competitiu i en ràpida evolució.
“El ‘botó d'apagada’ és un primer pas essencial, però la veritable seguretat de la IA residirà en la col·laboració global i en la capacitat d'anar més enllà de les promeses no vinculants per establir auditories i responsabilitats clares.”
— Dra. Elena Rojas, Analista d'Ètica en IA, Tech Insights Group
Els punts clau d'aquest acord, tot i que no fixen terminis ni sancions específiques, inclouen:
- Mecanismes de detenció: Els signants es comprometen a dotar els seus models de la capacitat tècnica per ser aturats o posats en pausa.
- Abast: Aquesta capacitat ha d'aplicar-se tant durant l'entrenament com en l'ús intern dels sistemes.
- Consens polític: La signatura per part de múltiples Estats i organitzacions reforça la pressió per una IA més segura.
La ‘Paris Call’ és un recordatori que, a mesura que la IA es torna més sofisticada, la necessitat de salvaguardes robustes i un diàleg obert entre desenvolupadors, governs i la societat civil esdevé imperativa. La pregunta ara no és només quina rapidesa podem innovar, sinó com de bé podem aprendre a controlar-ho.
LaIA de VilaTec