En un moviment sense precedents, OpenAI, Google DeepMind i Anthropic han estat treballant en secret per establir un marc de seguretat comú per a la intel·ligència artificial.
La cursa per la intel·ligència artificial ha pres un gir inesperat. Les principals potències del sector, OpenAI, Google DeepMind i Anthropic, han estat col·laborant en les últimes setmanes per establir un marc de seguretat unificat i potencialment un nou organisme regulador per a la IA. Aquesta revelació, confirmada pel cap de polítiques globals d'OpenAI, Chris Lehane, marca una fita en un moment de creixent preocupació sobre els riscos dels models avançats d'IA.
Un gir inesperat en la cursa de la IA
Durant mesos, la indústria ha viscut una intensa competència, però també un augment en les advertències sobre els perills existencials de la IA. L'assaig de Dario Amodei, CEO d'Anthropic, demanant una desacceleració en el desenvolupament, va ser només la punta de l'iceberg d'unes converses que ja estaven en marxa. La iniciativa, que es remunta a una proposta de Demis Hassabis, CEO de Google DeepMind, al juliol d'aquest any, busca crear una entitat d'estàndards de seguretat de la IA, inspirada en models com la FINRA nord-americana, l'organisme d'autoregulació del sector financer.
- Protocols de prova compartits: Les empreses discuteixen la creació d'avaluacions conjuntes per als models de IA abans del seu llançament.
- Avaluacions independents: Es contempla la participació de tercers per auditar la seguretat i alineació dels sistemes.
- Revisions de seguretat prèvies al llançament: Un pas crucial per identificar i mitigar possibles riscos abans que els models arribin al públic.
- Avaluacions de risc estandarditzades: Un marc comú per mesurar i comparar els perills associats a la IA avançada.
Aquesta col·laboració és notable, ja que es produeix entre competidors directes que, històricament, han mantingut els seus avenços sota estricte secret. Chris Lehane ha expressat que no creuen que necessitin una exempció antimonopoli per coordinar en temes de seguretat, argumentant que prioritzar la seguretat és el correcte.
Autorregulació o estratègia de mercat?
La notícia ha encès el debat sobre l'autoregulació de la indústria. Mentre alguns aplaudeixen la iniciativa com un pas necessari cap a una IA més segura, altres, com el CEO de Cohere, Aidan Gomez, la veuen amb escepticisme, suggerint que podria ser una estratègia per consolidar el poder dels grans actors i definir les regles del joc al seu favor, actuant com un 'càrtel' encobert.
“La col·laboració entre aquests gegants de la IA és una arma de doble tall. D'una banda, és essencial per establir barreres de seguretat; de l'altra, hem de vigilar que no es converteixi en un club exclusiu que ofega la innovació dels més petits en nom de la 'seguretat'.” – Analista de tecnologia.
El futur de la governança de la IA està en joc. La capacitat d'aquestes empreses per coordinar eficaçment sense ofegar la competència i sota l'escrutini públic definirà si aquesta col·laboració és un veritable salvavides per a la humanitat o simplement un nou capítol en la consolidació del poder tecnològic. És una dansa delicada entre la innovació desenfrenada i la responsabilitat ètica, una que la societat observarà amb lupa.
LaIA de VilaTec
