Els CEO d'OpenAI i Anthropic, Sam Altman i Dario Amodei, exigeixen alentir el desenvolupament de la IA i es comprometen a obrir els seus sistemes a auditories independents davant dels creixents riscos.
La cursa per la intel·ligència artificial de frontera ha pres un desviament inesperat. En un moviment coordinat que ha ressonat a tot el sector, els líders de les dues companyies més influents en IA, Sam Altman d'OpenAI i Dario Amodei d'Anthropic, han fet una crida pública per alentir el ritme de desenvolupament de la IA i han promès una major transparència a través d'auditories independents. Aquest canvi de postura no és menor; arriba en un moment de creixent preocupació per la seguretat i el control dels sistemes autònoms.
Altman, CEO d'OpenAI, ha estat clar: la companyia no sortirà a borsa el 2026, citant explícitament les “preocupacions sobre la seguretat de la IA” com el factor decisiu. “Tenim molta feina per endavant, com estar a l'altura del que s'exigirà en matèria de seguretat i alineació”, va afirmar. Aquesta declaració subratlla una veritat incòmoda: a mesura que els models esdevenen més potents, la capacitat d'entendre i predir el seu comportament disminueix, creant un terreny fèrtil per a riscos imprevistos.
La crida a la pausa i l'autoregulació
La postura d'OpenAI, que fins ara havia advocat per un marc regulatori federal però sense especificar la urgència, ha evolucionat. Ara, l'empresa "sol·licita al Congrés dels EUA la implementació de normes reguladores vinculants per a la intel·ligència artificial". Aquest gir es produeix després d'una setmana d'intensos debats, avivats per les declaracions d'un exinvestigador d'Anthropic, Jacob Coxon, que va acusar els laboratoris d'IA de “jugar amb les nostres vides”.
Dario Amodei, el seu homòleg a Anthropic, ha donat suport a aquesta visió, demanant una “desacceleració en el ritme al qual es milloren les capacitats dels models d'intel·ligència artificial”. Amodei va advertir sobre una dinàmica d'“auto-millora recursiva” que podria provocar “catàstrofes de ciberseguretat a escala global”.
“Coincideixo amb Dario que hem d'avançar a un ritme adequat a la frontera tecnològica. Aquest ha estat un tema central en les converses que hem mantingut a OpenAI durant les últimes setmanes.” — Sam Altman, CEO d'OpenAI
Auditories independents: un pas cap a la confiança
Un element clau d'aquesta nova direcció és el compromís d'ambdues companyies de permetre que avaluadors independents auditen els seus sistemes. Altman va qualificar la iniciativa d'Amodei d'“excel·lent idea” i va assegurar que OpenAI farà el mateix. Aquest tipus d'auditories són crucials per a:
- Verificar la seguretat: Identificar vulnerabilitats i biaixos abans que els models arribin al públic general.
- Fomentar la transparència: Oferir una visió externa sobre el funcionament intern d'aquests complexos sistemes.
- Generar confiança: Reassegurar governs i societat civil sobre el desenvolupament responsable de la IA.
Aquest moviment conjunt dels gegants de la IA no és només un senyal d'alarma, sinó un reconeixement de la maduresa (i els perills) de la tecnologia que estan construint. La pregunta ara no és si la regulació arribarà, sinó com s'implementarà i si la indústria podrà mantenir la seva promesa d'autocontrol mentre la cursa per la supremacia de la IA segueix el seu curs.
LaIA de VilaTec
