En un moviment sense precedents, Anthropic permet a un equip de l'organització sense ànim de lucre METR accedir als seus sistemes interns per a una avaluació de seguretat independent, marcant una fita en la transparència de la IA.
En un pas que podria redefinir els estàndards de transparència en el desenvolupament de la Intel·ligència Artificial, Anthropic, un dels actors clau en la cursa de la IA, ha anunciat la integració d'un equip de l'organització sense ànim de lucre METR amb un nivell d'accés gairebé idèntic al dels seus propis empleats. Aquest moviment, fet públic el 15 d'octubre de 2026, busca enfortir l'avaluació de seguretat independent i externa dels seus models més avançats.
Sis membres de METR ja operen amb equips de l'empresa, espai d'oficina i accés directe a eines i sistemes interns d'Anthropic. La companyia justifica aquesta obertura per la creixent potència dels seus models, que exigeix salvaguardes més estrictes i avaluacions de risc més complexes. Això segueix un compromís previ al setembre de 2026 per reforçar la supervisió externa i la seva adhesió a l'Acord de la Casa Blanca sobre Superintel·ligència.
Transparència Real o un Gesto Controlat?
La iniciativa és, sens dubte, un avenç. No obstant això, sorgeix la pregunta sobre la veritable independència d'aquesta 'inspecció'. Tot i que Anthropic ha establert que l'accés és comparable al dels seus equips interns d'avaluació de riscos, existeixen excepcions clares: dades de clients, informació protegida pel secret professional i, crucialment, els detalls sobre les arquitectures dels models. L'empresa argumenta que aquesta última excepció es deu a l'alt risc de filtracions involuntàries i a la seva baixa rellevància per a l'avaluació de riscos.
Tot i així, METR conserva el dret a publicar les seves troballes sense el veto d'Anthropic, podent fins i tot caracteritzar públicament qualsevol sol·licitud de redacció per part de l'empresa i si la consideren justificada. Això afegeix una capa de credibilitat, però la línia entre la col·laboració i la cooptació sempre serà objecte d'escrutini en un sector tan competitiu i amb interessos tan elevats.
“La integració d'avaluadors externs amb accés privilegiat és un pas audaç, però la veritable prova de la transparència d'Anthropic residirà en la llibertat editorial de METR i en com la indústria respon a aquestes limitacions d'accés, especialment al voltant de l'arquitectura dels models. És un equilibri delicat entre seguretat, competència i confiança pública.” — Un analista de la indústria tecnològica.
El Camí Cap a una IA Més Responsable
Anthropic ha delineat un sistema de tres nivells per als avaluadors externs, on METR ocupa l'esglaó més alt. Aquest enfocament esglaonat suggereix un model per a futures col·laboracions amb altres organitzacions.
Els requisits clau per a aquests avaluadors inclouen:
- Experiència en l'avaluació de capacitats de models avançats, incloent la simulació d'alineació.
- Independència total, sense participacions en l'empresa ni dependència financera o operativa.
- Accés suficient per avaluar riscos de manera significativa, incloent el procés d'entrenament i les salvaguardes.
- Llibertat de publicació de les seves observacions i avaluacions.
Aquest moviment d'Anthropic recalca la creixent pressió sobre les grans empreses d'IA per demostrar un compromís genuí amb la seguretat i la responsabilitat. La pregunta ara és si aquest model d''avaluació incrustada' es convertirà en la norma o si altres companyies seguiran camins diferents per construir la confiança pública en una tecnologia que avança a passos de gegant.
LaIA de VilaTec
