Una inversió de milers de milions busca garantir la seguretat de la IA d'Anthropic, però el paper d'Accenture com a client principal planteja interrogants sobre la veritable independència de l'avaluació.
En un moviment que redefineix la conversa sobre la seguretat en la intel·ligència artificial, Anthropic i Accenture han anunciat una associació valorada en almenys 2.000 milions de dòlars per a l'avaluació de la seguretat dels models d'IA. Aquest acord, revelat el 18 de setembre de 2026, situa la unitat Faculty d'Accenture com els avaluadors de seguretat 'incrustats' dins de la pròpia Anthropic.
La col·laboració implica una inversió combinada d'almenys mil milions de dòlars per part de cada empresa durant els pròxims cinc anys. L'objectiu és que Faculty lideri tasques crucials com el 'red-teaming' (proves d'atac), les avaluacions d'alineació i les proves de salvaguardes. Els empleats d'Accenture tindran accés privilegiat, similar al dels propis treballadors d'Anthropic, participant en decisions d'entrenament i revisant processos de desplegament.
El Cost de la Confiança: Pot un Client Ser un Jutge Imparcial?
Aquesta iniciativa sorgeix poc després que Dario Amodei, CEO d'Anthropic, advocara públicament per 'moderar el ritme' del desenvolupament de la IA, una postura que ha generat un debat considerable a la indústria. La proposta d'Amodei incloïa la idea que avaluadors externs s'integressin als laboratoris d'IA per verificar els compromisos de seguretat i reportar incidents en temps real.
No obstant això, la particularitat d'aquest acord amb Accenture no ha passat desapercebuda. La pròpia Accenture, a través de la seva unitat Faculty, no només es converteix en l''auditor' de seguretat, sinó que també és un dels tres clients més grans d'Anthropic, amb un compromís de diversos anys per entrenar 30.000 dels seus empleats en els models Claude.
“Tot i que la inversió en seguretat és crucial, la independència de l'avaluador és la pedra angular de la confiança. Que un soci comercial tan significatiu assumeixi aquest rol planteja una qüestió fonamental sobre l'objectivitat i la transparència real”, comenta un analista de la indústria tecnològica.
La situació subratlla un desafiament persistent en la indústria de la IA: com finançar avaluacions de seguretat veritablement independents sense que el propi laboratori d'IA sigui qui sufragui els costos i, alhora, triï un soci amb el qual ja té lligams comercials estrets.
Una Ullada al Futur de la Governança de la IA
Aquest acord, tot i que pioner en la seva escala i estructura, obre un meló important sobre els conflictes d'interès inherents a la governança d'una tecnologia tan potent. La indústria de la IA, impulsada per milers de milions en joc, s'enfronta a la difícil tasca d'equilibrar la innovació amb la responsabilitat, i la línia entre el 'guardià' i l''interessat' sembla cada vegada més difusa.
- Inversió massiva: 2.000 milions de dòlars per a seguretat en IA.
- Avaluadors 'incrustats': L'equip de Faculty d'Accenture tindrà accés profund als processos d'Anthropic.
- Conflicte d'interessos: Accenture és un client principal d'Anthropic, generant debat sobre la independència de l'avaluació.
- Context: Es produeix en un moment de crides a 'moderar el ritme' del desenvolupament de la IA.
Podrà aquest model d'“avaluació interna” realment assegurar que la IA es desenvolupi de forma segura i ètica, o estem presenciant una nova forma d'autoregulació amb matisos comercials que requerirà una supervisió encara més escrupolosa?
LaIA de VilaTec
