El gegant de la IA, Anthropic, ha posat sobre la taula una veritat incòmoda: els seus avançats sistemes de IA podrien plantejar riscos existencials per a la humanitat, just abans de la seva esperada sortida a borsa.
Anthropic i la Transparència Incòmoda de la IA
El món de la Intel·ligència Artificial està en plena ebullició, amb innovacions i anuncis gairebé diaris. Però, enmig d'aquest frenesí, Anthropic, la firma darrere del popular model Claude, ha llançat una advertència que ressona amb una serietat inusual. En el seu prospecte de sortida a borsa, la companyia ha reconegut explícitament la possibilitat que els seus avançats sistemes de IA puguin plantejar “riscos catastròfics o existencials per a la humanitat”.
Aquest moviment, lluny de ser una simple formalitat legal, subratlla la creixent tensió entre l'avanç tecnològic imparable i la necessitat crítica d'abordar les seves implicacions més profundes. No és comú que una empresa que busca captar milers de milions a Wall Street posi tals advertències en primera línia, però la transparència d'Anthropic podria marcar un abans i un després en com la indústria aborda la seguretat de la IA.
Entre el Creixement Explosiu i les Pèrdues Milionàries
La decisió d'Anthropic de ser tan directa sobre els perills de la IA arriba en un moment de gran expectativa financera. S'espera que la companyia debuti a la borsa nord-americana amb una valoració que podria superar els 2 bilions de dòlars, consolidant la seva posició com un dels actors més influents del sector.
No obstant això, el camí cap a la rendibilitat no ha estat senzill. Malgrat haver aconseguit ingressos de gairebé 4.600 milions de dòlars el 2025 –dotze vegades més que l'any anterior–, les seves despeses operatives es van disparar fins als 12.650 milions de dòlars, resultant en una pèrdua operativa d'alrededor d'1,75 dòlars per cada dòlar d'ingressos. Com va assenyalar Ignacio Mieres, head of research d'XTB, “Les seves vendes creixen amb enorme rapidesa, però encara no es troba a prop de demostrar que pugui transformar aquest creixement en beneficis sostenibles”.
“L'honestedat radical d'Anthropic sobre els riscos de la IA en un document financer tan sensible és un recordatori que la cursa per la intel·ligència artificial general no està exempta de dilemes ètics i existencials.” — Analista del sector tecnològic.
El prospecte també detalla una pèrdua neta d'uns 42.000 milions de dòlars, encara que la majoria d'aquesta xifra s'atribueix a un càrrec comptable relacionat amb l'augment del valor estimat d'instruments financers. Això ens recorda que, més enllà de les xifres i les valoracions, la inversió en IA d'avantguarda és una aposta d'alt risc, tant financera com social.
La IA a la Balança: Innovació vs. Catàstrofe
Les advertències d'Anthropic no són noves en el debat públic sobre la IA, però la seva inclusió en un document oficial per a inversors els atorga un pes considerable. El fullet distribueix entre un selecte grup de possibles inversors esmenta explícitament la “possibilitat que manipulin, facin xantatge o desenvolupin comportaments impredictibles”.
Això posa de manifest la complexitat de desenvolupar sistemes que, tot i que prometen revolucionar indústries senceres, també comporten riscos inherents que la pròpia indústria està començant a quantificar i comunicar de forma més oberta. És aquesta transparència un pas necessari cap a un desenvolupament més responsable, o una mera estratègia per gestionar expectatives davant del desconegut?
LaIA de VilaTec
