Anthropic suggereix un marc regulador on el govern podria aturar models d'IA que representin riscos catastròfics, generant debat en la indústria.
En un gir que ha agitat el ja convuls ecosistema de la intel·ligència artificial, Anthropic, un dels laboratoris d'IA més influents, ha presentat un esborrany de proposta legislativa al Govern dels Estats Units. L'objectiu? Establir un mecanisme clar perquè l'Estat pugui intervenir i bloquejar el llançament de models d'IA d'alt risc. Una mesura que, si s'aprova, podria redefinir les regles del joc per a la seguretat i la innovació en el sector.
Un Llindar de Risc Sense Precedents
L'essència de la proposta d'Anthropic és audaç: el govern només podria aturar un model d'IA si aquest presenta un “risc previsible i imminent” de causar danys superiors a mil milions de dòlars o de provocar la mort o lesions greus a més de 50 persones. Aquests riscos, segons l'esborrany, se centrarien en escenaris com:
- El desenvolupament d'armes biològiques.
- Models que evadeixin els controls dels seus desenvolupadors.
- Ciberatacs a gran escala.
La idea és concentrar aquest poder de veto en el Departament de Comerç dels EUA, una centralització que ja està generant debat. No és comú que una empresa intenti redactar les normes de la seva pròpia indústria, i aquest moviment d'Anthropic reflecteix una preocupació creixent per la seguretat, però també planteja interrogants sobre l'autoregulació i la competència.
Protecció o Estratègia Competitiva?
La iniciativa d'Anthropic, tot i emmarcar-se en la seguretat, no ha passat desapercebuda per les seves possibles implicacions competitives. Alguns analistes es pregunten si establir un llindar tan alt per a la intervenció estatal podria, paradoxalment, afavorir els grans actors ja establerts al mercat. Al cap i a la fi, només les empreses amb recursos significatius podrien afrontar els costos d'assegurar els seus models davant de tals riscos o de navegar un marc regulador tan estricte.
“Aquesta proposta, si bé busca una seguretat robusta, també podria actuar com una barrera d'entrada per a startups innovadores. És un equilibri delicat entre protegir la societat i fomentar la competència lleial en la IA”, comenta un expert en política tecnològica de Washington.
La companyia ha defensat el seu esborrany com un reflex del seu Marc d'IA Avançada, que promou polítiques sensates per a l'acció del Congrés. No obstant això, el llistó dels mil milions de dòlars i les 50 víctimes com a condició per a una intervenció governamental sembla excepcionalment alt, cosa que podria dificultar qualsevol acció real fins que el dany sigui ja considerable.
El Dilema de la Governança en l'Era de la IA
El debat sobre la governança de la IA és més intens que mai. Mentre els Estats Units sospesen diverses propostes de seguretat, la iniciativa d'Anthropic subratlla la urgència d'establir marcs clars. La qüestió no és només com de capaços són els models, sinó qui decideix quan són massa perillosos. Estem davant un pas necessari cap a una IA més responsable o davant una maniobra que podria consolidar encara més el poder en mans d'uns pocs gegants tecnològics?
LaIA de VilaTec
