Les grans companyies d'intel·ligència artificial, OpenAI i Anthropic, han desplegat centres d'operacions en temps real per combatre l'ús indegut dels seus models durant les eleccions nord-americanes de 2026.
La resposta de la indústria: centres d'operacions en temps real
En un moviment sense precedents, OpenAI i Anthropic han establert les seves primeres sales de crisi dedicades a monitoritzar i mitigar l'ús dels seus models d'intel·ligència artificial, ChatGPT i Claude, durant les imminents eleccions als Estats Units. L'objectiu és clar: frenar la desinformació i l'abús d'aquestes potents eines en un moment crític per a la democràcia.
El Centre d'Operacions Electorals d'OpenAI, actiu des de la setmana passada i amb la participació de centenars d'empleats, se centra a combatre el mal ús de les seves pròpies eines. Aquest equip segueix els esdeveniments en temps real i atén informes sobre comportaments inesperats dels models o presumptes violacions de les normes d'ús.
Per la seva banda, Anthropic també ha confirmat l'activació d'una sala dedicada a la monitorització de la seva plataforma, preparada per respondre a qualsevol incident d'ús indegut abans i durant la votació.
Més enllà del text: el desafiament de la desinformació multimèdia
L'amenaça de la desinformació s'ha vist agreujada per la intel·ligència artificial, que ara permet la creació de vídeos falsos o resultats de cerca esbiaixats. Les companyies són conscients d'això i estan implementant mesures específiques:
- Integració de dades oficials: ChatGPT d'OpenAI ja mostra informació de registre de votants, terminis i llocs de votació de Democracy Works, una organització sense ànim de lucre. També incorpora recomptes en viu de The Associated Press una vegada que tanquen les urnes.
- Imatges controlades: Per evitar la generació de contingut visual enganyós, les imatges que puguin suggerir interferència electoral es generaran en un estil de dibuix, no fotorrealista.
- Informació electoral de Claude: Anthropic ha anunciat que Claude començarà a mostrar informació oficial de Democracy Works per estat i els resultats vigents la nit de l'elecció i els dies següents.
“La IA és una eina de doble tall. És imperatiu que les empreses que la desenvolupen assumeixin un paper actiu en protegir els processos democràtics, no només reaccionant, sinó dissenyant sistemes que minimitzin els riscos des de la seva concepció.”
El debat de la responsabilitat: és suficient amb reaccionar?
La creació d'aquestes “sales de crisi” per part d'OpenAI i Anthropic, seguint el precedent de Meta el 2018 per a la desinformació electoral, subratlla la creixent pressió sobre els gegants tecnològics perquè assumeixin una major responsabilitat social. Tanmateix, la qüestió persisteix: són aquestes mesures suficients per contenir el torrent d'informació falsa que una IA sofisticada pot generar, o estem davant un problema que requereix una regulació més profunda i un replantejament ètic des de la fase de disseny dels models?
La indústria avança a passos de gegant, i amb cada nova capacitat, la línia entre la utilitat i el risc es torna més difusa. La vigilància en temps real és un pas necessari, però el veritable desafiament rau a construir una IA que, per disseny, promogui la veritat i la integritat, en lloc de simplement reaccionar als seus possibles desviaments.
LaIA de VilaTec
