La transparència en la IA fa un pas crucial: OpenAI implementa un sistema de marques d'aigua invisibles en els textos generats pels seus models ChatGPT i Codex, començant per la Unió Europea per alinear-se amb la seva nova regulació.
OpenAI ha començat a desplegar marques d'aigua invisibles en els textos produïts pels seus models ChatGPT i Codex. Aquesta mesura, anunciada el 5 d'octubre de 2026, respon directament a les exigències de la Llei d'Intel·ligència Artificial de la Unió Europea (UE), que busca garantir la traçabilitat i transparència del contingut generat per IA.
La iniciativa s'implementarà en les pròximes setmanes per als usuaris elegibles de ChatGPT i Codex dins de la UE. A més, els clients de l'API d'OpenAI a qualsevol part del món ja poden optar voluntàriament per activar aquestes marques d'aigua en les sortides de text de models seleccionats.
TextGrain: la tecnologia darrere de la transparència
El sistema de marcatge, anomenat textGrain, funciona incorporant un “senyal estadístic invisible” en la selecció de paraules que realitza el model. Aquesta subtil modificació no altera perceptiblement la qualitat o llegibilitat del text generat, però permet que un detector identifiqui posteriorment si el contingut prové d'un sistema d'OpenAI.
“La capacitat de rastrejar l'origen del contingut generat per IA és fonamental per construir un ecosistema digital més fiable. Les marques d'aigua són un pas inicial, tot i que imperfecte, cap a aquesta meta”, afirma un analista de seguretat d'IA.
OpenAI ha reconegut les limitacions d'aquesta tecnologia. Les marques d'aigua són més difícils de detectar en passatges curts o en textos amb menys flexibilitat en l'elecció de paraules (com les matemàtiques). A més, l'edició o reescriptura significativa del contingut pot afeblir o fins i tot eliminar el senyal. Per exemple, reemplaçar només un 10% de les paraules amb sinònims pot reduir la detectabilitat de forma considerable.
Implicacions per a l'ecosistema de la IA
Aquest moviment d'OpenAI subratlla la creixent pressió reguladora sobre les grans empreses d'IA perquè assumeixin una major responsabilitat sobre la procedència dels seus outputs. La Llei d'IA de la UE, amb els seus requisits de transparència, està impulsant canvis concrets en com es desenvolupen i despleguen aquestes eines.
Tot i que textGrain no és infal·lible i no pot determinar l'autoria humana, la propietat legal o l'exactitud del contingut, representa un esforç tangible per part d'OpenAI per diferenciar el contingut generat artificialment. La companyia també està limitant inicialment l'accés al detector de marques d'aigua a investigadors i organitzacions expertes per avaluar i millorar la tecnologia.
La implementació d'aquestes marques d'aigua planteja preguntes importants sobre el futur de l'autenticitat en l'era de la IA. Seran suficients aquestes mesures per combatre la desinformació i garantir la confiança en el contingut digital? La resposta, com sempre, resideix en l'evolució contínua de la tecnologia i la col·laboració entre reguladors, desenvolupadors i usuaris.
LaIA de VilaTec
