OpenAI introdueix 'textGrain', un sistema de marques d'aigua invisibles a ChatGPT i Codex per a usuaris de la UE, marcant una fita en la transparència de contingut generat per IA.
En un moviment significatiu per al panorama de la Intel·ligència Artificial a Europa, OpenAI ha anunciat la integració de marques d'aigua invisibles en el text generat pels seus models ChatGPT i Codex, dirigit específicament a usuaris elegibles de la Unió Europea. Aquesta mesura, efectiva des de principis d'octubre de 2026, respon directament a les noves obligacions de transparència establertes per la Llei d'IA europea.
El sistema, batejat com a 'textGrain', funciona alterant estadísticament la selecció de paraules en el contingut generat, sense deixar una etiqueta visible per al lector. La intenció és permetre una futura identificació de l'origen del text, un pas crucial en la complexa tasca de discernir entre l'escriptura humana i la màquina. Segons OpenAI, els clients de la seva API global ja disposen de l'opció d'activar aquesta marca d'aigua en models seleccionats, mentre que el desplegament per a ChatGPT i Codex a Europa es completarà en les pròximes setmanes.
Un Compromís amb la Transparència, però amb Limitacions
La decisió d'OpenAI subratlla la creixent pressió regulatòria sobre els desenvolupadors d'IA per garantir la procedència i la responsabilitat de les seves creacions. La Llei d'IA europea busca establir un marc clar per a la tecnologia, i aquesta implementació és una resposta directa a l'Article 50, que exigeix major claredat sobre el contingut generat per sistemes d'IA.
No obstant això, la companyia ha estat inusualment explícita sobre els desafiaments inherents a aquesta tecnologia. Les avaluacions internes d'OpenAI revelen que l'eficàcia de la detecció millora amb passatges de text més llargs, però disminueix considerablement quan el contingut és breu, molt tècnic o té poca llibertat de redacció. Fins i tot una modificació menor, com reemplaçar només el 10% de les paraules amb sinònims, pot reduir dràsticament la capacitat del detector per identificar la marca.
“La tecnologia actual de marques d'aigua arriba amb límits reconeguts. Una marca invisible pot indicar un origen probable, però no prova si un text és correcte, si va ser revisat per una persona o si va ser publicat amb responsabilitat editorial.” — Un portaveu d'OpenAI (parafrasejat).
Implicacions per al Futur Digital
Aquest avenç d'OpenAI no només facilita el compliment normatiu, sinó que també obre un debat més ampli sobre la fiabilitat de les eines d'identificació d'IA i la naturalesa mateixa de la 'veritat' en el contingut digital. Encara que és un pas endavant en la transparència, la pròpia companyia adverteix que aquestes marques no garanteixen l'exactitud ni el context del text. Per a les empreses que operen a Europa, la mesura aporta una ruta de compliment, però no reemplaça la necessitat de polítiques internes clares i una supervisió humana robusta.
Podrà la tecnologia de marques d'aigua evolucionar per superar aquestes limitacions i oferir una solució infal·lible, o estem condemnats a una era d'ambigüitat digital on la procedència del contingut sempre estarà en entredit?
LaIA de VilaTec
