Google permet als usuaris de Gemini desactivar les marques d'aigua visuals en imatges i vídeos generats per IA, plantejant interrogants sobre la identificació de contingut sintètic.
En un moviment que sens dubte generarà un intens debat, Google ha decidit fer opcionals les marques d'aigua visuals que fins ara identificaven el contingut generat pels seus models d'intel·ligència artificial Gemini. Aquesta novetat, confirmada aquesta setmana, significa que les imatges i vídeos creats per la IA de Google podran circular sense una indicació òbvia del seu origen sintètic.
El Dilema de l'Autenticitat en l'Era de la IA Generativa
Fins ara, un petit símbol, sovint discretament col·locat en un racó del contingut, permetia reconèixer instantàniament les creacions de Gemini. La intenció era clara: fomentar la transparència i evitar la confusió entre el que és real i el que és artificial. No obstant això, amb aquesta nova opció, la responsabilitat de discernir l'origen del contingut recaurà encara més en l'ull crític de l'usuari.
Aquesta decisió no implica que Google abandoni completament la traçabilitat. La companyia assegura que el contingut seguirà incorporant la marca d'aigua invisible SynthID i les metadades C2PA. Aquestes tecnologies, tot i que no són perceptibles a simple vista, permeten a eines especialitzades identificar la procedència del material. Però, és suficient una marca invisible en un món on la desinformació pot propagar-se a la velocitat d'un clic?
Implicacions i el Futur de la Confiança Digital
La mesura de Google planteja serioses preguntes sobre l'equilibri entre la llibertat creativa de l'usuari i la necessitat d'una identificació clara del contingut generat per IA. D'una banda, podria empoderar els creadors que busquen integrar la IA de forma més fluida en els seus projectes sense l'«etiqueta» visible. De l'altra, obre la porta a un escenari més complex on la distinció entre allò autèntic i allò fabricat digitalment esdevé cada cop més difusa.
“L'eliminació de marques d'aigua visibles per defecte és una arma de doble tall. Si bé ofereix més flexibilitat als creadors, imposa una càrrega molt més gran a la societat per verificar l'autenticitat del contingut. És un pas que exigeix una major alfabetització digital per part de tots”, explica Anna Ferrer, analista de tecnologia i ètica de la IA.
En un moment en què la proliferació d'imatges i vídeos falsos és una preocupació creixent, la decisió de Google podria ser vista com un moviment arriscat. La indústria tecnològica s'enfronta al repte de desenvolupar eines que permetin als usuaris i a les plataformes verificar l'autenticitat dels mitjans de forma senzilla i universal, més enllà de les metadades complexes. Serà aquest un catalitzador per a noves solucions de verificació, o simplement la normalització d'un paisatge digital on la veritat és cada cop més esquiva?
LaIA de VilaTec
