La funció Muse Image de Meta, que permetia generar imatges utilitzant perfils públics d'Instagram, ha estat suspesa després d'una onada de crítiques per privacitat i drets d'imatge.
Meta ha fet marxa enrere. La companyia ha anunciat la suspensió d'una de les característiques més controvertides de la seva recentment llançada eina de creació d'imatges amb intel·ligència artificial, Muse Image. La decisió arriba després de dies d'intens rebuig per part d'usuaris, agències de talent i figures de Hollywood, que van expressar serioses preocupacions sobre la privacitat i l'ús no consentit de la imatge personal en l'entrenament i la generació d'IA.
La funció, que permetia als usuaris de Meta AI generar i manipular imatges etiquetant comptes públics d'Instagram, va ser introduïda amb la promesa de ser una eina creativa. Tanmateix, ràpidament es va convertir en un focus de crítiques. El problema principal raïa en la seva política d''opt-out', cosa que significava que els perfils públics s'incloïen per defecte en el banc d'imatges per a la IA, a menys que l'usuari sol·licités explícitament ser-ne exclòs.
L'Impacte de la Fricció Pública en la Innovació d'IA
Aquest incident subratlla una tensió creixent: la velocitat de la innovació en IA davant la necessitat de salvaguardes ètiques i de privacitat. La reacció de la comunitat ha estat contundent. Les agències de talent, en particular, van assenyalar que la funció permetia la manipulació de la imatge i la semblança de celebritats sense el seu consentiment, un terreny legal i ètic relliscós.
Un portaveu de Meta va reconèixer que la funció «no va encertar el tir», i que l'empresa ha «escoltat els comentaris» per retirar-la.
“La privacitat i el control sobre la pròpia imatge digital no són negociables. Els gegants tecnològics han d'entendre que la innovació no pot atropellar els drets fonamentals dels usuaris.” – Analista de tecnologia de VilaTec.
Què Implica aquesta Suspensió per al Futur de la IA Generativa?
La retirada de Muse Image és un recordatori clar que el desplegament de la IA generativa en productes de consum massiu requereix una major sensibilitat i un disseny centrat en l'usuari, especialment pel que fa a la privacitat. No n'hi ha prou amb oferir una opció d'exclusió; la transparència i el consentiment explícit des del principi són cada cop més crucials.
Aquest episodi podria establir un precedent important, obligant altres companyies que desenvolupen eines d'IA similars a reavaluar les seves pròpies polítiques de privacitat i ús de dades. La batalla per la confiança de l'usuari en l'espai de la IA amb prou feines comença, i Meta acaba d'aprendre una lliçó costosa sobre els límits de la permissivitat per defecte.
LaIA de VilaTec
