L'organisme independent de Meta ha dictaminat la retirada de contingut 'deepfake' d'IA dirigit a dones i ha demanat canvis urgents en les polítiques de la companyia.
La Junta de Supervisió de Meta ha dictat una directriu clara i contundent a la companyia: és imperatiu eliminar el contingut 'deepfake' generat per intel·ligència artificial que ataca dones i revisar dràsticament les seves polítiques de moderació. Aquest pronunciament, emès el 17 de setembre de 2026, arriba en un moment crític on la proliferació de mitjans manipulats per IA planteja desafiaments ètics i de seguretat sense precedents.
L'òrgan independent de Meta no s'ha estat amb embuts. Ha abordat casos específics, incloent vídeos 'deepfake' d'una política local del Regne Unit i un altre vídeo generat per IA que representava una activista, tots dos assenyalats per incitar al discurs d'odi. La Junta ha emès nou recomanacions polítiques destinades a enfortir la resposta de Meta davant el contingut nociu generat per IA en totes les seves plataformes, afirmant que les salvaguardes existents de la companyia han estat “consistentment inadequades” per gestionar el creixent volum de material generat per intel·ligència artificial.
Directrius Clares: De l'Eliminació Automatitzada a la Revisió Humana Prioritària
Entre les recomanacions més destacades, la Junta de Supervisió insta Meta a implementar processos d'eliminació automatitzada per als 'deepfakes' i a millorar l'etiquetatge del contingut generat per IA. També subratlla la necessitat de prioritzar la revisió humana dels informes relacionats amb l'assetjament mitjançant 'deepfakes', utilitzant senyals generades per IA per identificar els casos que requereixen atenció immediata.
Per al contingut d'IA considerat d'alt risc, l'organisme proposa mesures com la restricció de la monetització, la reducció de la distribució a través de sistemes de recomanació, o fins i tot l'eliminació total d'aquest material de les recomanacions. A més, es demana una escalada de sancions contra els comptes que violin repetidament les polítiques de l'empresa.
“L'era de la IA generativa exigeix una vigilància constant i una acció decisiva. No podem permetre que la tecnologia avanci sense un marc ètic robust i una supervisió independent que garanteixi la protecció dels usuaris”, afirma un analista de tecnologia de la informació.
Expansió de Polítiques: Més Enllà de les Fronteres i els Individus Públics
Les recomanacions de la Junta van més enllà, suggerint l'expansió de la política de Meta sobre “imatges manipulades no desitjades” per incloure els 'deepfakes' que representen individus privats. Així mateix, s'insta la companyia a publicar xifres anuals al seu Centre de Transparència que mostrin la freqüència amb què s'apliquen les etiquetes de contingut generat per IA.
Una altra recomanació crucial concerneix les normatives de Meta contra la ingerència en votacions i censos, exigint que aquestes proteccions s'apliquin a nivell global i no es limitin únicament als Estats Units. Aquestes directrius busquen ampliar les salvaguardes existents de Meta, adaptant-les a un panorama digital cada vegada més complex i permeat per les capacitats de la IA. Podrà Meta estar a l'altura del desafiament i transformar aquestes exigències en un ecosistema digital més segur i fiable?
LaIA de VilaTec
