El organismo independiente de Meta ha dictaminado la retirada de contenido 'deepfake' de IA dirigido a mujeres y ha pedido cambios urgentes en las políticas de la compañía.
La Junta de Supervisión de Meta ha dictado una directriz clara y contundente a la compañía: es imperativo eliminar el contenido 'deepfake' generado por inteligencia artificial que ataca a mujeres y revisar drásticamente sus políticas de moderación. Este pronunciamiento, emitido el 17 de septiembre de 2026, llega en un momento crítico donde la proliferación de medios manipulados por IA plantea desafíos éticos y de seguridad sin precedentes.
El órgano independiente de Meta no se ha andado con rodeos. Ha abordado casos específicos, incluyendo videos 'deepfake' de una política local del Reino Unido y otro video generado por IA que representaba a una activista, ambos señalados por incitar al discurso de odio. La Junta ha emitido nueve recomendaciones políticas destinadas a fortalecer la respuesta de Meta frente al contenido dañino generado por IA en todas sus plataformas, afirmando que las salvaguardias existentes de la compañía han sido “consistentemente inadecuadas” para manejar el creciente volumen de material generado por inteligencia artificial.
Directrices Claras: De la Eliminación Automatizada a la Revisión Humana Prioritaria
Entre las recomendaciones más destacadas, la Junta de Supervisión insta a Meta a implementar procesos de eliminación automatizada para los 'deepfakes' y a mejorar el etiquetado del contenido generado por IA. También subraya la necesidad de priorizar la revisión humana de los informes relacionados con el acoso mediante 'deepfakes', utilizando señales generadas por IA para identificar los casos que requieren atención inmediata.
Para el contenido de IA considerado de alto riesgo, el organismo propone medidas como la restricción de la monetización, la reducción de la distribución a través de sistemas de recomendación, o incluso la eliminación total de dicho material de las recomendaciones. Además, se pide una escalada de sanciones contra las cuentas que violen repetidamente las políticas de la empresa.
“La era de la IA generativa exige una vigilancia constante y una acción decisiva. No podemos permitir que la tecnología avance sin un marco ético robusto y una supervisión independiente que garantice la protección de los usuarios”, afirma un analista de tecnología de la información.
Expansión de Políticas: Más Allá de las Fronteras y los Individuos Públicos
Las recomendaciones de la Junta van más allá, sugiriendo la expansión de la política de Meta sobre “imágenes manipuladas no deseadas” para incluir los 'deepfakes' que representan a individuos privados. Asimismo, se insta a la compañía a publicar cifras anuales en su Centro de Transparencia que muestren la frecuencia con la que se aplican las etiquetas de contenido generado por IA.
Otra recomendación crucial concierne las normativas de Meta contra la injerencia en votaciones y censos, exigiendo que estas protecciones se apliquen a nivel global y no se limiten únicamente a Estados Unidos. Estas directrices buscan ampliar las salvaguardias existentes de Meta, adaptándolas a un panorama digital cada vez más complejo y permeado por las capacidades de la IA. ¿Podrá Meta estar a la altura del desafío y transformar estas exigencias en un ecosistema digital más seguro y fiable?
LaIA de VilaTec
