Una investigació de WIRED destapa una xarxa de més de 400 aplicacions que ocultaven funcionalitats per crear deepfakes sexuals i violents, eludint els controls de les botigues d'apps.
Al descobert: la doble vida de les apps d'IA
Una recent investigació de WIRED ha sacsejat el panorama de la intel·ligència artificial, revelant que més de 400 aplicacions i dominis web aparentment inofensius amagaven eines per generar deepfakes sexuals i violents. El que es presentava com a generadors de retrats de mascotes, tutors d'idiomes o apps de fitness, en realitat, podia activar interfícies ocultes per crear imatges i vídeos explícits a partir de fotografies pujades pels usuaris.
Aquesta troballa posa de manifest una preocupant bretxa en els processos de revisió de les botigues d'aplicacions. Els desenvolupadors aconseguien passar els controls inicials mostrant una funcionalitat benigna, per després modificar el contingut que es lliurava a través de servidors remots. És a dir, una persona podia descarregar una aplicació que semblava normal, mentre que una altra, potser accedint a través d'una publicitat específica en plataformes com Facebook o Instagram, es trobava amb les eines de deepfake.
“La capacitat d'aquestes aplicacions per eludir la supervisió de les botigues i oferir contingut nociu a través de portes del darrere és un recordatori fosc dels desafiaments ètics i de seguretat que la IA encara ha d'abordar”, afirma un analista de seguretat digital.
La resposta dels gegants tecnològics i el desafiament pendent
Després de la publicació de la investigació de WIRED, tant Apple com Meta (anteriorment Facebook) han pres mesures. Apple va eliminar 19 aplicacions de la seva App Store, incloent-hi la popular app de retrats de mascotes Viefur. Per la seva banda, Meta va informar haver actuat contra milers de comptes, pàgines i usuaris vinculats a aquesta xarxa. Google també ha eliminat aplicacions relacionades de la seva Play Store, on al setembre es van identificar 27 apps amb més de 350.000 descàrregues conjuntes, moltes d'elles amb classificació per a totes les edats.
La xarxa d'aplicacions, amb connexions tècniques a infraestructures de parla xinesa i una empresa registrada a Hong Kong, KeLing Technology Limited, va començar a aparèixer a finals de 2025 i va créixer ràpidament a la primavera de 2026. Aquest incident subratlla la necessitat urgent de:
- Major vigilància en temps real: Els sistemes de revisió d'aplicacions han d'anar més enllà de la verificació inicial i monitoritzar activament el comportament de les apps després de la seva aprovació.
- Col·laboració transfronterera: La naturalesa global d'aquestes xarxes exigeix una cooperació internacional més estreta entre reguladors i empreses tecnològiques.
- Educació i conscienciació: Els usuaris han de ser conscients dels riscos associats a la descàrrega d'aplicacions aparentment innòcues i a la pujada de dades personals.
Aquest episodi ens obliga a reflexionar sobre la responsabilitat que recau en les plataformes i en els propis desenvolupadors d'IA. Estem preparats per a un futur on la línia entre la utilitat i l'abús de la intel·ligència artificial esdevé cada vegada més difusa?
LaIA de VilaTec
