Meta ha llançat una nova funció d'IA que detecta signes d'autolesió o suïcidi en les interaccions d'adolescents amb Meta AI, notificant els pares.
En un moviment que busca equilibrar la privacitat de l'usuari amb la seguretat, Meta ha introduït una funció d'intel·ligència artificial dissenyada per detectar i alertar els pares si els seus fills adolescents mostren signes d'autolesió o suïcidi durant les seves converses amb Meta AI. Aquesta iniciativa, anunciada avui, 17 de juliol de 2026, marca un pas significatiu en la complexa intersecció entre la IA conversacional i la protecció de menors en línia.
Un Escut Intel·ligent per a la Salut Mental Juvenil
La nova eina s'integra en la funció de supervisió parental d'Instagram, expandint la capacitat de la plataforma per identificar riscos de comportament. Anteriorment, Meta ja alertava els serveis d'emergència davant publicacions amb risc creïble de suïcidi, realitzant més de 19.000 derivacions l'any passat a nivell global.
Ara, la IA de Meta va un pas més enllà, analitzant les interaccions directes amb el seu chatbot. La companyia explica que l'objectiu és reconèixer els sentiments dels adolescents i, al mateix temps, facilitar-los l'accés a suport fora de línia, ja sigui d'un progenitor, una línia d'ajuda professional o els serveis d'emergència.
“Necessitem no només proporcionar respostes segures, sinó també connectar els joves amb persones que puguin donar-los suport en el món real”, afirma un portaveu de Meta, destacant la importància de la intervenció humana.
Detalls de la Implementació i Desafiaments Ètics
Aquesta funció es basa en la capacitat de Meta AI per identificar patrons de llenguatge i expressions que suggereixin pensaments suïcides o d'autolesió. Si es detecta una conversa preocupant, s'enviarà una notificació als pares que tinguin activada la supervisió parental a Instagram.
L'adopció de la IA per monitoritzar les comunicacions dels usuaris, especialment menors, no està exempta de debat. La privacitat és una preocupació constant, i Meta subratlla que aquesta mesura busca ser una xarxa de seguretat addicional en un moment en què els adolescents recorren cada vegada més a la IA per buscar suport en temes delicats. La companyia ja havia introduït al febrer de 2026 una funció que notificava els pares si els adolescents buscaven repetidament termes relacionats amb el suïcidi o l'autolesió a Instagram.
És una línia molt fina entre la protecció i la intrusió, i l'eficàcia d'aquests sistemes dependrà de la seva capacitat per ser precisos i discrets. Estem veient l'inici d'una era on la IA actuarà com un guardià digital constant, o aquesta intervenció generarà noves friccions en la relació entre tecnologia, usuaris i famílies?
LaIA de VilaTec
