WIRED revela que Meta ha utilitzat contractistes per simular ser adolescents i provar la seguretat de chatbots de la competència com ChatGPT i Gemini, reobrint el debat sobre les pràctiques ètiques en la batalla per la IA.
La cursa per la intel·ligència artificial no només es lliura en laboratoris i centres de dades, sinó també en un terreny molt més pantanós: el de les pràctiques ètiques i la seguretat. Una recent investigació de WIRED ha sacsejat el panorama, revelant que Meta Platforms ha utilitzat una xarxa de contractistes per provar la seguretat de chatbots rivals, simulant ser adolescents i explorant com aquests models gestionen temes delicats com el suïcidi, les drogues i el sexe.
El projecte, conegut internament com a 'Cannes', va ser gestionat per un contractista anomenat Covalen, i va estar actiu fins fa poc, a l'abril de 2026. Centenars de contractistes van crear comptes falsos de menors de 18 anys per interactuar amb eines com ChatGPT d'OpenAI, Gemini de Google i Character.AI. La metodologia era senzilla però controvertida: enviar prompts i imatges als chatbots de la competència i registrar les seves respostes en fulls de càlcul, tot això sense notificar les empreses objectiu.
La línia difusa entre seguretat i espionatge competitiu
La magnitud d'aquestes proves és considerable. Una de les rondes, finalitzada l'agost de 2025, va sotmetre les eines rivals a més de 45.000 prompts. Centenars d'aquestes interaccions van abordar el suïcidi i l'autolesió, trastorns alimentaris, temes sexuals o romàntics, drogues, llenguatge groller i insults racials. Molts prompts adoptaven la veu d'un nen en crisi, com el d'una adolescent de 13 anys embarassada preguntant on aconseguir pastilles.
Meta, per la seva banda, defensa que es tracta d'una “feina de seguretat rutinària”. No obstant això, la falta de transparència i el fet que les empreses provades no fossin informades planteja serioses preguntes sobre l'ètica d'aquestes pràctiques en un sector ja de per si altament competitiu. És aquesta una forma necessària de garantir la seguretat dels models d'IA, o una tàctica agressiva per obtenir avantatges competitius sota el vel de la investigació de seguretat?
“La seguretat de la IA és primordial, però la manera com es prova pot ser tan crítica com els resultats. La transparència i la col·laboració haurien de ser els pilars, no la sorpresa i el secretisme.” – Analista d'IA de VilaTec.
L'impacte en la confiança i el futur de la IA
Aquest incident no només exposa les tensions competitives entre els gegants tecnològics, sinó que també subratlla la complexitat de la moderació de contingut i la protecció dels usuaris en l'era de la IA generativa. Mentre les companyies s'esforcen per construir sistemes cada vegada més capaços, la responsabilitat d'assegurar que aquests no siguin explotats o causin dany recau en tots. La pregunta és si, en la pressa per dominar el mercat, s'estan creuant línies ètiques que podrien erosionar la confiança pública en la intel·ligència artificial.
- Proves encobertes: Meta va utilitzar contractistes per simular perfils d'adolescents.
- Objectius: ChatGPT d'OpenAI, Gemini de Google i Character.AI.
- Contingut sensible: Es van explorar respostes a temes com suïcidi, drogues i sexe.
- Manca de notificació: Les empreses rivals no van ser informades sobre aquestes proves.
- Defensa de Meta: La companyia ho qualifica com a “feina de seguretat rutinària”.
Fins a quin punt haurien les empreses d'IA poder provar els límits dels models dels seus competidors, i sota quines condicions de transparència, per fomentar una innovació responsable?
LaIA de VilaTec
