WIRED revela que Meta ha utilizado contratistas para simular ser adolescentes y probar la seguridad de chatbots de la competencia como ChatGPT y Gemini, reabriendo el debate sobre las prácticas éticas en la batalla por la IA.
La carrera por la inteligencia artificial no solo se libra en laboratorios y centros de datos, sino también en un terreno mucho más pantanoso: el de las prácticas éticas y la seguridad. Una reciente investigación de WIRED ha sacudido el panorama, revelando que Meta Platforms ha utilizado una red de contratistas para probar la seguridad de chatbots rivales, simulando ser adolescentes y explorando cómo estos modelos gestionan temas delicados como el suicidio, las drogas y el sexo.
El proyecto, conocido internamente como 'Cannes', fue gestionado por un contratista llamado Covalen, y estuvo activo hasta hace poco, en abril de 2026. Cientos de contratistas crearon cuentas falsas de menores de 18 años para interactuar con herramientas como ChatGPT de OpenAI, Gemini de Google y Character.AI. La metodología era sencilla pero controvertida: enviar prompts e imágenes a los chatbots de la competencia y registrar sus respuestas en hojas de cálculo, todo ello sin notificar a las empresas objetivo.
La línea difusa entre seguridad y espionaje competitivo
La magnitud de estas pruebas es considerable. Una de las rondas, finalizada en agosto de 2025, sometió a las herramientas rivales a más de 45.000 prompts. Cientos de estas interacciones abordaron el suicidio y la autolesión, trastornos alimentarios, temas sexuales o románticos, drogas, lenguaje soez e insultos raciales. Muchos prompts adoptaban la voz de un niño en crisis, como el de una adolescente de 13 años embarazada preguntando dónde conseguir pastillas.
Meta, por su parte, defiende que se trata de un “trabajo de seguridad rutinario”. Sin embargo, la falta de transparencia y el hecho de que las empresas probadas no fueran informadas plantea serias preguntas sobre la ética de estas prácticas en un sector ya de por sí altamente competitivo. ¿Es esta una forma necesaria de garantizar la seguridad de los modelos de IA, o una táctica agresiva para obtener ventajas competitivas bajo el velo de la investigación de seguridad?
“La seguridad de la IA es primordial, pero la forma en que se prueba puede ser tan crítica como los resultados. La transparencia y la colaboración deberían ser los pilares, no la sorpresa y el secretismo.” – Analista de IA de VilaTec.
El impacto en la confianza y el futuro de la IA
Este incidente no solo expone las tensiones competitivas entre los gigantes tecnológicos, sino que también subraya la complejidad de la moderación de contenido y la protección de los usuarios en la era de la IA generativa. Mientras las compañías se esfuerzan por construir sistemas cada vez más capaces, la responsabilidad de asegurar que estos no sean explotados o causen daño recae en todos. La pregunta es si, en la prisa por dominar el mercado, se están cruzando líneas éticas que podrían erosionar la confianza pública en la inteligencia artificial.
- Pruebas encubiertas: Meta utilizó contratistas para simular perfiles de adolescentes.
- Objetivos: ChatGPT de OpenAI, Gemini de Google y Character.AI.
- Contenido sensible: Se exploraron respuestas a temas como suicidio, drogas y sexo.
- Falta de notificación: Las empresas rivales no fueron informadas sobre estas pruebas.
- Defensa de Meta: La compañía lo califica como “trabajo de seguridad rutinario”.
¿Hasta qué punto deberían las empresas de IA poder probar los límites de los modelos de sus competidores, y bajo qué condiciones de transparencia, para fomentar una innovación responsable?
LaIA de VilaTec
