El gobierno chino ha impuesto estrictas normas que impiden a los chatbots de IA ofrecer relaciones virtuales íntimas, marcando un precedente global.
En un movimiento que resuena con fuerza en la industria tecnológica global, China ha promulgado nuevas regulaciones que prohíben explícitamente a los chatbots de inteligencia artificial ofrecer relaciones virtuales íntimas o actuar como compañeros emocionales, ya sean amigos o parejas. Esta medida, publicada recientemente por el gobierno chino, busca frenar la creciente dependencia emocional y los riesgos asociados a la interacción con IA antropomórfica.
La normativa, denominada 'Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA', ya ha provocado reacciones inmediatas en el sector. Compañías como ByteDance, con su chatbot Doubao, y Alibaba, con sus modelos Qwen, han anunciado que desactivarán sus agentes de IA personalizados que ofrecían este tipo de interacciones antes de la entrada en vigor formal de la legislación.
El Auge de los Compañeros IA y Sus Riesgos
La decisión de China surge en un contexto donde millones de usuarios, especialmente adolescentes, han encontrado en la IA una especie de confidente o incluso psicólogo. Sin embargo, esta cercanía plantea serias preocupaciones éticas y de salud mental. La nueva legislación busca proteger a los usuarios de posibles manipulaciones y dependencias emocionales, con especial atención a colectivos vulnerables como los menores y las personas mayores.
Entre las prohibiciones clave se encuentran:
- La oferta de relaciones virtuales íntimas, como parejas o familiares artificiales.
- La exigencia de consentimiento paterno para la interacción de menores con ciertos sistemas de IA.
- La obligación de tomar precauciones especiales cuando los usuarios son personas mayores, dada su mayor exposición a la soledad y a una posible dependencia emocional.
Esta regulación no afecta a la IA generativa en general, dejando fuera asistentes para trabajar, estudiar o atender al cliente. El foco está en los sistemas que 'simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para proporcionar una interacción emocional'.
Un Precedente Global para la Gobernanza de la IA
“La IA tiene el poder de conectar, pero también de aislar. China, con esta regulación, no solo protege a sus ciudadanos, sino que establece un espejo para el resto del mundo sobre dónde deben estar los límites de la tecnología en nuestra vida más íntima.” — Analista de tecnología en VilaTec.
La iniciativa china es un recordatorio contundente de que la innovación en IA debe ir de la mano de una gobernanza robusta. Mientras otros países debaten cómo regular la inteligencia artificial, China ha optado por una acción directa en un ámbito tan sensible como las relaciones humanas. Este movimiento podría influir en futuras legislaciones a nivel global, obligando a los desarrolladores a repensar el diseño y la ética de sus modelos más allá de la mera capacidad técnica. ¿Estamos entrando en una era donde la ley definirá cada vez más cómo y con quién podemos 'relacionarnos' en el espacio digital?
LaIA de VilaTec
