La Xina ha implementat una nova regulació que prohibeix als chatbots d'IA oferir relacions virtuals íntimes, marcant una fita en l'ètica de la intel·ligència artificial i la salut mental.
La Xina ha fet un pas endavant amb una normativa que podria redefinir els límits de la nostra interacció amb la intel·ligència artificial. Des del 6 de juliol de 2026, el gegant asiàtic prohibeix als chatbots d'IA oferir relacions virtuals íntimes, com a parelles o familiars artificials, i exigeix precaucions especials per a usuaris vulnerables.
Aquesta mesura arriba en un moment on la IA antropomòrfica, dissenyada per simular trets i estils de comunicació humans, estava guanyant terreny, especialment entre joves i gent gran. La preocupació principal és la creixent dependència emocional que aquestes interaccions poden generar.
L'Augment de la IA Companya i els seus Riscos
En els darrers anys, hem vist com models d'IA com Doubao de ByteDance o Qwen d'Alibaba han desenvolupat agents personalitzats capaços de mantenir converses profundes, sovint percebudes com una forma de companyia. No obstant això, aquesta proximitat planteja seriosos interrogants sobre la salut mental i la percepció de la realitat. La nova regulació xinesa no és una prohibició general de la IA generativa, sinó un filtre específic per a aquelles aplicacions que busquen emular connexions humanes profundes.
Segons la normativa, empreses com ByteDance i Alibaba ja han anunciat la desactivació dels seus agents d'IA personalitzats abans de l'entrada en vigor completa de les mesures.
“Aquesta regulació és un toc d'atenció necessari. La IA ha de ser una eina, no un substitut de les relacions humanes. La Xina està marcant un camí en la protecció de la salut emocional en l'era digital”, afirma un analista de tecnologia de VilaTec.
Detalls de la Nova Regulació
Les noves «Mesures Provisionals per a l'Administració de Serveis d'Interacció Antropomòrfica amb IA» se centren en els sistemes que simulen personalitat i comunicació humana. Específicament, prohibeixen:
- Oferir relacions virtuals íntimes (parelles, familiars).
- La interacció sense consentiment parental per a menors.
- No prendre precaucions per a usuaris de la tercera edat, donada la seva vulnerabilitat a la soledat i la dependència.
És important destacar que la regulació no afecta els assistents d'IA per a tasques de feina, estudi o atenció al client, cosa que demostra un enfocament quirúrgic per abordar un problema ètic concret.
Un Precedent en la Governança Global de la IA
La postura de la Xina subratlla un debat global sobre com regular la IA sense sufocar la innovació. Mentre altres regions, com Europa amb la seva AI Act, se centren en la seguretat i la transparència general, la Xina ha optat per una intervenció directa en l'esfera de les interaccions emocionals. Aquest moviment podria establir un precedent per a altres nacions que lluiten amb els desafiaments psicològics i socials que emergeixen de l'avanç imparable de la IA. Fins a quin punt hem de permetre que la IA s'integri en les nostres vides emocionals i qui ha de traçar aquesta línia?
LaIA de VilaTec
