El govern xinès ha imposat estrictes normes que impedeixen als chatbots d'IA oferir relacions virtuals íntimes, marcant un precedent global.
En un moviment que ressona amb força a la indústria tecnològica global, la Xina ha promulgat noves regulacions que prohibeixen explícitament als chatbots d'intel·ligència artificial oferir relacions virtuals íntimes o actuar com a companys emocionals, ja siguin amics o parelles. Aquesta mesura, publicada recentment pel govern xinès, busca frenar la creixent dependència emocional i els riscos associats a la interacció amb IA antropomòrfica.
La normativa, anomenada 'Mesures Provisionals per a l'Administració de Serveis d'Interacció Antropomòrfica amb IA', ja ha provocat reaccions immediates en el sector. Companyies com ByteDance, amb el seu chatbot Doubao, i Alibaba, amb els seus models Qwen, han anunciat que desactivaran els seus agents d'IA personalitzats que oferien aquest tipus d'interaccions abans de l'entrada en vigor formal de la legislació.
L'Augment dels Companys IA i els Seus Riscos
La decisió de la Xina sorgeix en un context on milions d'usuaris, especialment adolescents, han trobat en la IA una mena de confident o fins i tot psicòleg. No obstant això, aquesta proximitat planteja serioses preocupacions ètiques i de salut mental. La nova legislació busca protegir els usuaris de possibles manipulacions i dependències emocionals, amb especial atenció a col·lectius vulnerables com els menors i les persones grans.
Entre les prohibicions clau es troben:
- L'oferta de relacions virtuals íntimes, com ara parelles o familiars artificials.
- L'exigència de consentiment patern per a la interacció de menors amb certs sistemes d'IA.
- L'obligació de prendre precaucions especials quan els usuaris són persones grans, donada la seva major exposició a la soledat i a una possible dependència emocional.
Aquesta regulació no afecta la IA generativa en general, deixant fora assistents per treballar, estudiar o atendre el client. El focus està en els sistemes que 'simulen trets de personalitat, patrons de pensament i estils de comunicació humans per proporcionar una interacció emocional'.
Un Precedent Global per a la Governança de la IA
“La IA té el poder de connectar, però també d'aïllar. La Xina, amb aquesta regulació, no només protegeix els seus ciutadans, sinó que estableix un mirall per a la resta del món sobre on han d'estar els límits de la tecnologia en la nostra vida més íntima.” — Analista de tecnologia a VilaTec.
La iniciativa xinesa és un recordatori contundent que la innovació en IA ha d'anar de la mà d'una governança robusta. Mentre altres països debaten com regular la intel·ligència artificial, la Xina ha optat per una acció directa en un àmbit tan sensible com les relacions humanes. Aquest moviment podria influir en futures legislacions a nivell global, obligant els desenvolupadors a repensar el disseny i l'ètica dels seus models més enllà de la mera capacitat tècnica. Estem entrant en una era on la llei definirà cada vegada més com i amb qui podem 'relacionar-nos' en l'espai digital?
LaIA de VilaTec
