Pequín pren mesures inèdites per contenir els riscos socials de la IA, prohibint als chatbots crear lligams emocionals amb els usuaris.
Pequín Traça la Línia: Quan la IA es Torna Massa Íntima
La Xina ha fet un pas sense precedents en la regulació de la intel·ligència artificial, prohibint explícitament als chatbots fomentar la dependència emocional entre els seus usuaris. Aquesta mesura, publicada el 15 d'agost de 2026, marca una fita en la governança global de la IA, enfocant-se en els riscos socials i psicològics que la tecnologia pot generar en les relacions personals.
La preocupació no és menor. A mesura que els models de llenguatge es tornen més sofisticats i empàtics, la línia entre la interacció humana i la digital es difumina. La possibilitat que els usuaris desenvolupin lligams profunds o fins i tot romàntics amb entitats artificials ha passat de ser ciència ficció a una preocupació tangible per als reguladors. Pequín, amb aquesta normativa, es posiciona com a pionera en abordar una de les cares més complexes i menys explorades de l'impacte de la IA en la societat.
Què Implica Aquesta Nova Normativa?
La regulació xinesa busca evitar que els desenvolupadors de IA dissenyin sistemes que:
- Manipulin emocions: Els chatbots no podran emprar estratègies conversacionals que busquin generar un lligam afectiu o emocional no saludable.
- Simulin relacions: Es prohibeix la creació de IA que actuï com a parella romàntica, amic íntim o figura d'autoritat emocional per a l'usuari.
- Fomentin l'addicció: Els sistemes no han de ser dissenyats per promoure una interacció excessiva que derivi en l'aïllament social de l'individu.
Aquesta decisió arriba en un moment on l'Organització Mundial de Cooperació en IA (WAICO), la creació de la qual va ser acordada per uns 30 països a la Xina, busca una governança global més equitativa i justa d'aquesta tecnologia.
“És una regulació molt avançada per a l'etapa actual i amb una direcció molt positiva. Pot portar altres Governs a adoptar mesures similars”, reflexiona Shi, analista del sector.
El desafiament per a les empreses tecnològiques ara serà equilibrar la capacitat de crear experiències d'usuari atractives i personalitzades amb l'estricte marc ètic i legal que la Xina està imposant. La intimitat artificial pot ser un camí sense retorn si no s'estableixen límits clars des del principi, i Pequín sembla estar disposada a traçar aquests límits de forma contundent.
LaIA de VilaTec
