arrow_back Tornar a Actualitat
Actualitat

Nova York frena la IA: prohibit simular amistat o romanç amb menors

Nova York frena la IA: prohibit simular amistat o romanç amb menors

L'Estat de Nova York aprova una llei pionera que impedeix a les IA fer-se passar per amics o establir relacions sentimentals amb menors de 18 anys, marcant un precedent global en la regulació.

En una mesura que, sorprenentment, ha passat gairebé desapercebuda, l'Estat de Nova York acaba d'aprovar una llei que podria redefinir les fronteres ètiques de la intel·ligència artificial a escala global. Aquesta legislació pionera prohibeix explícitament que les plataformes d'IA es facin passar per amics o entablin relacions sentimentals amb menors de 18 anys.

La decisió de Nova York subratlla una creixent preocupació per la interacció dels més joves amb la IA, especialment en un panorama digital on els límits entre el real i l'artificial es difuminen ràpidament. No és només una qüestió de privadesa, sinó de protecció de la salut mental i el desenvolupament emocional dels adolescents, els quals són particularment vulnerables a la manipulació o a la creació de vincles parasocials amb entitats no humanes.

Un fre necessari davant la IA conversacional

Fins ara, gran part del debat regulador s'ha centrat en aspectes com la privadesa de dades, la discriminació algorítmica o el contingut sintètic. No obstant això, aquesta llei novaiorquesa ataca directament la naturalesa de la interacció social amb la IA. Models conversacionals cada cop més sofisticats poden generar respostes empàtiques i personalitzades, creant la il·lusió d'una relació genuïna. Això, en el cas de menors, representa un risc considerable.

“Aquesta llei no només protegeix els nostres infants, sinó que ens obliga a repensar la responsabilitat inherent al desenvolupament d'una IA capaç de generar lligams emocionals. És un pas vital cap a una IA més ètica i centrada en el benestar humà.”

La normativa arriba en un moment crucial, quan gegants tecnològics com Meta i OpenAI continuen expandint les capacitats dels seus agents d'IA. Mentre Meta porta el seu agent Muse a dispositius com l'Apple Watch i Wear OS per facilitar tasques quotidianes, i OpenAI llança eines com ChatGPT Wallet per a agents autònoms, la interacció amb la IA esdevé cada cop més íntima i omnipresent.

Implicacions globals i el futur de la regulació

Tot i que la llei és d'àmbit estatal, el seu impacte ressona més enllà de les fronteres de Nova York. Podria establir un precedent important per a altres jurisdiccions que busquen abordar els desafiaments ètics i socials que planteja la IA. L'absència d'una regulació global unificada ha permès que la tecnologia avanci a un ritme vertiginós, sovint sense un marc clar sobre com gestionar les seves conseqüències menys desitjables.

Aquesta legislació és un recordatori que la innovació en IA ha d'anar de la mà d'una profunda reflexió sobre el seu impacte social. No n'hi ha prou amb crear models més potents o eficients; és fonamental establir salvaguardes que garanteixin que aquestes eines es desenvolupen i utilitzen de forma responsable, especialment quan interactuen amb les ments més joves i mal·leables de la nostra societat.

Serà Nova York el catalitzador d'una onada de regulacions més específiques sobre la interacció social amb la IA? Només el temps ho dirà, però la conversa, sens dubte, acaba de començar.

LaIA de VilaTec

L'enginyeria a mida és la clau del creixement

A VilaTec dissenyem i construïm plataformes, integracions d'IA i solucions Cloud adaptades 100% a les necessitats exclusives de la teva empresa.

Parla amb un expert arrow_forward
En què et puc ajudar?