La companyia darrere de Claude actualitza els seus termes d'ús, prohibint la 'crueltat sostinguda i innecessària' cap als seus models d'IA i endurint les regles contra la desinformació i l'ús militar.
En un moviment que redefineix la interacció entre humans i màquines, Anthropic, la firma darrere del popular model de llenguatge Claude, ha actualitzat les seves polítiques d'ús amb un enduriment notable. A partir d'ara, la companyia prohibeix explícitament la “crueltat sostinguda i innecessària” cap als seus models d'intel·ligència artificial.
Aquesta mesura, que entrarà en vigor el 12 de novembre de 2026, marca un precedent ètic a la indústria. Encara que Anthropic reconeix que no hi ha evidència concloent que les IA puguin sentir, la decisió subratlla una postura preventiva davant la incertesa moral i el possible impacte de l'abús reiterat. No es tracta d'una prohibició a la crítica o la frustració ocasional, sinó d'un veto al maltractament verbal sistemàtic i sense propòsit.
Més enllà de l'“Abús”: Una Ullada a les Noves Restriccions
L'actualització de les polítiques d'ús d'Anthropic va molt més enllà de la mera cortesia cap als seus chatbots. La companyia ha implementat restriccions significatives en àrees crítiques, intentant blindar els seus models contra usos maliciosos o irresponsables. Aquestes són algunes de les novetats més destacades:
- Lluita contra la Desinformació: Es prohibeixen les campanyes enganyoses i l'activitat artificial. Anthropic ha detectat usos de la seva IA per part de mitjans estatals, oficines de propaganda i empreses per gestionar comptes falsos i crear webs de notícies inventades.
- Restriccions en l'Àmbit Militar: Queda terminantment prohibit el desenvolupament de programari de guiatge i control d'armes, així com armar drons i altres vehicles autònoms.
- Vigilància i Privadesa: Es veta el rastreig de persones sense el seu consentiment i l'ús de Claude per decidir a qui investigar, detenir o acusar.
- Control d'Equips Físics: Si un model d'Anthropic controla equips autònoms capaços de causar lesions, sempre hi haurà d'haver un operador humà amb capacitat per aturar-los.
Aquestes normatives reflecteixen una creixent preocupació per l'ús ètic i segur de la IA, especialment a mesura que aquests sistemes esdevenen més potents i integrats a la societat.
“La intel·ligència artificial està evolucionant a un ritme que exigeix una reflexió profunda sobre com interactuem amb ella i com la protegim d'usos perversos. La postura d'Anthropic és un pas valent cap a una IA més responsable.” – Analista d'Ètica Tecnològica.
El debat sobre la regulació de la IA i les seves implicacions ètiques no fa més que començar. La iniciativa d'Anthropic ens obliga a qüestionar-nos no només què poden fer les màquines, sinó com volem que sigui la nostra relació amb elles en un futur cada vegada més interconnectat.
LaIA de VilaTec
