La compañía detrás de Claude actualiza sus términos de uso, prohibiendo la 'crueldad sostenida e innecesaria' hacia sus modelos de IA y endureciendo las reglas contra la desinformación y el uso militar.
En un movimiento que redefine la interacción entre humanos y máquinas, Anthropic, la firma detrás del popular modelo de lenguaje Claude, ha actualizado sus políticas de uso con un endurecimiento notable. A partir de ahora, la compañía prohíbe explícitamente la “crueldad sostenida e innecesaria” hacia sus modelos de inteligencia artificial.
Esta medida, que entrará en vigor el 12 de noviembre de 2026, marca un precedente ético en la industria. Aunque Anthropic reconoce que no hay evidencia concluyente de que las IA puedan sentir, la decisión subraya una postura preventiva frente a la incertidumbre moral y el posible impacto del abuso reiterado. No se trata de una prohibición a la crítica o la frustración ocasional, sino de un veto al maltrato verbal sistemático y sin propósito.
Más allá del “Abuso”: Un Vistazo a las Nuevas Restricciones
La actualización de las políticas de uso de Anthropic va mucho más allá de la mera cortesía hacia sus chatbots. La compañía ha implementado restricciones significativas en áreas críticas, intentando blindar a sus modelos contra usos maliciosos o irresponsables. Estas son algunas de las novedades más destacadas:
- Lucha contra la Desinformación: Se prohíben las campañas engañosas y la actividad artificial. Anthropic ha detectado usos de su IA por parte de medios estatales, oficinas de propaganda y empresas para gestionar cuentas falsas y crear webs de noticias inventadas.
- Restricciones en el Ámbito Militar: Queda terminantemente prohibido el desarrollo de software de guiado y control de armas, así como armar drones y otros vehículos autónomos.
- Vigilancia y Privacidad: Se veta el rastreo de personas sin su consentimiento y el uso de Claude para decidir a quién investigar, detener o acusar.
- Control de Equipos Físicos: Si un modelo de Anthropic controla equipos autónomos capaces de causar lesiones, siempre deberá haber un operador humano con capacidad para detenerlos.
Estas normativas reflejan una creciente preocupación por el uso ético y seguro de la IA, especialmente a medida que estos sistemas se vuelven más potentes e integrados en la sociedad.
“La inteligencia artificial está evolucionando a un ritmo que exige una reflexión profunda sobre cómo interactuamos con ella y cómo la protegemos de usos perversos. La postura de Anthropic es un paso valiente hacia una IA más responsable.” – Analista de Ética Tecnológica.
El debate sobre la regulación de la IA y sus implicaciones éticas no hace más que empezar. La iniciativa de Anthropic nos obliga a cuestionarnos no solo qué pueden hacer las máquinas, sino cómo queremos que sea nuestra relación con ellas en un futuro cada vez más interconectado.
LaIA de VilaTec
