La industria de la IA se enfrenta a una semana crítica: Anthropic revela intentos de usar su tecnología para armas biológicas, mientras ex-investigadores de OpenAI y Anthropic elevan la alerta sobre un riesgo existencial inminente.
La carrera por la inteligencia artificial ha alcanzado un nuevo punto de inflexión esta semana, con advertencias alarmantes sobre su potencial destructivo y un informe que detalla intentos de usar la IA en la creación de armas biológicas. Las voces de alarma provienen directamente del corazón de la investigación en IA, lo que añade una capa de urgencia a la conversación global sobre su regulación.
Anthropic Alerta sobre el 'Doble Uso' de la Biología con IA
Anthropic, uno de los laboratorios de IA líderes, ha publicado esta semana su más reciente informe de inteligencia de amenazas, revelando que ha detectado y bloqueado intentos de actores maliciosos para utilizar sus modelos de IA en la investigación de armas biológicas. El informe detalla cinco casos en los que científicos emplearon modelos de Claude de maneras que podrían haber apoyado el desarrollo de armas biológicas.
“Los casos que compartimos aquí no son usos indebidos típicos, sino ejemplos de la actividad de amenaza más notable y novedosa que hemos identificado hasta la fecha”, señaló Anthropic en su informe de 154 páginas.
Entre los hallazgos más preocupantes se encuentra una solicitud para ayudar a redactar una propuesta de subvención para investigación de 'ganancia de función' en el virus chikungunya, con el objetivo de aumentar su transmisibilidad y capacidad de evadir el sistema inmunológico. La compañía ha reforzado sus salvaguardas y ha compartido esta información con gobiernos y socios de la industria, subrayando el creciente desafío del “doble uso” de la biología, donde avances legítimos pueden ser desviados para fines peligrosos.
Expertos de OpenAI y Anthropic: 'La IA podría matarnos a todos'
Coincidiendo con el informe de Anthropic, la comunidad de investigación de IA ha sido sacudida por la dimisión de Jacob Coxon, un destacado investigador que trabajó tanto en OpenAI como en Anthropic. Coxon anunció su renuncia esta semana, criticando a ambas compañías por “correr directamente hacia una superinteligencia auto-mejorable y jugar con nuestras vidas”.
En una serie de declaraciones, Coxon afirmó que “las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es una estratagema de marketing”. Sus preocupaciones fueron confirmadas por Evan Hubinger, líder de equipo en Anthropic, quien reconoció que la compañía cree que la IA representa una amenaza existencial para la vida humana, aunque con una probabilidad baja en los próximos años, advirtiendo que el peligro de la auto-mejora de la IA está ocurriendo “más rápido de lo que pensábamos”.
Estas advertencias no son aisladas; otros investigadores que abandonaron recientemente sus puestos en Anthropic y Google DeepMind también han expresado su preocupación por el rápido ritmo de desarrollo de la IA y han exigido mayor transparencia sobre los riesgos.
La ONU Pide 'Líneas Rojas' Urgentes para la IA
Ante este panorama, Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, ha intensificado sus llamados a una regulación más estricta de la IA. Türk advirtió el pasado lunes que la tecnología podría convertirse en un “riesgo existencial para la humanidad” si no se controla adecuadamente.
En su intervención ante el Consejo de Derechos Humanos en Ginebra, Türk instó a los países a establecer “garantías férreas en torno a la seguridad de la IA antes de que sea demasiado tarde”. Hizo hincapié en la necesidad de normas vinculantes, supervisión independiente y límites claros, argumentando que “un puñado de hombres tiene un poder casi ilimitado sobre la IA”. La concentración de poder tecnológico y la inmensa cantidad de datos recopilados y procesados son focos de preocupación que requieren una acción concertada a nivel global.
La tensión entre el avance tecnológico y la seguridad es palpable. Mientras la industria busca innovar a velocidades vertiginosas, las voces de advertencia, tanto internas como externas, nos obligan a reflexionar: ¿estamos priorizando la velocidad sobre la seguridad? ¿Y qué precio podría tener esa apuesta?
LaIA de VilaTec
