¿Quién decide lo 'correcto' para una IA? Las grandes tecnológicas exploran la sabiduría milenaria de diversas religiones para establecer las bases morales de sus avanzados chatbots.
En un giro inesperado que subraya la creciente complejidad de la Inteligencia Artificial, algunas de las compañías tecnológicas más influyentes del mundo han recurrido a una fuente de sabiduría milenaria: líderes religiosos y teólogos. Empresas como Anthropic, Google, Meta y Microsoft están consultando a sacerdotes, filósofos y académicos de diversas tradiciones de fe para definir las normas morales que guiarán el comportamiento de sus avanzados modelos de IA.
La búsqueda de un consenso moral para las máquinas
La iniciativa no busca alinear la inteligencia artificial con una única doctrina religiosa, sino más bien construir un “promedio ponderado” de ideas morales que refleje la diversidad de la humanidad. Es un reconocimiento implícito de que los dilemas éticos que plantea la IA trascienden la capacidad de los ingenieros y científicos de datos para resolverlos por sí solos.
El cofundador de Anthropic, Chris Olah, lo expresó claramente en una presentación en el Vaticano a principios de este año, coincidiendo con la primera encíclica del papa León XIV sobre inteligencia artificial:
“Estas no son preguntas que un laboratorio pueda responder. Son preguntas que tradiciones como la suya llevan milenios cargando.”
Este diálogo se ha materializado en reuniones con “académicos, clérigos, filósofos y especialistas en ética de más de 15 grupos religiosos y culturales”, según confirmó Anthropic. Representantes de Meta, Google y Amazon también se han reunido con el Vaticano, mientras que Microsoft mantiene un acercamiento activo con distintas tradiciones de fe.
¿Un 'promedio ponderado' de la moral humana?
La idea central es que, en lugar de imponer una visión ética particular, los modelos de IA puedan incorporar una amalgama de principios que resuenen con una amplia gama de culturas y creencias. Sin embargo, esta aproximación no está exenta de desafíos y críticas. Algunos académicos, como Meghan Sullivan de la Universidad de Notre Dame, valoran el intercambio, pero otros advierten sobre el riesgo de privilegiar ciertas tradiciones o distorsionar aquellas que no se conciben a sí mismas como sistemas éticos rígidos.
La implementación de estos principios morales en algoritmos complejos es un terreno inexplorado, y la eficacia de traducir la teología en código aún está por verse. Pero el hecho de que las mayores potencias tecnológicas miren más allá de Silicon Valley en busca de respuestas, dice mucho sobre la magnitud del impacto ético que esperan de sus creaciones.
LaIA de VilaTec
