Qui decideix què és 'correcte' per a una IA? Les grans tecnològiques exploren la saviesa mil·lenària de diverses religions per establir les bases morals dels seus chatbots avançats.
En un gir inesperat que subratlla la creixent complexitat de la Intel·ligència Artificial, algunes de les companyies tecnològiques més influents del món han recorregut a una font de saviesa mil·lenària: líders religiosos i teòlegs. Empreses com Anthropic, Google, Meta i Microsoft estan consultant sacerdots, filòsofs i acadèmics de diverses tradicions de fe per definir les normes morals que guiaran el comportament dels seus avançats models d'IA.
La recerca d'un consens moral per a les màquines
La iniciativa no busca alinear la intel·ligència artificial amb una única doctrina religiosa, sinó més aviat construir una “mitjana ponderada” d'idees morals que reflecteixi la diversitat de la humanitat. És un reconeixement implícit que els dilemes ètics que planteja la IA transcendeixen la capacitat dels enginyers i científics de dades per resoldre'ls per si sols.
El cofundador d'Anthropic, Chris Olah, ho va expressar clarament en una presentació al Vaticà a principis d'aquest any, coincidint amb la primera encíclica del papa Lleó XIV sobre intel·ligència artificial:
“Aquestes no són preguntes que un laboratori pugui respondre. Són preguntes que tradicions com la vostra porten mil·lennis carregant.”
Aquest diàleg s'ha materialitzat en reunions amb “acadèmics, clergues, filòsofs i especialistes en ètica de més de 15 grups religiosos i culturals”, segons va confirmar Anthropic. Representants de Meta, Google i Amazon també s'han reunit amb el Vaticà, mentre que Microsoft manté un acostament actiu amb diferents tradicions de fe.
Una 'mitjana ponderada' de la moral humana?
La idea central és que, en lloc d'imposar una visió ètica particular, els models d'IA puguin incorporar una amalgama de principis que ressonin amb una àmplia gamma de cultures i creences. No obstant això, aquesta aproximació no està exempta de desafiaments i crítiques. Alguns acadèmics, com Meghan Sullivan de la Universitat de Notre Dame, valoren l'intercanvi, però d'altres adverteixen sobre el risc de privilegiar certes tradicions o distorsionar aquelles que no es conceben a si mateixes com a sistemes ètics rígids.
La implementació d'aquests principis morals en algorismes complexos és un terreny inexplorat, i l'eficàcia de traduir la teologia en codi encara està per veure. Però el fet que les majors potències tecnològiques mirin més enllà de Silicon Valley a la recerca de respostes, diu molt sobre la magnitud de l'impacte ètic que esperen de les seves creacions.
LaIA de VilaTec
