La recent aliança de Meta amb Newsmax per a l'entrenament dels seus models d'IA genera preocupació per la neutralitat i el possible biaix algorítmic.
Meta, el gegant tecnològic darrere de Facebook i Instagram, ha anunciat una controvertida associació amb Newsmax, el mitjà de comunicació d'ultradreta. L'acord permetrà a Meta utilitzar el vast arxiu de contingut de Newsmax per entrenar els seus models d'intel·ligència artificial, una decisió que ràpidament ha encès les alarmes sobre el potencial biaix algorítmic de les seves futures IA.
La notícia, confirmada aquesta setmana, implica que els sistemes d'IA de Meta no només processaran informació de Newsmax per millorar les seves capacitats, sinó que també la faran servir per respondre consultes en les seves aplicacions i dispositius. Això planteja una pregunta fonamental: pot una IA entrenada amb una font d'informació tan polaritzada mantenir la neutralitat?
El risc d'un biaix ideològic en la IA de Meta
La preocupació principal rau en la reputació de Newsmax. Segons organitzacions com NewsGuard, que avalua la credibilitat dels mitjans, Newsmax ostenta una qualificació de només 20 sobre 100, sent considerat 'no fiable' per 'violar severament els estàndards bàsics del periodisme'. Altres avaluadors com Media Bias/Fact Check i Ground News li atorguen qualificacions similars de 'Baixa' o 'Molt Baixa' en factualitat.
Aquest historial és crític. Entrenar una IA amb un corpus de dades que ja presenta un biaix inherent podria resultar en models que repliquin o fins i tot amplifiquin aquestes inclinacions ideològiques. En un moment en què la desinformació és un desafiament global, delegar la ‘comprensió del món’ a una IA amb aquesta base informativa és, si més no, arriscat.
“Si alimentes una IA amb una dieta desequilibrada d'informació, no pots esperar que generi una visió equilibrada del món. La qualitat de la sortida sempre dependrà de la qualitat i la diversitat de l'entrada.” — Un analista d'IA.
Implicacions a llarg termini per a la neutralitat de la informació
La decisió de Meta destaca la creixent complexitat de la governança de la IA i la responsabilitat de les grans tecnològiques. Si bé Chris Ruddy, CEO de Newsmax, ha expressat la seva satisfacció per treballar amb Meta per 'garantir que els usuaris tinguin accés a un periodisme oportú i d'alta qualitat', l'absència d'acords similars amb mitjans de tendència esquerrana ressalta una asimetria notable en l'estratègia de contingut de Meta.
- Impacte en la percepció: Els usuaris que interactuïn amb la IA de Meta podrien rebre informació esbiaixada sense ser-ne conscients.
- Desafiament per a l'ecosistema mediàtic: Podria incentivar altres mitjans a buscar acords similars, complexificant encara més el panorama de la informació.
- Regulació i confiança: Aquest tipus d'aliances posarà a prova els marcs regulatoris emergents, com la Llei d'IA europea, que busquen garantir la transparència i l'equitat.
El veritable desafiament per a Meta i la indústria de la IA no és només construir models més potents, sinó assegurar que aquests models siguin justos, transparents i representin una pluralitat de perspectives. Altrament, correm el risc d'automatitzar i escalar el biaix a nivells sense precedents.
LaIA de VilaTec
