Un extracte del llibre 'El Futur de la Veritat' de Steve Rosenbaum va ser retirat per Wired després de detectar-se cites generades per IA, un incident que subratlla els riscos de la desinformació en l'era de la intel·ligència artificial.
En un gir que molts qualificarien de profundament irònic, la prestigiosa revista Wired ha retirat un extracte de 1.450 paraules del llibre 'El Futur de la Veritat' de Steve Rosenbaum. La raó? El text contenia cites fabricades per intel·ligència artificial, una fallada que ha ressonat amb força en el debat sobre la fiabilitat de les eines d'IA en la creació de contingut.
El propi autor, Steve Rosenbaum, ha admès haver utilitzat una varietat d'eines d'IA, incloent-hi ChatGPT i Claude, a més d'altres com NaturalReaders, ProWritingAid i Grammarly, durant les fases d'investigació i desenvolupament editorial de la seva obra. Aquesta admissió arriba després que múltiples eines de detecció d'IA, com Pangram, GPTZero i ZeroGPT, assenyalessin el contingut com a generat o assistit per IA.
Quan l'Eina Desafia el Missatge
L'informe de Pangram va ser contundent: un 53% del llibre complet va ser identificat com a generat per IA i un 9% com a “probablement assistit per IA”. L'incident és un recordatori cru de la fina línia entre l'assistència i la suplantació, especialment quan el tema central del llibre és precisament com la IA erosiona la nostra relació amb la veritat.
“Aquest cas és un exemple paradigmàtic del mode de fallada de la IA generativa: fabricacions plausibles atribuïdes a experts que mai les van pronunciar. Subratlla la necessitat crítica d'una verificació humana rigorosa, fins i tot quan es treballa amb les eines més avançades”, comenta un analista del sector que prefereix mantenir l'anonimat.
Aquest succés no només posa en dubte les pràctiques d'alguns autors, sinó que també força la indústria editorial a confrontar la necessitat d'estàndards de divulgació obligatoris per a l'ús d'IA en obres de no ficció. La temptació d'accelerar processos o complementar la investigació amb IA és gran, però el preu de la credibilitat pot ser altíssim.
Implicacions per al Contingut i la Credibilitat
- Risc de Desinformació: La facilitat amb què la IA pot generar contingut convincent però incorrecte representa un desafiament seriós per a la integritat de la informació.
- Necessitat de Verificació Humana: La confiança no s'ha de delegar cegament a les màquines. La supervisió editorial i la verificació de fets continuen sent insubstituïbles.
- Estàndards Editorials: És probable que veiem una ràpida evolució en les polítiques de les publicacions respecte a l'ús d'IA, exigint més transparència i responsabilitat.
Aquest episodi amb Wired i el llibre de Rosenbaum ens obliga a reflexionar sobre el futur de l'autoria i la veritat en un món cada cop més mediat per algoritmes. Estem preparats per discernir l'autèntic del sintètic en l'allau d'informació que s'acosta?
LaIA de VilaTec
