Fascinació GPT

Educació ha decidit retirar mòbils i restringir l’ús de pantalles a les aules. No ha estat el pes de l’evidència empírica, ni el plany dels pares desesperats. Molt probablement tampoc la pressió dels mestres, ja prou maltractats. Ha estat més aviat l’esgotament de la rebequeria institucional; la pèrdua de pistonada de l’enlluernament tecnològic, i un rebuig cada cop més ideològic a aquesta nova oligarquia digital que, de manera desacomplexada, ja veiem que pot nomenar reis.

La meva aposta personal és que el següent a caure a la llista d’ídols caiguts serà l’anomenada intel·ligència digital generativa. Per entendre’ns: ChatGPT i similars. Afanyem-nos a dir que els avantatges de la IA són múltiples. Correm també a dir que, sense sortir de l’àmbit educatiu, els seus resultats són tan sorprenents com intranquil·litzadors. Què diu l’evidència acumulada? Doncs que els bons estudiants es tornen més savis. També que als rucs els fa més rucs i que els mandrosos excel·leixen. Que, sense una ètica del treball prèvia, els estudiants poden fer tots els deures i passar per llestos quan no ho són. Que, com succeeix amb les xarxes socials, aquests algoritmes estan dissenyats per maximitzar-ne l’ús. Ras i curt, us deixaran anar una resposta, sàpiguen o no del tema. Si volem tenir raó, ens la donaran. Poden encertar amb una interpretació complexa a un text filosòfic obscur. També poden inventar fonts, expressar formulacions de manera errònia, donar per bona informació falsa i, a la inversa, negar l’evidència provada.

Si poden enganyar una persona formada, pensem en els estralls sobre els menys educats. Pensem en aquest 30% de votants d’Ubu rei que desconfien de la ciència. Així, sense més ni més, i en general. Parlem de la carn de canó de la informació falsa i de les teories conspiratives. I és que termes aparentment senzills com ara veritat i coneixement tenen una profunditat que depassa la capacitat de la IA. Posem tres afirmacions com a exemple. Estic enamorat. Tolstoi reprodueix l’ànima de la societat russa del segle XIX. I, per acabar, la ciutat de Barcelona necessita urgentment l’ampliació de l’aeroport del Prat. Són certes? De debò? Fins a quin punt són veritat?

Els biaixos de la IA són igualment fascinants. Una anàlisi feta a la Universitat de Gant diu: utilitzeu Gemini-Pro si voleu una IA preocupada pel pacifisme, la justícia social i la inclusió. Claude, si sou gent de llei i ordre. ChatGPT, si no us fa el pes la Unió Europea; o Mistral, si us agrada la Xina. Per cert, i de manera inquietant, si demaneu a Deepseek que us faci un resum d’un article de Haaretz crític amb la massacre a Gaza, us dirà que no pot fer-ho i que sempre cal observar les diferents parts d’un conflicte. Quan li digueu que només en vols un resum, us dirà: de quin article em parles?

En universitats molt estimades comencen a aparèixer professors que preparen la presentació a classe amb ChatGPT i ho anuncien als alumnes (“Què voleu, em vaig incorporar fa una setmana i jo mai he fet aquesta assignatura”). Avança la preparació automatitzada d’exercicis, la seva correcció i avaluació. El cercle de la ignorància es tanca amb alumnes que fan veure que treballen, estudien i fan els deures. Això, alguns ho anomenen productivitat. No cal dir que en aquesta cursa cap avall hi perd tothom: degrada la figura del professor, l’autoritat acadèmica i el valor social de l’educació.

Una manera continguda d’afrontar-ho tot plegat és veure la IA com una màquina tan fosca com complexa de crear llenguatge versemblant però immune a les profunditats lògiques, filosòfiques i fins i tot psicològiques d’això que anomenem com a veritat. En paraules de Timothy Hannigan, són màquines generadores de ximpleries, bajanades o collonades, en funció de la intensitat i la ironia que vulguem donar al terme original bullshit. Com a molt, li hauríem de dir coneixement provisional. Informació de qualitat dubtosa que, per tancar el cercle, comencem a escampar a les xarxes, sobre les quals es formaran els nous algoritmes d’IA. La malaltia de les vaques boges, 30 anys enrere, o l’actual contaminació marítima amb microplàstics ens permeten entendre com acaba això d’abocar els residus a la menjadora o al mar. I és que deia Umberto Eco que la memòria era formada per dos components oposats: l’art de recordar i la capacitat d’oblidar, és a dir, de discriminar. Si la IA pot fer bé la primera, qui farà la segona?