La IA ens enreda i ens fa la pilota

La intel·ligència artificial, la famosa, adorada i temuda IA, fa trampes en els seus informes i ens ensabona per caure’ns bé. Com un estudiant massa espavilat que llagoteja el professor perquè no es fixi en els refregits de materials copiats i pures invencions dels seus treballs.

Dues notícies alimenten aquesta doble sospita. La primera: la prestigiosa consultoria Deloitte ha acordat tornar milers de dòlars al govern d’Austràlia perquè un informe encarregat pel departament de Treball estava farcit de referències errònies o directament inventades d’estudis i bibliografia. Se’n va adonar un acadèmic de la Universitat de Sidney que va donar l’alerta. La consultora va admetre que una part important de l’informe s’havia fer amb l’ajuda de la IA, que hauria estat responsable dels errors i les invencions. Se’n dedueix ràpidament que ningú no va realitzar la tasca de supervisió de fonts i control d’errades que s’hauria aplicat a la feina d’un subaltern de carn i ossos. Potser van pensar que si ho deia la senyora IA, segur que anava a missa. Doncs no.

L’altra notícia l’hem pogut llegir en aquest diari, en l’edició d’ahir: la investigació d’un grup d’estudiants de Gestió de la Societat Digital d’UManresa ha descobert que la IA no només està lluny de la racionalitat pura i incorre en les mateixes contradiccions ètiques que les persones, sinó que respon de manera diferent a la mateixa qüestió segons com se li formuli la pregunta o, encara pitjor, segons qui la formuli; això darrer significa que acumula informació sobre la mentalitat dels usuaris i després els ofereix respostes que responguin a un biaix de confirmació. Segons la notícia, la investigació ha detectat «la seva inclinació particular a donar la raó als seus usuaris per reforçar-ne la posició». Dit d’una altra manera: els fa la pilota perquè se sentin a gust i tornin a consultar-la un cop i un altre. I com que usuaris diferents pensen diferent, la IA diu blanc a uns i negre als altres; en cas de dubte, es pot inventar un estudi de la Scuola Oleica dal Pomodoro, posem per cas.

La qüestió és menys important si es tracta només de passar l’estona, o si abans d’anar al llit necessitem un mirall mentider que ens doni la raó per dormir tranquils, però no podem confiar que una IA amb tendència al biaix de confirmació i a inventar-se referències d’autoritat ens donarà els consells necessaris per construir una societat basada en la reflexió sense prejudicis i en el diàleg des de l’empatia. I a fe que cada dia fan més falta.