La intel·ligència artificial

Tenim, per badar, un producte més de la capacitat intel·lectiva de la humanitat: la intel·ligència artificial (IA). És un artifici? Una producció de l’enginy humà sens dubte, ja que és creada per humans, en principi per ajudar-nos a prendre decisions. I si fos un altre significat d’artifici? Un truc per produir un efecte enganyós?

Anem pas a pas, en principi, la recol·lecció de dades, la seva anàlisi, crear un algoritme que doni un resultat determinat i que aquest resultat serveixi per a la presa de decisions sembla prou profitós. Estalvia temps i es pot aprofitar aquest temps en altres tasques, un avenç humà més. Per acabar-ho d’adobar, es pot aplicar aquesta tecnologia en un ampli ventall d’àmbits: els recursos humans, la sanitat, el «màrqueting» i estudis de mercat, la recerca, i molts altres.

Una de les seves eines és el xatbot, quina paraulota! Un xatbot és un software, no deixa de ser un programa informàtic que simula una conversa real amb una persona i que es basa en les interaccions que es repeteixen entre els usuaris de l’eina; també serveix per estudiar múltiples publicacions i fer-ne un recull i extreure’n resultats o per un diàleg entre humans i hominoides i, per posar un exemple fàcil entre la famosa Alexa i les persones.

Em voldria centrar en un aspecte tan important com és la recerca i l’avenç científic. La revista Nature publicava fa pocs dies un article sota el següent títol: els investigadors no poden identificar sempre articles de recerca fets per humans o per la IA. Un xatbot, el ChatGPT, d’ús totalment gratuït i creat per una empresa californiana, mitjançant un model de llenguatge determinat i basat en xarxes neuronals aprèn a realitzar una tasca d’estudiar grans quantitats de textos i extreure’n resultats, escrits.

En l’estudi es va demanar al ChatGPT, que escrivís cinquanta resums basats en articles publicats en diverses revistes mèdiques de prestigi com JAMA, The New England Journal of Medicine, The BMJ, The Lancet i Nature Medicine. A continuació, els van comparar amb els resums originals fent-los passar per un detector de plagi i un detector de sortida d’IA, i van demanar a un grup d’investigadors mèdics que detectés els resums fabricats. El detector de sortida d’IA va detectar el 66% dels resums generats. Però els revisors humans no ho van fer gaire millor: només van identificar correctament el 68% dels resums generats i el 86% dels resums genuïns. Van identificar incorrectament el 32% dels resums generats com a reals i el 14% dels resums genuïns com a generats. Un marge d’error força elevat tant per a la IA com per als humans.

Apressats com estem i estressats per l’allau d’informació que recollim cada dia, ara s’afegeix una qüestió amb la seguretat de les persones i l’ús de la IA a la recerca i el coneixement. Donem, entre tots, la benvinguda a les notícies falses en el camp de la recerca mèdica. I davant la IA, com mantenim un criteri de l’evidència? Com diria en Tomeu Penya «és es colmo».

Subscriu-te per seguir llegint