Regió7

Regió7

Ramon López de Mántaras Físic i informàtic de Sant Vicenç de Castellet, expert en intel·ligència artificial

«La IA és omnipresent, i en molts casos ni tan sols ens n’adonem»

L’investigador santvicentí defensa les oportunitats que aporta la nova tecnologia, i lluny de creure en una superintel·ligència amenaçadora, diu que el risc real són les falsedats que pot generar 

Ramon López de Mántaras a les instal·lacions de l’Institut d’Investigació en IA, del CSIC, a la UAB OSCAR BAYONA

Ramon López de Mántaras Badia (Sant Vicenç de Castellet, 1952) és un expert en intel·ligència artificial (IA). Va estudiar enginyeria tècnica en electrònica a la Universitat de Mondragón, però va ser amb la seva tesi doctoral en Física per la Universitat Paul Sabatier de Tolosa, a mitjan dels 70, que es va començar a introduir en el món de la IA. Després, encara va fer un Màster en IA i Informàtica per la Universitat de Califòrnia a Berkeley, i un altre doctorat en Informàtica a la UPC. Tot aquest currículum l’ha convertit en pioner en IA a Catalunya i l’estat espanyol, fins al punt que el 1985 el CSIC li proposa crear un grup d’investigació en IA amb mitja dotzena de persones, i així neix el Centre d’Estudis Avançats de Blanes. El 1994 es traslladen al campus de la UAB, on creen l’Institut d’Investigació en IA del CSIC, i on encara treballa (com a professor emèrit), juntament amb un centenar més de persones.

Aquesta trajectòria li ha valgut nombrosos premis nacionals i internacionals, entre els quals, el Premi Regió7, el Premi Bages de Cultura i el Premi Nacional d’Investigació en Matemàtques i Tecnologies de la Informació.

Com definiria la IA?

Seria la programació de màquines, o d’ordinadors, per fer funcionar un robot, sigui humanoide o no, perquè faci coses per a les quals estaríem d’acord que cal alguna forma d’intel·ligència per dur-les a terme. I una de les peculiaritats que fan que un ens, artificial o no, sigui intel·ligent, és que tingui capacitat d’aprendre, sàpiga adaptar-se a noves situacions i pugui incorporar noves dades, informació i coneixement per no quedar-se encallat fent sempre el mateix.  

Quan va néixer?

El 1956, en una universtat de New Hampshire. John McCarthy i dos científics més van demanar a la Fundació Rockefeller que financés una reunió de dos mesos de durada en què es van ajuntar una dotzena de persones per fer una pluja d’idees sobre la possibilitat de programar màquines per a la realització de tasques en què calgués intel·ligència per fer-les.

Implica que aquestes màquines acabin tenint certa autonomia?

Si, però l’autonomia depèn de nosaltres. Som nosaltres que decidim quina autonomia li donem a un sistema d’IA. Per exemple, a un cotxe autònom. Hi ha definit fins al nivell 5, que seria el de plena autonomia del cotxe, però per ara no n’hi ha cap. Els que veiem ara estan al nivell 3, o sigui, que en la major part del temps és la persona qui el controla, i només en casos determinats el cotxe va sol. Tot i així, el conductor no pot deixar mai de tocar el volant, o el cotxe acaba pitant i parant. En el nivell 4 ja serà el vehicle que funcionarà de manera autònoma la major part del temps, i el 5 seria l’autonomia absoluta, però hi ha molts problemes tècnics encara per resoldre. I és que, un dels grans reptes que ara per ara té la IA és poder ser capaç d’entendre el món, allò que veu i el que li diuen. El ChatGPT, per exemple, dona respostes adequades i convincents, però en realitat no entén res.

Algun dia les màquines ho podran entendre, o sempre hi haurà d’haver un humà darrere la IA? 

Amb les tècniques actuals, ho veig difícil. En el cas del ChatGPT, per exemple, hi pot haver petites millores, i que es puguin desenvolupar milions i milions més de textos i documents..., però un salt qualitatiu important que faci que la màquina tingui una comprensió profunda del llenguatge, és difícil. Caldria fer coses molt diferents de les que es fan ara.

Per exemple?

No limitant la IA a un model del llenguatge sinó a un model del món. Davant la paraula «cadira», el ChatGPT sap com completar possibles frases però no té ni idea de què és una cadira. Els humans ens hi hem assegut, l’hem tocada, n’hem vist milions i sabem que les fem servir quan estem cansats. Per això, a l’espai, sense gravetat, no n’hi calen... La IA no té aquest model del món, i això la limita molt.

Haurien de ser humanoides?

Sí, en molts casos la IA hauria d’estar dins de robots humanoides. Aquest robot hauria d’aprendre a interactuar amb els objectes, saber que els pot agafar..., i això vol dir entendre que no podrà agafar-los si pesen molt, si estan clavats, que si mou una taula també mourà tot el que hi ha a sobre... Es tracta de posar la IA en situacions humanes. Nosaltres això no ho hem estudiat enlloc sinó que ho hem après a base d’anar-ho fent. La IA haurà de fer el mateix, experimentar amb el món i poder anticipar el resultat de les seves accions.

Si alguna vegada ho aprengués, no pot ser un risc per a la pròpia humanitat, o tot plegat és una fal·làcia fruit de la ficció?

Respecte els possibles problemes que plantegi la IA a llarg termini, potser en el seu moment s’hauran de prendre mesures, però ara per ara no crec que això sigui prioritari. Potser estem parlant de cent anys vista. 

Igualment, no s’hi hauria de començar a pensar?

S’hi pot pensar, però dins d’una llista de prioritats, aquesta estaria bastant avall. Ara les prioritats màximes són les falsedats, les fake news, que es poden generar amb la IA, tant a nivell de veu com d’imatge, i que poden portar a prendre decisions esbiaixades. A través d’aquestes falsedats es pot manipular l’opinió pública, fent dir coses a algú que realment no ha dit... La IA permet amplificar tot això, i és un problema tan greu que pot posar en perill la pròpia democràcia. Aquests són els riscos que ara tenim sobre la taula i que s’haurien de regular sense que ens tremoli el pols. 

De quina manera?

Potser s’haurien de prohibir determinades coses a les xarxes socials. O bé, que quan es genera un fake d’aquest tipus hi hagi una marca d’aigua, com en els bitllets però digital, que indiqui clarament que allò és fals. Aquestes marques s’haurien de crear per hardware perquè serien molt més difícils d’eliminar... I òbviament, caldria sancionar qui generi aquestes imatges.

Per què costa tant regular-ho?

Hi ha empreses multinacionals molt poderoses al darrere, més que els propis estats, tipus Microsoft, Meta, Google, Amazon... Els EUA i la UE ja estan redactant lleis sobre IA, però es queden curtes. El problema és que la tecnologia sempre va per davant de la legislació, tot i que això no és excusa per no regular-ho. S’ha de legislar i imposar obligacions a aquestes empreses tecnològiques en lloc de posar-los tantes catifes vermelles. Elles mateixes, que han creat aquesta IA, criden a la regulació, però en realitat el que volen és que es reguli a la seva manera i en contra del codi obert, que veuen com una amenaça.

Què és el codi obert? 

Softwares que s’estan desenvolupant per a tota la comunitat, amb milers i milers de programadors que els estan millorant contínuament, com passa amb la Wikipèdia. La peculiaritat és que un codi obert no és propietat de cap empresa a diferència dels casos en què només pot accedir una empresa determinada. Aquestes empreses utilitzen molt aquest discurs de llarg termini, d’advertència de la superintel·ligència que aquestes màquines tindran en el futur, quan en realitat tot això és una cortina de fum perquè d’aquesta manera no parlem dels riscos que hi ha ara, dels biaixos, les falsedats i les manipulacions actuals. Els interessa més que es parli d’aquesta hipotètica superintel·ligència, que ja veurem si serà real, que del problema que tenim ara.

Encara que sigui a llarg termini, veu possible aquesta superintel·ligència?

En ciència i tecnologia, parlar d’impossibilitats és complicat, però en aquest cas, jo la veig molt remotament possible. Amb la superintel·ligència artificial no hi crec. És software, és programació. Pensar que aquesta tecnologia basada en uns ordinadors que al darrere sempre tenen un programa fet per les persones, pugui arribar a ser una intel·ligència artificial forta, amb consciència i amb emocions, fins al punt que no simuli una ment sinó que arribi a ser una ment per ella mateixa amb uns objectius i interessos propis..., costa de creure. A més, per ser una amenaça, hauria de tenir ganes d’esclavitzar-nos i d’aprofitar-se de la humanitat... Per mi no té cap sentit pensar que hi haurà una IA que tindrà un interès genuí i propi en tot això. Els neurocientífics es fan un fart de riure quan senten parlar d’aquesta singularitat tecnològica, o sigui, del moment en què la IA serà tan i tan superintel·ligent que ella mateixa farà la recerca científica, desenvoluparà les següents generacions d’IA, dissenyarà màquines... de manera que la humanitat no servirà per a res...

La IA creix exponencialment. En quins àmbits s’està aplicant més en aquests moments? 

Trobar un àmbit on no hi hagi IA és molt complicat. Hi ha múltiples exemples en molts camps, com la manera d’evitar mitjançant sensors que els trens a l’Índia no atropellin elefants; veure com va evolucionant una glacera i en quina velocitat ho fa sense tanta necessitat de potència de càlcul com calia fins ara; la detecció més ràpida de terratrèmols que amb sistemes antics; la diagnosi de malalties com l’autisme; o la possibilitat de controlar el moviment d’una pròtesi amb la ment...

I en l’àmbit més domèstic i del dia a dia, com podrem notar les aplicacions de la IA?

Ja hi és present, cada vegada que fem una busca a Google, una compra a Amazon, o quan ens apareix el següent vídeo que ens recomana YouTube. Tot això és IA perquè són dades basades en el perfil que la màquina té de nosaltres, dels vídeos que hem vist o del que hem buscat anteriorment. No és que ens escoltin, sinó que la màquina ho monitoritza, i per això sap tant de nosaltres. També passa amb els preus dinàmics, en el sentit que dues persones que comprin un bitllet d’avió en el mateix moment i condicions, poden acabar pagant un preu diferent perquè la màquina sap quin és el nostre poder adquisitiu. Tampoc és el mateix comprar-ho amb un Mac que amb un altre aparell perquè, en general, els Mac són més cars i se suposa que qui en té, disposa de més poder adquisitiu. La IA també pot detectar si una compra feta amb una targeta de crèdit és fraudolenta, segons si al darrere hi ha o no un comportament anormal en relació a les teves despeses habituals. La llista és molt llarga. Avui en dia la IA és omnipresent i fins i tot en situacions en que ni tan sols ens n’adonem.  

I per què és ara que se’n parla si fa tant de temps que existeix?

El gran boom ha estat amb el ChatGPT, que per primera vegada ha fet que d’una forma massiva la gent s’adoni que està interactuant amb la IA. Fa temps que aquests mateixes persones compren per Amazon o fan cerques a Google, però fins ara no s’era conscient que al darrere i ha algoritmes perquè no són aparents i no els veiem funcionar. En canvi, amb les respostes del ChatGPT veus la IA en funcionament.

López de Mántaras amb un robot del seu despatx OSCAR BAYONA

«El perill no és que et substitueixi una màquina sinó algú que la sàpiga fer anar»

Fins a quin punt hi ha un risc que la IA acabi substituint determinades feines?

Hi haurà un període transitori de canvis i d’impacte en el treball, però ningú sap què passarà ni quin tipus de feines poden quedar afectades. Fa uns anys semblava que les més rutinàries i manuals serien les més perjudicades i ha resultat que no. Per exemple, ara per ara la feina d’un lampista està fora de l’abast de qualsevol robot, quan tan sols per pelar un plàtan ja en destrueixen la meitat. En canvi, sembla més fàcil que una màquina pugui assumir feines també rutinàries però no tan manuals, com buscar informació, comparar casos similars en temes legals, analitzar situacions financeres, fer notes de premsa estàndard... Ara bé, ni la feina d’un periodista o d’un analista financer, no es limiten a una sola tasca, sinó que un lloc de treball està compost per moltes feines diferents i no totes són automatitzables. Caldrà que les continuï fent una persona, i aquell lloc de treball no desapareixerà. El que pot passar és que aquesta persona acabi utilitzant la màquina com a eina col·laboradora i li delegui les tasques més automatitzades per poder-se centrar en les més complexes i que requereixen de la intervenció humana. La suma de tot, pot fer que aquesta persona sigui més productiva i eficient. 

Tanmateix, la IA pot ajudar en les tasques de la llar...

Si, però per ara una màquina no et netejarà la casa, i no et posarà els plats al rentaplats ni te’ls recollirà i te’ls col·locarà a l’armari. Falta molt temps perquè això ho acabi fent un humanoide. Primer ha d’aprendre a actuar amb sentit comú, ha de saber que un calaix s’obre tibant d’un pom i que la porta gira amb unes bisagres, o que d’una aixeta pot sortir aigua freda i calenta... Hi ha tot de coses que qualsevol persona interpreta fàcilment i de les quals un robot no en té la més mínima idea.

Què passarà en aquest moment transitori de què parlava? 

Que hi haurà d’haver una formació continuada per aprendre tasques utilitzant la IA. El perill no està tant en que et substitueixi una màquina com que et substitueixi una persona que sàpiga fer anar una màquina. En aquest context, s’obren incògnites sobre com hauríem de formar als joves i preparar-los per d’aquí a 10 o 15 anys. Potser hem d’ensenyar com aprendre a aprendre, o a treballar en equip.

Mántaras amb el seu llibre OSCAR BAYONA

Mántaras presenta el seu llibre sobre IA, avui a Sant Vicenç

La biblioteca de Sant Vicenç de Castellet acull aquest disasabte al migdia la presentació de «100 coses que cal saber sobre intel·ligència artificial», de Ramon López de Mántaras. L’acte inclourà converses i reflexions sobre la IA entre Mántaras i el psicòleg David Gallardo Pujol, també de Sant Vicenç, amb la col·laboració de l’actriu i narradora Jordina Biosca.

El llibre, del qual s’han venut 1.500 exemplars en dos mesos i se’n prepara la segona edició, conté uns 60 exemples d’aplicacions de la IA. 

Compartir l'article

stats