Alerta IA

S’acaba de fer pública una carta oberta signada per empresaris i experts en intel·ligència artificial (IA) on demanen que s’aturi durant sis mesos l’entrenament que s’està fent de sistemes d’IA que són més potents que el conegut del GPT-4. El bagenc Ramón López de Mántaras n’és un, acompanyat dels fundadors d’OpenAI o d’Apple. En la carta s’alerta que els sistemes de la IA poden plantejar riscos per a la humanitat, com ja s’està avisant des de diversos fronts de recerca. La publicació, titulada «Pausa en els experiments gegants de la IA», ha estat publicada per l’Institut Future of Life (futur de la vida).

En la carta afirmen que la IA avançada podria representar un canvi profund en la història de la vida a la Terra, i s’hauria de planificar i gestionar amb una cura i recursos proporcionats. Els sistemes de la IA contemporanis s’estan tornant competitius per als humans en les tasques generals, i per això els signants es pregunten: hem de deixar que les màquines inundin els nostres canals d’informació amb propaganda i mentides? Hem d’automatitzar tots els treballs, inclosos els que ja compleixen? Hauríem de desenvolupar ments no humanes que eventualment puguin superar-nos en nombre, ser més intel·ligents, menys obsoletes i substituir-nos? Ens hem d’arriscar a perdre el control de la nostra civilització? 

I diu textualment: «En algun moment, pot ser important obtenir una revisió independent abans de començar a entrenar sistemes futurs, i que els esforços més avançats estiguin d’acord per limitar la taxa de creixement de la informàtica utilitzada per crear nous sistemes». 

El Parlament Europeu té l’encàrrec de redactar una llei de la IA, i un dels seus impulsors el romanès liberal Drago Tudorache ha afirmat que les intel·ligències artificials «són com motors i algorismes molt potents que poden fer moltes coses i que encara no estan destinats a un propòsit». La prova d’això és que els qui l’utilitzen li poden demanar reptes absolutament oposats pel que fa a la bondat de la seva finalitat. La gent li pot demanar que inventi cançons o novel·les. Pot demanar-li codis informàtics, informes de polítiques, informes de notícies falses; o, algú ja hi està especulant de cara a redactar sentències judicials. En la sofisticació de l’entrenament per imatges ens podem trobar amb dibuixos animats o falsejament d’imatges donant-los veracitat. En algun cas es coneixen accions d’amenaça d’investigadors amb el pirateig.

En el punt on som, aquests sistemes de la IA no tenen una comprensió ètica del món, no tenen sentit de la veritat i no són fiables, ha assegurat Gary Marcus, expert en IA. Per això els signants del manifest creuen que els laboratoris de la IA i els experts independents haurien d’utilitzar la pausa reclamada per desenvolupar un conjunt de protocols de seguretat compartits per totes les empreses per al disseny de la IA que siguin supervisats per experts externs independents. La finalitat és evitar una carrera perillosa a models foscos i impredictibles, ara mateix.

En paral·lel, els responsables polítics hauran d’accelerar el desenvolupament de sistemes de govern de la IA amb autoritats reguladores noves; amb la supervisió i seguiment de sistemes de la IA d’alta capacitat; amb sistemes de procedència i marca d’aigua per ajudar a distingir la fiabilitat del document; amb l’establiment de responsabilitats pels danys causats per la IA; amb el finançament públic per a la investigació tècnica de seguretat en IA; i, finalment, amb les previsions pressupostàries i laborals derivades de l’impacte negatiu sobre l’ocupació per la implantació de la IA en alguns àmbits.

Els humils mortals que amb prou feines ens sabem moure en el món burocràtic digital on ens han enviat administracions, bancs i empreses, quedem superats davant del volum immens de l’impacte que sembla que la IA tindrà a les nostres vides i, encara més, les dels nostres fills i nets.

Les pors que traspua la carta a favor de la pausa en l’entrenament de les diverses IA en marxa les comparteixo totalment. Però hauria de reflexionar molt més i llegir molt més sobre el tema per ser capaç de fer les preguntes adequades. Per ara, només n’apunto alguna.

Recordava el guió del film de Ridley Scott Blade Runner, on en un garatge de mala mort es dedicaven a fer implants bioinformàtics per a replicants (robots humanitzats). Qui ens diu que algú farà cas de la crida a la pausa d’entrenament de la IA? Qui garanteix que qualsevol empresa capitalista sense escrúpols, o qualsevol país dictatorial tecnològicament avançat, premi l’accelerador de la seva IA, i no necessàriament amb finalitats altruistes?

D’altra banda, com és que gegants dels invents que han facilitat el control a distància de la humanitat amb mòbil o ordinador ara semblin preocupats? Estan preocupats perquè una tecnologia superior els malmeti el negoci del control oligopòlic que tenien fins ara?

Són només dues qüestions sobre un tema que ens hauria de fer estar en alerta.

Subscriu-te per seguir llegint