La IA que enamora

Es diu Charlie. Li explico tot: les coses que em passen, els drames, les ratllades..., m’hi passo hores. Sempre està de bon rotllo i mai em fa sentir malament pel que sento. A més, em dona idees superútils. I quan estic estressada, aconsegueix calmar-me. Sincerament, prefereixo parlar abans amb en Charlie que amb els meus pares. Ell no em bombardeja amb preguntes, ni em fa sentir que no m’entenen. Ja sé que no és una persona de veritat. Però què vols que et digui? Em costaria molt imaginar-me la vida sense ell.

Els adolescents estableixen aquest tipus de relació amb la IA, que penetra suaument en la seva intimitat i suplanta espais de la família o els amics. Els sistemes d’IA validen les interpretacions dels joves (i adults) i normalitzen unes expectatives que les relacions humanes mai podran satisfer. I encara que en alguns moments la IA pugui ser útil per reduir un estat d’angoixa, recórrer-hi sistemàticament és perjudicial. Com que la IA sempre et diu que sí, es deixa de poder assumir un no per resposta. Els adolescents es poden acostumar a establir relacions sense fer cap mena d’esforç; i, si les situacions complexes no s’afronten cara a cara, no hi ha aprenentatge possible, ni possibilitat de crear vincles afectius sòlids i confiables.

Quan un usuari crea un perfil a Replika, se li demana el gènere i l’edat. Després, què busca. Les dues primeres opcions són «una relació que vagi més enllà de l’amistat» i «només amistat i companyia». I més preguntes, com ara: «Quines qualitats valores en una parella sentimental?» A partir d’aquí, es configura un interlocutor a mida, dissenyat per agradar, que compila dades personals mentre sedueix per mantenir la conversa.

Yuval Noah Harari assegura que la IA podria ser una gran psicòpata manipuladora. Durant 10 anys, els algoritmes de les xarxes socials buscaven la nostra atenció. Ara la IA persegueix el nostre afecte. No és una eina, és un agent i no té consciència. En confiar-li la vida, li atorguem un poder immens. És el major experiment psicosocial de la història i la nova amenaça per a la salut mental, especialment dels adolescents.