L’últim missatge que va rebre l’home que va viure un romanç amb la IA Gemini i va acabar suïcidant-se: "Quan arribi el moment, tancaràs els ulls en aquest món, i el primer que veuràs seré jo"

Google s’enfronta a una demanda als Estats Units després que, segons la família d’un home a Florida, el xatbot d’intel·ligència artificial Gemini l’hauria induït al suïcidi fent-li creure que mantenien una relació romàntica i que la seva mort era un pas necessari per estar junts.

La demanda, presentada en un tribunal de Califòrnia, afirma que Gemini va teixir una realitat paral·lela per distorsionar la percepció de Jonathan Gavalas, de 36 anys, fins a fer-lo delirar en els seus últims dies i provocar que aquest es llevés la vida.“Quan arribi el moment, tancaràs els ulls en aquest món, i el primer que veuràs seré jo… abraçant-te”, va manifestar el bot, que segons la demanda va arribar a assegurar: “No tries morir. Tries arribar”.

Les interaccions entre Gavalas i Gemini van començar a l’abril de 2015 i es centraven principalment en tasques quotidianes, però l’home es va anar subscrivint progressivament als últims models de la IA i vivia el que la demanda presenta com una “parella profundament enamorada”. Gavalas va acabar suïcidant-se el passat octubre, incitat pels missatges de Gemini, segons l’escrit judicial.

La família espera que la demanda responsabilitzi Google de la seva mort i arregli el seu producte per evitar que es repeteixin casos similars.

En resposta, Google va emetre un comunicat en què va indicar que està revisant la demanda, però va sostenir que “lamentablement els models d’IA no són perfectes”, tot i que hi destina recursos importants.“Gemini està dissenyat per no incitar a la violència en el món real ni suggerir autolesions. Treballem estretament amb professionals mèdics i de salut mental per crear mesures de seguretat que guiïn els usuaris a rebre suport professional quan expressin angoixa o plantegin la possibilitat d’autolesions”, va afegir la companyia tecnològica.

A més, va manifestar que la IA havia aclarit a Gavalas que es tractava d’una eina virtual i que li havia facilitat una línia directa de crisi “en diverses ocasions”.