Des que se'n va anunciar el llançament, ChatGPT, un dels precursors d'aquesta nova era de la intel·ligència artificial (IA), ha estat objecte constant de desig, por i controvèrsia. Mentre el debat entre aquells que donen suport al desenvolupament sense traves de la IA i els que volen posar fre a una tecnologia que representa una potencial gran amenaça per a la humanitat, els 'pirates' virtuals acceleren la seva carrera per aconseguir el control.

En els darrers mesos, s'ha multiplicat per set el nombre de hackers que parlen de com manipular el xatbot a internet, segons revela un estudi de l'empresa de ciberseguretat NordVPN.

Els fòrums de la 'Dark Web', aquest pati del darrere d'Internet que no apareix als cercadors ni navegadors convencionals, s'han desbordat de converses relatives a aquest tema: el nombre de nous missatges sobre l'eina d'intel·ligència artificial va passar de 120 al gener d'aquest any a 870 al febrer, fet que suposa un augment del 625%.

Així mateix, els fils sobre ChatGPT van augmentar un 145% (de 37 a 91 en un mes), convertint l'explotació del bot en un dels temes més candents de la 'Dark Web'.

Una eina per sembrar el caos

A principis d'any, la majoria d'aquests fils se centraven en com els mals actors podien animar ChatGPT a produir codi maliciós bàsic, una vulnerabilitat que el seu creador OpenAI ha solucionat des de llavors. Tot i això, un mes després, la tendència entre la comunitat de hackers és actuar de forma més agressiva, amb missatges que esbossen plans per aconseguir el control del xatbot i utilitzar-lo per sembrar el caos.

Una realitat que resulta veritablement digna de preocupació: amb ChatGPT sota el seu control, els ciberdelinqüents podrien aprofitar la seva intel·ligència artificial per cometre fraus a escala industrial, adreçant-se a múltiples víctimes simultàniament.

I és que una vegada que un hacker aconsegueixi el control del xatbot, podrà eliminar les seves restriccions de seguretat i utilitzar-lo per crear malware i correus electrònics de pesca, promoure discursos d'odi o fins i tot difondre propaganda.

Ciberatac Pixabay

Ciberfraus en cadena

"Per als ciberdelinqüents, però, la revolucionària IA pot ser la peça que falta al trencaclosques per a una sèrie d'estafes", afirma Marijus Briedis, expert en ciberseguretat de NordVPN. I és que, “l'enginyeria social consumeix molt de temps als hackers. No obstant això, una vegada que s'ha explotat un bot, aquestes tasques es poden externalitzar completament, establint una línia de producció de fraus”.

A més, exposa Briedis, "l'ús de l'aprenentatge automàtic per part de ChatGPT també significa que els intents d'estafa, com els correus electrònics de pesca, sovint identificables per errors ortogràfics, es poden millorar per ser més realistes i persuasius".

Per tot això, per a aquest expert resulta molt preocupant que, en l'últim mes, les discussions a la 'Dark Web' hagin evolucionat de simples "trucs" i solucions -dissenyades per animar ChatGPT a fer alguna cosa divertida o inesperada-, a prendre el control complet de l'eina i convertir-la en una arma.

Com protegir-se davant dels fraus creats amb IA

Davant l'amenaça descrita, NordVPN, la companyia responsable de l'estudi, ofereix uns consells per mantenir-se alerta davant de les potencials noves estafes orquestrades amb eines d'intel·ligència artificial.

  • Evitar donar dades personals: els xatbots d'IA estan dissenyats per aprendre de cada conversa que tenen, millorant les seves habilitats en la interacció “humana”, però també construint un perfil més precís de tu, el qual es pot emmagatzemar. Si us preocupa l'ús que puguin fer de les vostres dades, eviteu donar informació personal.
  • Parar atenció als detalls: és probable que la intel·ligència artificial ofereixi oportunitats addicionals als estafadors en línia i es pot esperar un augment dels atacs de pesca a mesura que els hackers utilitzen bots per elaborar estafes cada cop més realistes. Les característiques tradicionals del phishing, com la mala ortografia o gramàtica en un correu electrònic, poden estar en vies de desaparició, així que comprova l'adreça del remitent i cerca incoherències als enllaços o noms de domini.
  • Utilitzar un antivirus: els hackers ja han manipulat amb èxit xatbots per crear codi maliciós bàsic, per la qual cosa val la pena comptar amb una eina antivirus, que pot alertar-te d'arxius sospitosos i mantenir-te fora de perill si els descarregues.