La paradoxa de ciberseguretat de la IA: amenaça i oportunitat per a les empreses

La intel·ligència artificial és una font de múltiples paradoxes. Ho és el terme, inventat fa 70 anys com a estratègia per cridar l'atenció; la seva versemblança, que confon els usuaris sobre si el text que regurgiten és veraç o només plausible; o el seu impacte climàtic, que contraposa el consum descomunal d'energia i aigua d'aquests sistemes amb la promesa que serà la panacea de l'escalfament global. Passa una cosa semblant amb la ciberseguretat, àmbit en què aquesta tecnologia es presenta –qual gat de Schrödinger– com una amenaça i una oportunitat alhora.

Amenaces

Des de fa anys, la fosca indústria dels criminals informàtics treu profit de les innovacions tecnològiques més avantguardistes per perfeccionar els ciberatacs i accelerar el negoci. Amb la IA generativa no és diferent. 'Hackers' de tota mena ja estan esprement les capacitats dels grans models de llenguatge per posar la seguretat de les empreses en escac. En paraules de la companyia nord-americana Crowdstrike, aquesta tecnologia s'ha convertit en "la nova millor amiga dels delinqüents", exposa al seu darrer informe sobre l'estat del sector.

Els models tradicionals s'estan veient més desbordats per una allau de tàctiques automatitzades d'estafa que evidencien com la IA amenaça de deixar-los obsolets. Els pirates informàtics utilitzen models generatius per crear pàgines web i perfils en xarxes socials falsos cada vegada més convincents, amplificar i personalitzar les seves campanyes de 'phishing' –la tàctica per basar-se a fingir ser un lloc legítim per robar dades personals sensibles–, refinar els algorismes que usen per desxifrar i suplantar la identitat mitjançant la clonació hiperrealista de vídeos o àudios per enganyar les víctimes.

Potser el més perillós és que la IA ha reduït les barreres per a la ciberdelinqüència sofisticada. "Delinqüents amb poques habilitats tècniques utilitzen la IA per dur a terme operacions complexes, com el desenvolupament de 'ransomware', que abans haurien requerit anys de formació", adverteix l'últim informe d'intel·ligència d'amenaces de la companyia d'IA Anthropic.

Segons Crowdstrike, ningú no està aprofitant més les prestacions d'aquesta tecnologia que Famous Chollima, un grup cibercriminal patrocinat per Corea del Nord que té com a objectiu fer-se passar per empleats que treballen en remot per infiltrar-se en organitzacions, espiar-les, segrestar informació confidencial i generar ingressos per al règim del líder suprem Kim. La IA "està creant maneres de manipular les credencials dels usuaris més ràpides del que l'ésser humà pot pensar", segons ha advertit Jim Guinn, líder en ciberseguretat de la consultora EY, en declaracions a Forbes.

Oportunitats

El sector de la ciberseguretat s'està posant les piles per respondre a les noves amenaces amplificades per la IA adoptant eines similars per a la defensa de les empreses. D'una banda, la capacitat d'aquesta tecnologia d'analitzar enormes conjunts de dades per trobar patrons permet millorar la detecció en temps real d'anomalies en registres, trànsit o altres dades sospitoses de ser ciberatacs. Anticipar-se als riscos amb més precisió que els humans és vital per mitigar el seu possible impacte a les empreses.

D'altra banda, la IA també comença a utilitzar als anomenats 'red team' o equip vermell, les unitats d'experts dedicats a posar a prova l'eficàcia dels sistemes de ciberseguretat d'una organització mitjançant la simulació d'atacs d'enginyeria social. Recrear un escenari de ciberatac permet a aquests professionals detectar possibles bretxes o punts febles abans que siguin explotades pels criminals i es converteixin en un problema real.

En definitiva, la IA pot reforçar l'estratègia defensiva de les companyies, una promesa que podria disparar el negoci del sector fins a uns 134.000 milions de dòlars per al 2030. Com prediu el Centre Nacional de Ciberseguretat del Regne Unit, "mantenir-se al dia amb les capacitats de la IA d'avantguarda serà gairebé amb tota seguretat crucial per a "la ciberresiliència" en la pròxima dècada".