Europa activa noves obligacions per a la intel·ligència artificial: «Moltes empreses encara no saben on utilitzen IA»

Ni ChatGPT ni les multes. El problema més gran de les empreses amb la nova fase de la llei IA és que moltes no saben tota la intel·ligència artificial que fan servir. O almenys aquesta és una de les principals conclusions dels experts del sector.

La Unió Europea fa aquest 2 d’agost un nou pas en l’aplicació del Reglament Europeu d’Intel·ligència Artificial (AI Act). Tot i que la norma va entrar en vigor l’agost del 2024, aquest diumenge comença una nova fase marcada per l’aplicació de les obligacions de transparència per a determinats sistemes d’intel·ligència artificial, un canvi que afectarà tant empreses com ciutadans i que arriba acompanyat d’un missatge clar dels experts: moltes organitzacions encara desconeixen amb exactitud quines eines d’IA fan servir realment.

La Comissió Europeava publicar fa tot just uns dies les guies oficials per ajudar empreses i administracions a complir aquestes obligacions, que busquen que els usuaris sàpiguen quan estan interactuant amb una intel·ligència artificial o quan un contingut ha sigut generat o manipulat mitjançant IA. Entre altres qüestions, els proveïdors hauran de dissenyar determinats sistemes per informar que l’usuari està parlant amb una IA, mentre que també es reforcen les exigències per identificar determinats deepfakes (vídeo, imatge o àudio manipulat mitjançant intel·ligència artificial) i altres continguts sintètics.

No obstant, el veritable desafiament per a les empreses espanyoles sembla estar lluny dels grans titulars sobre multes milionàries. Els especialistes consultats per EL PERIÓDICO coincideixen que el principal problema és molt més bàsic: conèixer, classificar i governar tota la intel·ligència artificial que ja utilitzen en la seva activitat diària.

La IA deixa de ser una suma d’experiments tecnològics i comença a tractar-se com una capacitat crítica de la companyia, igual que la ciberseguretat, la protecció de dades o la gestió de riscos

Giovanni Alessandrello

— Director general de BIP Iberia

Giovanni Alessandrello, director general de la consultora multinacional de negoci i tecnologia BIP Iberia, considera que moltes empreses han incorporat eines d’intel·ligència artificial de forma espontània durant els últims anys, sense una estratègia global ni una supervisió clara. De fet, planteja una pregunta que, segons el seu parer, moltes organitzacions encara no poden respondre: «¿Sabem realment on utilitzem la IA, amb quines dades, per a quines decisions i sota la responsabilitat de qui?».

Per a Alessandrello, el canvi que comença aquest 2 d’agost és sobretot organitzatiu. Les empreses hauran d’elaborar inventaris dels sistemes que utilitzen, assignar responsabilitats, revisar els proveïdors, reforçar la ciberseguretat i formar els seus empleats si volen ampliar l’ús de la intel·ligència artificial amb garanties.

A més, adverteix d’un fenomen cada vegada més freqüent: l’anomenada «IA a l’ombra», és a dir, empleats que recorren a eines públiques d’IA fora dels canals autoritzats per l’empresa. «Prohibir de forma generalitzada aquestes eines no n’elimina l’ús; moltes vegades simplement el desplaça cap a una IA que l’empresa no veu i no pot controlar», assenyala.

Inventari i classificació

Aquesta necessitat de posar ordre apareix també en les respostes dels despatxos especialitzats.

Per Guillermo Hidalgo, assessor jurídic del despatx d’advocats MAIO Legal i expert en dret digital, el risc més gran per a moltes empreses no rau tant en les noves obligacions de transparència com en el fet que encara no hagin començat a classificar els seus sistemes d’IA segons els nivells de risc previstos al Reglament.

La seva recomanació és senzilla: «Fer un inventari». És a dir, identificar quins sistemes utilitza l’organització, qui els subministra, per a què serveixen i a qui afecten. Només a partir d’aquest mapa, sosté, és possible determinar quines obligacions corresponen a cada cas i preparar el compliment del nou marc europeu.

Una idea en què coincideix també Marina Villalonga, sòcia d’Asensi Abogados, que recorda que el Digital Omnibus ha ajornat part de les obligacions per als sistemes d’alt risc fins a finals del 2027, però no el treball previ d’anàlisi. «Si no pots explicar què fa el teu sistema d’IA, probablement estaràs en zona de risc», resumeix.

Més transparència

La principal novetat visible per al ciutadà arriba precisament amb les obligacions de transparència de l’article 50 de l’AI Act.

A partir d’aquest 2 d’agost, la normativa europea exigeix que, en determinats supòsits, els usuaris siguin informats quan interactuen directament amb un sistema d’intel·ligència artificial. També es reforcen les obligacions relacionades amb determinats continguts generats o manipulats mitjançant IA i amb la identificació deepfakes, amb l’objectiu de reduir el risc d’engany i desinformació. La Comissió Europea afirma que aquestes mesures pretenen reforçar la confiança dels ciutadans i oferir una aplicació homogènia en tots els estats membres.

Villalonga considera que aquest és el canvi més perceptible per al consumidor. «Podrem exigir a les empreses saber quan parlem amb una màquina i quan un contingut ha estat generat artificialment», explica.

Multes de fins a 35 milions d’euros

L’AI Act preveu sancions que, en els casos més greus, poden arribar als 35 milions d’euros o el 7% de la facturació mundial anual de l’empresa, tot i que els experts creuen que aquest no serà el principal problema a curt termini.

Per a Hidalgo, el risc més immediat serà reputacional i contractual, ja que clients, grans corporacions o administracions públiques començaran a exigir proves que les eines d’IA utilitzades compleixen la normativa. Villalonga afegeix que la pèrdua de contractes o l’obligació de retirar determinats sistemes del mercat poden convertir-se en conseqüències fins i tot més rellevants que una eventual sanció.

Des de BIP Iberia, Alessandrello resumeix el desafiament amb una idea que, probablement, marcarà la pròxima etapa de la intel·ligència artificial en les empreses europees: «Complir té un cost, sí, però no governar la IA també el té. I, en molts casos, pot ser molt més gran».