Laura Bates: “L’impacte de veure un ‘deepfake’ d’algú violant-te, com el que em van enviar, és enorme. Se sent real, es veu real, és una violació”

La nova era de titllar una dona de puta amb els deepfakes. La nova era de l’assetjament al carrer, ara al metavers. La nova era de la violació amb robots sexuals, que es poden dissenyar a mida perquè s’assemblin físicament, sonin i responguin com una exparella. Els ciberdels, la pornografia de revenja, les nòvies virtuals i el masclisme de la IA. Cada vegada que apareix una nova tecnologia, aquesta s’utilitza per denigrar dones i nenes arreu del món. Així ho explica Laura Bates a La nova era del masclisme (Península), un assaig en què investiga com el sexisme ha evolucionat en paral·lel als avenços tecnològics i com els algoritmes amenacen les dones com mai abans. Una de cada dotze dones serà víctima d’un deepfake al llarg de la seva vida. Però fins ara, tal com recorda Bates, “el penis masculí sempre s’imposa als drets de les dones”.

El llibre comença a Espanya, a Almendralejo. El 2023 un grup de nois va enviar deepfakes de les seves companyes de classe, la més petita de només onze anys. El cas va posar aquest petit municipi de Badajoz al centre de l’atenció. Per què va decidir començar el llibre amb aquest cas?

Va ser un dels primers casos que va visibilitzar el problema a escala mundial, en part gràcies a la valentia i al coratge de les dones del poble que es van atrevir a denunciar-ho i a lluitar. Hem vist molts casos similars, però aquest va ser un dels primers en què les dones van alçar la veu i van dir: «Això és inacceptable i aquestes noies no haurien de sentir vergonya».

Parla dels ciberdels que va visitar, alguns d’ells a Barcelona.

N’hi ha exemples arreu del món que obren i tanquen constantment. Em va impactar que estiguessin disposats a preparar la nina amb la roba esquinçada i trencada, cosa que per a mi suggeria simulacions de violència. És increïble com són d’hiperrealistes i com és de fàcil oblidar que no són persones reals. I això em va fer reflexionar sobre com de fàcil seria, per als homes que ho volguessin, fer justament el contrari: oblidar que no ho són. Qui voldria oblidar que eren reals?

La simple normalització de la idea que els homes paguin per tractar aquests robots com si fossin éssers humans ja hauria de ser preocupant, no?

Sí, és una cosa que erosiona les idees sobre el consentiment, l’autonomia corporal i el respecte als límits de les dones. Hi ha tota una indústria en expansió que crea models basats en violacions, sistemes en què pots activar un interruptor i et suplicaran que paris, o robots sexuals personalitzats dissenyats per assemblar-se exactament a una dona a partir d’una fotografia que els envies. Les implicacions ètiques són molt preocupants, especialment quan s’hi afegeix la IA.

Què canvia la IA?

Permet que els robots parlin com si fossin la persona que tu vols que siguin. Els pots dir el seu nom, la seva feina, i pots dictar-ne la personalitat.

Per què cada vegada que apareix una nova tecnologia, aplicació o xarxa social, s’utilitza com una nova forma d’explotar les dones?

No som nosaltres qui dissenyem les eines, no som nosaltres qui les creem, no som nosaltres qui ens en beneficiem econòmicament, estadísticament parlant. I tampoc som nosaltres qui les regulem ni qui determinem la configuració i els requisits de seguretat d’aquests productes. Com a societat, ens hem acostumat al fet que gairebé tots els avenços tecnològics moderns comportin una allau de noves formes d’abús i violència contra les dones i les nenes.

Som la meitat de la població i la meitat del mercat. Potser hauríem de boicotejar-les?

Però sovint no tenim l’opció de no utilitzar aquestes eines. Se’ns exigeix fer-les servir, ja sigui per a l’educació, per participar plenament en la vida democràtica i social o perquè les necessitem per treballar. Les xarxes socials són imprescindibles per a moltes professions, com ara el periodisme. El problema és que no som nosaltres qui en controlem el desenvolupament.

Si les dones representen només el 12 % dels investigadors en IA, això es tradueix en les respostes que ens dona, per exemple, ChatGPT?

Les empreses liderades per dones només reben el 2 % del finançament de capital risc per desenvolupar aquest tipus de productes. Se’ns ignora i se’ns deixa de banda sistemàticament. De fet, el trauma i l’abús contra les dones sovint s’utilitzen com una eina perquè aquestes empreses millorin, accelerin i ampliïn els seus productes. Hi ha un desequilibri de poder molt significatiu, mentre que, al mateix temps, el món sencer ens diu que tots hem d’utilitzar la IA o ens quedarem enrere. Es presenta com una mena de cursa armamentista global, una nova febre de l’or.

Ningú sembla preocupar-se pels milions de dones humiliades pels deepfakes i la pornografia de revenja, que en la majoria dels casos queden impunes. És descoratjador, no creu?

Sí, és molt, molt frustrant. Crec que les dones de tot el món estan cansades, fartes, enfadades i frustrades. També crec que hi ha un nou element perillós: la desesperança. Crec que la proximitat dels multimilionaris de les grans tecnològiques al poder polític, sobretot als Estats Units, està tenint un efecte paralitzador a escala mundial. Hi ha una sensació de desesperança entre les activistes i les dones corrents: com podem combatre això? És tan gran, tan poderós, i alguns dels governs més importants del món li donen suport activament... Però aquest és precisament el moment en què més necessitem lluitar i no rendir-nos. Tot i que entenc perfectament per què la gent se sent desanimada.

Moltes persones resten importància als deepfakes perquè són “imatges falses”. Vostè n’ha estat víctima. Què va sentir?

Per començar, és una tàctica molt antiga: desacreditar les feministes dient que podria ser pitjor, que podria tractar-se d’una agressió sexual a la vida real. Òbviament, el primer que cal dir és que no, no són el mateix, però continua sent inacceptable. És una forma diferent de dany, però continua sent dany. Com que les imatges no són reals, la gent pensa que l’impacte tampoc no és real, però l’impacte és enorme. L’impacte psicològic de veure una imatge molt realista, per exemple, d’algú violant-te —una cosa que algú va crear amb la tècnica deepfake i em va enviar— és enorme. Se sent real, es veu real, és una violació.

I l’impacte no s’acaba aquí, oi?

No. Juntament amb la imatge en si, hi ha una gran quantitat d’altres impactes psicològics. Qui més ha vist aquesta imatge? On s’està compartint? Què està fent amb ella l’home que la va crear? Què ha compartit amb altres homes? Està disponible en llocs pornogràfics? S’està difonent? Apareixerà quan la gent busqui el meu nom, ja siguin familiars o ocupadors? Em sobreviurà? És una cosa que quedarà allà per sempre i de la qual mai no em podré desfer?

La resposta fisiològica és real, doncs.

Sabem que allò virtual té un impacte real, perquè tots podem seure en un cinema 3D i veure un tauró sortir de la pantalla, cridar, fer un bot enrere espantats, notar com se’ns accelera el ritme cardíac i com ens suen les mans. Tots acceptem que hi ha una resposta fisiològica real davant d’una cosa que sabem que és virtual i que no és real. Però quan es tracta d’aquestes formes de violència contra les dones i les nenes, la societat simplement prefereix ignorar-ho.

Quines conseqüències en el món real està tenint tot això?

Les estem veient utilitzades com una arma a gran escala contra les dones en política. Sabem que hi ha polítiques que deixen els seus càrrecs abans d’hora i que citen aquestes formes d’assetjament com un factor important. Sabem que hi ha dones que se senten allunyades de les seves famílies, que són avergonyides i maltractades a causa d’aquestes imatges. En alguns casos, corren el risc de perdre la feina o la custòdia dels seus fills. Veiem nenes de deu anys sent atacades, extorsionades i maltractades amb aquestes imatges. Infants que abandonen l’escola i es neguen a sortir de casa. Dones que desenvolupen trastorn d’estrès posttraumàtic com a conseqüència d’aquests abusos. Per tant, la idea que això no és real i no té conseqüències és absurda.

Quan un atac informàtic altera unes eleccions o es produeix una estafa bancària, es prenen mesures. En canvi, milers d’homes comparteixen nus de les seves nòvies o exparelles sense consentiment i això gairebé mai no té repercussions. Per què?

Tenim una resposta política reticent i insuficient davant la violència contra les dones i les nenes en general. Però també hi ha un problema greu: la reticència política a regular el sector tecnològic. Durant els darrers quinze anys, el lobby de les grans tecnològiques ha exercit una gran influència als Estats Units, creant una relació molt estreta amb el poder polític. Mentre aquests magnats tecnològics ocupen el Despatx Oval, construeixen el nou saló de ball de la Casa Blanca o seuen al costat del president durant la presa de possessió, veiem com aquesta proximitat al poder té un efecte dissuasiu sobre la voluntat de regular. També crec que existeix la idea errònia que és impossible regular aquest sector.

Per què?

Ens diuen que és massa gran, massa ràpid, que la innovació és massa important per arriscar-se a afeblir-la, alentir-la o ofegar-la amb regulacions. Quan la realitat és que, en qualsevol altre sector, evidentment regularíem els nous productes que es llancen al públic, com ara els aliments. O les joguines. O els cotxes. I després hi ha el problema que els governs i els líders no escolten les activistes pels drets de les dones, que fa anys que adverteixen d’una epidèmia de violència de gènere facilitada per la tecnologia deepfake. Esperen, esperen i esperen fins que nou milions de dones es veuen afectades per les eines abusives creades per Grok, i aleshores diuen: «Ah, bé, potser ara legislarem», quan ja és massa tard.