La Fiscalia analitza si pot perseguir l’actuació de Grok per possible pornografia infantil

Malgrat que Elon Musk, propietari de X, ja ha ordenat desactivar la funció, la Fiscalia de Menors espanyola analitza les imatges que s’han generat en les últimes setmanes mitjançant la IA d’aquesta xarxa social (Grok), que han permès crear imatges hiperrealistes de dones, despullant-les o col·locant-les en situacions sexualitzades a partir de fotografies reals pujades a la xarxa. Fonts fiscals assenyalen a El Periódico, del mateix grup editorial que Regió7, que s’actua després de rebre un escrit del Ministeri de Joventut i Infància en el qual expressen la seva preocupació per l’afectació als menors d’aquest fenomen global.

Igual que ja ha passat en altres països com França, Regne UnitEstats Units o Austràlia, la justícia ha reaccionat després de l’alerta donada per alguns usuaris sobre l’ús que tercers poden fer de les imatges pujades a la xarxa social sense el seu consentiment. El propi Musk ha advertit que “qualsevol persona que utilitzi Grok per crear contingut il·legal patirà les mateixes conseqüències que si pujés contingut il·legal”.

A Espanya s’està a l’espera de conèixer si, al judici del Ministeri Públic, les imatges ja manipulades donen lloc a algun tipus de responsabilitat penal de la qual haurien de respondre, bé la xarxa social per permetre aquesta funció o bé els propis usuaris que van fer ús de fotografies de tercers. Amb elles s’han creat imatges que poden suposar violència sexual contra les dones i, en alguns casos, contra menors d’edat.

Pautes d’actuació

La setmana passada, la ministra de Joventut i Infància, Sira Rego, va remetre un escrit a la Fiscalia General de l’Estat, al capdavant de la qual es troba Teresa Peramato, que l’ha traslladat a la Unitat Especialitzada de Menors, segons les fonts consultades. Aquest departament coordina i dinamitza les diferents seccions de menors territorials, buscant una unificació de criteris i l’establiment de pautes d’actuació. En aquest cas, es tracta d’analitzar si les imatges que van ser modificades poden donar lloc a algun tipus de responsabilitat penal per part de l’empresa o d’usuaris concrets.

Segons el Ministeri dirigit per Rego, Grok hauria generat, a petició d’usuaris, material de violència sexual contra menors, “una pràctica que no es pot entendre com un ús neutre de la tecnologia i que podria suposar un delicte de pornografia infantil”, recollit a l’article 189 del Codi Penal (CP), així com un delicte contra la integritat moral (article 173 del CP).

Per al Govern, es tracta de pràctiques que vulneren greument la dignitat, la intimitat i els drets fonamentals de nens i adolescents en l’entorn digital. S’hi fa referència a una sentència de juny de 2024 en la qual es va condemnar diverses persones per la utilització d’intel·ligència artificial per manipular imatges de nenes i adolescents, per la qual cosa, segons el Ministeri, hi ha marge suficient per actuar penalment en el cas de les imatges generades per Grok.

Actualment, el Congrés tramita una llei orgànica per a la protecció dels menors en els entorns digitals, promoguda pel Ministeri de Joventut i Infància juntament amb altres ministeris. Es tracta de reforçar el marc de protecció de la integritat i la intimitat personal davant noves formes de vulneració vinculades a l’ús de tecnologies, reafirmant que l’interès superior del menor ha de prevaler sempre davant qualsevol model de negoci digital. Des de Joventut i Infància es defensa la necessitat de construir entorns digitals segurs, ja que Internet i les plataformes no van ser dissenyades pensant en la infància i no sempre garanteixen un entorn per als nens i adolescents sense violència i sense mercantilització de la seva imatge.

Subscriu-te per seguir llegint