L'altra cara de la intel·ligència artificial: la Fiscalia investiga el noi detingut a Súria per produir pornografia

La Fiscalia de Barcelona investiga dos casos d'elaboració de fotografies sexuals de menors manipulades mitjançant intel·ligència artificial (IA) per a la seva posterior difusió a través de les xarxes socials. Un d'ells, el del jove detingut a Súria per manipular imatges de menors.

Segons han informat fonts del ministeri públic, les dues denúncies, rebudes els últims mesos, estan sent investigades per la Fiscalia de Menors de Barcelona, ja que les víctimes de la manipulació de les fotografies sexuals són menors i també se sospita que ho són els autors de les mateixes.

En les dues investigacions obertes, els autors van manipular mitjançant intel·ligència artificial fotografies reals de menors fins a convertir-les en imatges sexuals i les van difondre a través de xarxes socials.

Una d'elles, la detectada ek mes d'octubre passat a Súria. La Policia Nacional va detenir al municipi bagenc un menor que captava imatges d'altres menors des de la finestra de casa seva i, posteriorment, mitjançant programes d'intel·ligència artificial els treia la roba i les compartia per internet.

La Fiscalia adverteix de la dificultat d'identificar els autors d'aquest tipus de delictes, perquè habitualment les companyies responsables de les xarxes socials en què es fa difusió de les imatges manipulades tenen seu a l'estranger, cosa que obliga a fer comissions rogatòries a través dels jutjats o altres mecanismes de cooperació judicial.

Augmenten les pornovenjances

Tot i que de moment no s'investiguen denúncies de manipulació d'imatges d'adults per intel·ligència artificial amb finalitats sexuals, la Fiscalia de Barcelona sí que ha detectat un augment dels casos de l'anomenada "pornovenjança", persones que utilitzen fotografies de contingut sexual de les parelles o exparelles per amenaçar-les o coaccionar-les.

L'àrea de Violència contra la Dona de la Fiscalia de Barcelona ha constatat un increment d'aquest tipus d'activitat delictiva els darrers anys, en paral·lel amb l'auge de la utilització del telèfon mòbil i les xarxes socials: aquest any ha presentat tres escrits d'acusació per casos de "pornovenjança".

Els casos d'utilització d'imatges de contingut sexual en la violència masclista se solen investigar com a delictes de coaccions, assetjament i amenaces. Aquest darrer il·lícit penal és el que més ha augmentat el darrer any.

La Fiscalia de Violència contra la Dona de Barcelona, que dirigeix la fiscal María Jesús Méndez, avisa de l'increment de denúncies per cas de violència masclista després de la pandèmia, en haver aflorat la xifra negra d'episodis de maltractament que havien estat ocultes pel fet que el confinament obligava a conviure les víctimes amb els seus agressors les 24 hores el dia.