Sancionat un jutge a Espanya: va utilitzar ChatGPT per elaborar una sentència judicial

El Consell General del Poder Judicial (CGPJ) ha obert expedient a un magistrat que va emprar intel·ligència artificial, concretament ChatGPT, per redactar l’esborrany d’una sentència i que s’enfronta a una possible sanció de suspensió i multa.

La Comissió Disciplinària del Consell General del Poder Judicial haurà de decidir si sanciona aquest magistrat d’una Audiència Provincial amb quinze dies de suspensió i una multa de 501 euros, tal com reclama el promotor de l’acció disciplinària, Ricardo Gonzalo Conde, segons ha avançat El Español.

La Fiscalia, que també intervé en els expedients disciplinaris a jutges i es pronuncia al mateix temps que el promotor, proposa en canvi arxivar l’expedient, sense imposar cap sanció, en considerar que no s’ha produït cap infracció disciplinària.

Va oblidar esborrar les seves preguntes

Segons publica El Español, el jutge va emprar la IA per redactar una resolució i va ser descobert perquè va oblidar eliminar les consultes a ChatGPT del text del qual era ponent.

El promotor qüestiona aquest magistrat per haver presentat a la resta dels integrants del tribunal una «aparent sentència» que havia estat motivada, és a dir, argumentada, per «mètodes artificials sobre l’anàlisi informàtica que ChatGPT havia fet de les actuacions judicials que el mateix magistrat va subministrar amb aquesta finalitat».

En proposar la sanció, el promotor no qüestiona la utilització «per se» de l’eina d’intel·ligència artificial, sinó el fet que ho fes «eludint complir amb la seva funció jurisdiccional».

Pujar a una intel·ligència artificial «la totalitat de les actuacions i redactar una sentència a base de preguntes dirigides a l’obtenció de text», sense advertir-ne la resta dels membres del tribunal i sense prendre la «menor protecció» sobre les dades personals contingudes en les actuacions és, segons el promotor, «una infracció del més elemental deure judicial de dictar sentència i de lleialtat».

Segons assenyalen les mateixes fonts, el promotor considera que aquest jutge va pretendre «eludir la tasca de motivar el parer del tribunal respecte d’un assumpte del qual era ponent, valent-se per a això d’una eina d’IA».

Es va advertir als jutges que la IA no pot sentenciar

Recentment, el passat 28 de gener, el Ple del Consell General del Poder Judicial (CGPJ) va aprovar una instrucció sobre l’ús de la IA, en la qual advertia els jutges que la intel·ligència artificial no pot dictar sentències, valorar fets o proves ni aplicar el dret sense la supervisió i el «control humà constant, real, conscient i efectiu» dels jutges.

Aquesta instrucció prohibeix que la IA substitueixi els membres de la Carrera Judicial en l’exercici de l’activitat jurisdiccional, el de responsabilitat judicial, el d’independència judicial, el de respecte dels drets fonamentals i dels principis de confidencialitat i seguretat i el de prevenció de biaixos algorítmics.

A més, el Poder Judicial va assenyalar que els jutges només poden utilitzar les aplicacions d’intel·ligència artificial que els siguin facilitades per les administracions competents en matèria de Justícia i que hagin passat el control del CGPJ o aquelles que els siguin proporcionades directament per l’òrgan de govern dels jutges.