Es pot regular la IA? Corea del Sud creu que és possible

La intel·ligència artificial ens impulsa cap a un món tan excitant com inquietant, sense límits entre la veracitat i la versemblança i infinites facilitats per al frau i el crim. Una noia va ser acusada de matar dos homes després que la policia consultés el seu historial telefònic de ChatGPT, on hi havia preguntes com: «¿Què passa si barreges alcohol i somnífers? ¿Quantes pastilles són perilloses? ¿Pot matar algú?». Va passar recentment a Corea del Sud, potència global en IA i, des del mes passat, pionera a l’hora de regular aquest salvatge oest de silici.

Són sis capítols i 43 articles amb vocació de guia d’ús. La Llei Bàsica d’IA obliga a la supervisió humana en àrees considerades d’«alt impacte» com la seguretat nuclear, la gestió d’aigua potable, el transport, la sanitat pública i la concessió de crèdits i altres serveis financers. També exigeix la transparència en tots els continguts (fotos, vídeos o àudios) que «siguin difícils de distingir de la realitat»: una marca d’aigua o un avís de veu aclarirà que han sigut generats amb IA. Les infraccions es castigaran amb multes de fins a 30 milions de wons (gairebé 18.000 euros) però concedeix un any de gràcia. El Ministeri de Ciència assegura que busca un ecosistema segur i saludable i liquidar la incertesa legal.

Corea del Sud lluita amb un problema molt global: com estimular un sector imprescindible en la nova economia abans que els enganys i deepfakes o ultrafalsos laminin la confiança. L’àrdua tramitació de la llei, portada durant cinc anys al Parlament, en revela la dificultat. Els laments s’han repetit després de la seva entrada en vigor: per als usuaris, queda curta; per a la indústria, va massa lluny.

Organitzacions civils i advocats de drets humans han denunciat que els ciutadans continuen desprotegits davant els riscos de la IA. El que la llei defineix com a «usuaris» són companyies financeres, institucions públiques o hospitals, però no individus. Conceptes nebulosos com «àrees d’alt impacte» i les exempcions a la intervenció humana anticipen perilloses llacunes legals. Al sector el preocupen diverses qüestions. El 98% de les start-ups d’IA no estan preparades per complir la llei, segons una enquesta de desembre de Startup Alliance. Aquestes són més sensibles als costos d’adequació i les multes que les grans tecnològiques. Temen també que la vaguetat i l’amenaça de sancions aconsellin les iniciatives més conservadores en un camp que exigeix audàcia.

El populisme legislatiu, assenyalen, embrida el desenvolupament quan la competència global cavalca sense brides. «Hi ha alguna cosa de ressentiment. ¿Per què hem de ser nosaltres els primers?», es preguntava Lim Jung-wook, representant de Startup Alliance. Una llei pionera no pot predir tots els supòsits de fet, i menys en un camp tan nou i dinàmic, ni aprofitar les experiències globals: la primera llei també serà la més imperfecta. Seül ha respost que el 90% de la llei pretén promoure la indústria i no restringir-la. El president, Lee Jae Myung, ha demanat als legisladors que atenguin les queixes de les start-ups i recolzin el seu desenvolupament. Un país de l’Extrem Orient amb 50 milions d’habitants vol replicar amb la IA l’empremta de què gaudeix en la cultura global amb la música K-pop, el cinema i les sèries televisives.

Legislació suau

El context és procliu. Els EUA defensen una legislació suau que incentivi la innovació, però les pugnes partidistes portaven la seva tramitació. L’ecosistema censor de la Xina l’anul·la com a referència i la seva proposta de crear un cos regulador internacional en el passat G-20 va trobar l’oposició de Washington. La UE ja va aprovar una llei sobre IA el 2024, però la seva aplicació per fases no conclourà fins al 2027. Les seves multes són més altes que les sud-coreanes: des de l’1% dels beneficis anuals per infraccions menors al 7% per ignorar les prohibicions.

Corea del Sud pretén el tercer calaix del podi de la IA després dels EUA i la Xina. No escassegen els arguments. L’ús de la IA des de finals del 2024 ha augmentat a Corea del Sud un 80%, davant el 35% al món i el 25% als EUA. Els sud-coreans pugen al tren de la IA amb entusiasme i sense les referències culturals d’Occident (George Orwell, Frankenstein, les distopies cinematogràfiques) que anuncien tragèdies quan l’home juga a ser Déu. Només al 16% dels sud-coreans -el percentatge més baix del món- l’auge de la IA li provoca més inquietud que entusiasme.

Corea del Sud també en lidera els excessos. Concentra el 53% dels deepfakes pornogràfics del món, aquestes composicions que superposen el rostre d’una noia a un cos nu en actitud sexual. L’escàndol de Telegram va sacsejar el país dos anys enrere: en dotzenes dels seus grups, alguns amb centenars de milers d’usuaris, circulaven quantitats ingents de deepfakes. Qualsevol podia penjar la fotografia d’una coneguda i obtenir-lo en segons. Un noi va ser condemnat a deu anys de presó per haver generat més de 2.000 composicions de les seves companyes en una de les universitats més prestigioses del país. El problema no ha remès i no hi ha víctimes més propícies que les angelicals celebritats. Les companyies més grans del K-pop han declarat la guerra a aquests deepfakes que atempten contra la puresa que representen les seves cantants.