Humanisme cristià en temps de la IA

Des de la publicació de la Rerum Novarum de Lleó XIII l’any 1891, en plena segona revolució industrial, fins a la recent encíclica Magnifica Humanitas de Lleó XIV, el pensament social de l’Església ha intentat discernir els grans canvis tecnològics i econòmics. Si la primera afrontava els reptes de la industrialització i del proletariat, la segona s’emmarca en la intel·ligència artificial (IA) i la nanotecnologia. Tanmateix, el fil conductor és la defensa de la dignitat humana davant les grans transformacions tecnològiques i econòmiques.

La Magnifica Humanitas recorda que el progrés tecnològic, sent valuós, no és moralment neutre. Cada tecnologia incorpora una determinada visió de la persona i de la societat, implicant decisions sobre què es mesura, què s’ignora i què es prioritza. En general, respon als interessos de qui dissenya els algoritmes i qui els finança. Sense un marc ètic adequat, més capacitat de computació o un millor model d’IA no signifiquen necessàriament una millora per a la humanitat.

El document papal advoca per una concepció antropològica de la IA, en oposició a una deriva tecnocràtica. El paradigma tecnocràtic tendeix a considerar la persona com un conjunt de situacions a optimitzar, reduint-la a dades. Aquesta lògica condueix a una visió deshumanitzadora, en la qual el valor de la persona queda subordinat a la seva utilitat. Per això, l’encíclica sosté que no n’hi ha prou amb regular la IA: cal desarmar-la. Aquest concepte no implica rebutjar la tecnologia, sinó alliberar-la de la lògica de domini que la governa actualment. Desarmar la IA significa evitar que es converteixi en un instrument de poder concentrat i garantir que resti oberta a la pluralitat i a la responsabilitat compartida.

La IA ha de servir pel desenvolupament integral de la persona i la convivència social, no pas la consolidació de privilegis o la maximització unilateral de beneficis. Això exigeix una responsabilitat distribuïda en totes les fases del cicle tecnològic, des del disseny fins a l’ús, i una especial atenció a la transparència i a la rendició de comptes. Un dels punts més crítics de l’encíclica és la qüestió del control de les dades. En la societat digital, cada acció deixa rastre: moviments geolocalitzats, compres online, likes a les xarxes socials… Aquest volum ingent d’informació permet no només descriure comportaments, sinó també predir-los i influir-los.

Aquest poder deriva en manipulació, mitjançant la configuració de l’entorn informacional: allò que es fa visible, el que s’amplifica i el que s’oculta. Aquestes dinàmiques condicionen les decisions individuals sense que les persones en siguin plenament conscients. A més, l’encíclica alerta sobre l’aparició d’una nova forma de subordinació: una esclavitud digital basada en l’explotació de les dades. La població pot convertir-se en font d’informació —sanitària, genètica o demogràfica— per a actors globals que utilitzen aquestes dades per anticipar tendències, orientar inversions o establir prioritats. Qui controla aquestes dades obté una influència sobre el futur.

Aquest fenomen pot generar un neocolonialisme, no basat en el control del territori (que també), sinó de la informació. La qüestió central esdevé, doncs, com transformar la informació en bé comú i garantir que les persones puguin decidir sobre l’ús de les seves dades. La concentració de dades i capacitat tecnològica en mans d’una minoria alimenta una dinàmica de desigualtat creixent. Davant aquests reptes, la Magnifica Humanitas subratlla la necessitat de recuperar la recerca de la veritat com a eix de la vida democràtica. Quan la veritat es relativitza i es redueix a allò útil, la democràcia es debilita i s’obre la porta a formes de dominació basades en la manipulació de la informació. Aquest context fa que l’educació sigui decisiva. L’encíclica alerta contra un model educatiu dominat per la immediatesa i la sobreabundància d’informació, que dificulta la reflexió profunda i el pensament crític. Saber moltes coses no és equivalent a comprendre-les ni a donar-li sentit.

Per això, es proposa recuperar el valor del silenci, l’estudi, la lectura i l’anàlisi. Educar en la IA no significa només ensenyar a utilitzar-la, sinó també a prescindir-ne quan cal, i a reconèixer-ne els límits i les manipulacions. Un altre aspecte especialment preocupant és l’aplicació de la IA en l’àmbit militar. El desenvolupament de les armes autònomes pot fer que la guerra sigui més fàcil i menys sotmesa al control humà, contravenint el principi que l’ús de la força ha de ser sempre l’últim recurs. La tecnologia ha d’estar subjecta a restriccions ètiques i a un rigorós respecte de la dignitat humana. Sense aquests límits, la cursa armamentística podria incrementar el risc de conflictes i de violència massiva.

El text conclou amb una poderosa imatge bíblica que sintetitza el dilema actual. La humanitat, en l’era de la IA, es troba davant una elecció: construir una nova Torre de Babel o emprendre una obra col·lectiva com la reconstrucció de les muralles de Jerusalem en temps de Nehemies. Babel simbolitza el projecte basat en el poder, l’orgull i la desconnexió entre tecnologia i humanitat: una construcció grandiosa però deshumanitzada. Jerusalem, en canvi, representa una tasca compartida, pacient i orientada al bé comú, en què cada persona contribueix a fer el món més habitable.

Aquesta elecció no és abstracta ni futura: es concreta en les decisions que es prenen avui en laboratoris, empreses, escoles i institucions. La IA fa la vida més humana i més digna? La resposta dependrà, en última instància, de la capacitat de subordinar el poder tecnològic a una visió de la persona centrada en la dignitat, la llibertat i la veritat. Només així la revolució digital podrà esdevenir una oportunitat per al progrés humà i no una nova forma de dominació.