Quan decideix la màquina, respon l’empresa

Cada vegada més decisions dins l’empresa es prenen en silenci. Sense reunions, sense trucades, sense debat. Simplement passen.

Un sistema selecciona candidats. Un algoritme ajusta preus. Una eina analitza comportaments i suggereix el següent pas. Tot és més ràpid, més àgil, més eficient. I, en molts casos, també més encertat.

Així és com se’ns presenta la incorporació de la intel·ligència artificial: una evolució natural de la manera de treballar.

I, en bona part, ho és.

Però hi ha una línia subtil que sovint queda fora del focus. El moment en què la decisió deixa de ser estrictament humana i passa a estar condicionada —o directament determinada— per un sistema automatitzat.

Perquè en aquest punt no només canvia la manera de decidir. També canvia la manera d’assumir què passa després.

I és aquí on apareix una pregunta incòmoda, d’aquelles que no sempre es fan a temps: què passa quan la màquina s’equivoca?

En el dia a dia de moltes pimes, aquestes eines s’incorporen sense grans escarafalls. Es contracta un software, s’integra en els processos, es posa en marxa. Funciona. I es confia.

Però el fet que una decisió sigui automatitzada no la fa neutra. Ni tampoc dilueix la responsabilitat.

Si un sistema descarta candidatures amb criteris que acaben sent discriminatoris, si fixa preus de manera errònia o si pren decisions que perjudiquen un client, la tecnologia no respon. Qui respon és l’empresa que l’ha adoptada.

Encara que no en conegui tots els detalls.

La normativa europea comença a dibuixar els límits d’aquest escenari, però la realitat va sovint un pas per davant. Les empreses ja utilitzen eines que no sempre entenen del tot. I això, més que un problema tècnic, és un desafiament de responsabilitat.

Perquè delegar no és desaparèixer.

Incorporar tecnologia no vol dir desentendre’s del resultat. Vol dir, precisament, assumir un tipus de control diferent: supervisar, preguntar, entendre què hi ha darrere de cada decisió automatitzada.

Potser no cal saber com funciona cada línia de codi. Però sí tenir clar què pot implicar.

En un entorn cada vegada més automatitzat, el paper de l’empresa no és només decidir. És garantir que, decideixi qui decideixi, es fa dins d’uns límits raonables.

La tecnologia pot ajudar a prendre millors decisions. Pot reduir errors, optimitzar processos, obrir oportunitats.

Però hi ha una cosa que no canvia.

Quan alguna cosa no va com havia d’anar, la resposta no la dona la màquina.

La dona, inevitablement, l’empresa.