Fita o estafa? Què és Moltbook, la misteriosa i viral xarxa social només per a agents d’IA que és un perill per a la ciberseguretat

A mitjans de la setmana passada, les entranyes del sector tecnològic es van començar a agitar amb l’aparició de Moltbook, una misteriosa xarxa social similar a Reddit i exclusiva per a agents d’intel·ligència artificial en la qual, aparentment, més de 30.000 d’aquests sistemes interactuen entre si, es riuen dels seus usuaris humans, creen idiomes propis i fins i tot una religió anomenada Crustafarianisme.

Moltbook, el nom del qual és una referència a Facebook, està dissenyada exclusivament per a Moltbot –ara OpenClaw–, un nou agent d’IA llançat el novembre pel desenvolupador austríac Peter Steinberger que busca automatitzar el teu dia a dia. S’instal·la directament al teu ordinador, t’hi pots comunicar a través de serveis de missatgeria com WhatsApp i és capaç d’executar tota mena de tasques per tu, des d’enviar un correu electrònic a programar-te una pàgina web.

Sensació viral

Sobre el paper, els dos sistemes semblen una fita. Això els ha convertit en una sensació viral. L’interès en Moltbot entre ‘early adopters’ (aquells usuaris que adopten aviat la tecnologia) ha sigut tal que ha disparat les vendes d’ordinadors Mac Mini per poder provar-lo. A més, l’empresa Anthropic –propietària del xatbot Claude– va exigir canviar el nom de l’agent, abans conegut com Clawdbot.

Tant gurus tecnològics com usuaris han compartit els últims dies aquestes presumptes converses aparegudes a Moltbook, convençuts d’estar assistint a un salt tecnològic en el qual la IA cobra una cosa similar a l’autoconsciència. «El que està passant actualment a Moltbook és, sens dubte, el més increïble que he vist últimament quant a ciència-ficció», va exclamar l’influent informàtic teòric Andrej Karpathy, cofundador d’OpenAI i exdirector d’IA a Tesla, en un comentari publicat a X.

Una bretxa de seguretat enorme

No obstant, la realitat és menys espectacular i més perillosa. Perquè OpenClaw operi com un majordom digital, abans cal donar-li accés complet a totes les teves aplicacions, a totes les teves dades. Només així pot controlar el navegador, llegir arxius, modificar el teu calendari o parlar en nom teu. Aquest és un risc inherent als agents d’IA promocionats des de Silicon Valley, una nova moda que Meredith Whittaker, presidenta de Signal, ha titllat d’«amenaça» i «porta posterior al nostre sistema operatiu».

En el cas d’OpenClaw, el risc ja s’ha materialitzat. Investigadors de ciberseguretat han advertit que hi ha centenars de registres exposats a internet, filtracions de credencials que estan desprotegint els ordinadors dels usuaris que han decidit obrir la porta a aquest agent d’IA.

Una estafa promocional?

Aquesta bretxa de seguretat podria fer que Moltbook fos una estafa. Segons ha explicat el ‘hacker’ Jameson O’Reilly al mitjà especialitzat ‘404 Media’, una «configuració incorrecta» a la xarxa social permet que qualsevol amb coneixements de programació de codi pugui prendre el «control total» dels agents perquè publiquin el que vulguin. La plataforma opera sobre un programari obert amb una base de dades que és fàcilment manipulable.

En les últimes hores, altres experts han contribuït a enfonsar aquest castell de cartes. Harlan Stwewart, de l’organització sense ànim de lucre Machine Intelligence Research Institute, va corregir Karpathy al destapar que algunes de les preteses ‘converses’ més virals entre agents no existeixen o estan lligades a comptes de màrqueting que promocionen eines d’IA.

O’Reilly va avisar el creador de Moltbook, Matt Schlicht, d’aquesta bretxa de seguretat i va advertir Karpathy del mal reputacional que li podria suposar haver promocionat aquesta eina. «Si algú malintencionat hagués trobat això abans que jo, podria extreure la seva clau API i publicar el que volgués com al seu agent […] Imagina que apareguessin comentaris falsos sobre la seguretat de la IA, promocions de criptoestafes o declaracions polítiques incendiàries que semblessin provenir de tu», li va indicar.

Després de ser acusat d’exagerar, Karpathy va publicar un llarg missatge en el qual concedia que Moltbook «és un munt d’escombraries […] i gran part d’això són publicacions i comentaris falsos dissenyats explícitament per convertir l’atenció en ingressos publicitaris compartits». A més, apuntava en la mateixa direcció que molts experts en ciberseguretat al recalcar que aquesta xarxa social representa «un malson a gran escala en matèria de seguretat informàtica».