Els EUA empeny Anthropic a un veto global dels seus models d’IA més avançats

L’empresa d’intel·ligència artificial Anthropic ha anunciat aquest divendres la suspensió de l’accés als seus models més avançats, Claude Fable 5 i Mythos 5, en compliment d’una directiva del Govern dels Estats Units que restringeix el seu ús a ciutadans estrangers –tant dins com fora del país– per motius de «seguretat nacional».

A través d’un comunicat oficial, la companyia nord-americana ha explicat que l’ordre executiva no detalla els motius específics de la restricció, finalment estesa a tots els seus usuaris, tot i que dedueixen que les autoritats creuen haver descobert un mètode per eludir els límits de seguretat del programa.

«Avui rebem la directiva del govern. La carta no especificava els motius de la seva preocupació per la seguretat nacional. Entenem que el Govern creu haver descobert un mètode per eludir, o desbloquejar, Fable 5», han informat.

Anthropic denuncia falta de transparència

Anthropic ha defensat que el model ja comptava amb salvaguardes estrictes per reduir el risc d’ús indegut en tasques de ciberseguretat, i ha criticat que la Casa Blanca només els notifiqués les presumptes vulnerabilitats del sistema de manera verbal. Així mateix, des de l’empresa comandada per Dario Amodei apunten que aquestes bretxes de seguretat semblen «relativament senzilles» i són igualment perceptibles per models públics menys avançats.

«Com hem manifestat públicament, creiem que el Govern hauria de tenir la facultat de bloquejar desplegaments insegurs, mitjançant un procés legal transparent, just, clar i basat en fets tècnics. Aquesta acció no s’ajusta a aquests principis», han denunciat.

En el comunicat, Anthropic també defensa que les proves prèvies al llançament del model, que van comptar amb la participació de l’Administració nord-americana i altres institucions i empreses internacionals, van demostrar durant «milers d’hores» que les mesures de seguretat del model eren «substancialment més efectives que les de qualsevol model implementat anteriorment».

Fable i Mythos, els models més avançats

El veto governamental es produeix tot just dos dies després que Anthropic llancés Claude Fable 5 com el primer model disponible de la classe Mythos, una tecnologia d’alta capacitat distribuïda exclusivament de manera restringida per a organitzacions associades al programa Project Glasswing. Entre els noms que formen aquesta selecta llista hi figuren gegants com Apple, Google, Microsoft, Amazon Web Services (AWS), NVIDIA, Meta i Samsung.

Per evitar usos maliciosos, l’empresa havia implementat un sistema de contenció que limita de manera automàtica les respostes davant consultes sensibles sobre ciberseguretat, biologia i química. En lloc de processar informació potencialment perillosa, el sistema redirigeix de manera interna aquest tipus de sol·licituds cap a Opus, un model d’IA de menys capacitat. La mesura no va estar exempta de polèmica, ja que molts usuaris van denunciar una redirecció indiscriminada davant consultes innòcues.

Amb aquest protocol, la companyia buscava oferir assistència general en aquestes matèries, però bloquejant l’entrega de dades crítiques que es poguessin instrumentalitzar per executar ciberatacs a gran escala o desenvolupar armes biològiques.

Cal recordar que les discordances entre tots dos costats per motius similars es remunten al febrer passat, quan el Pentàgon va designar Anthropic com un «risc per a la cadena de subministrament» arran de la seva negativa per contribuir a la vigilància massiva de ciutadans i a la creació d’armes autònomes.

La premsa apunta a una delació d’Amazon

Segons ha publicat ‘The Wall Street Journal’, Amazon podria ser al darrere de les investigacions que han culminat amb la detecció de vulnerabilitats en els models d’Anthropic. Tal com recull el mitjà nord-americà, «van utilitzar una sèrie d’instruccions per aconseguir que el model d’Anthropic els donés informació sobre algunes vulnerabilitats de seguretat».

La troballa d’aquesta bretxa de seguretat s’ha produït tot just una setmana després que des d’Anthropic instessin a «alentir el desenvolupament d’aquesta tecnologia per disposar de més temps per afrontar les seves enormes implicacions». Ho van fer a través d’una publicació en el seu blog en què reconeixien que aquesta tecnologia ja participa activament en el seu propi desenvolupament, escurçant el camí cap a l’automillora recursiva (RSI, per la seva sigla en anglès).

La sortida a borsa en l’horitzó

La suspensió de Fable i Mythos es produeix a escasses setmanes de la sortida a borsa prevista tant per a Anthropic com per al seu principal competidor, OpenAI. A través de diverses rondes de finançament, la companyia de Dario Amodei ha augmentat la seva valoració fins a vorejar el bilió de dòlars, xifra que la converteix en la ‘start-up’ d’intel·ligència artificial més valuosa del món.

Malgrat no conèixer-se encara la data exacta de la seva entrada a Wall Street, les filtracions repetides per part de diversos mitjans van fer que Anthropic i OpenAI confirmessin la presentació davant la Comissió de Borsa i Valors dels Estats Units de la seva sol·licitud per a una oferta pública inicial (IPO, per la sigla en anglès), els detalls del qual són confidencials. Les projeccions apunten que aquest debut, que segueix a la recent sortida a borsa de SpaceX, es produirà durant la segona meitat d’aquest any, concretament en el tram que comprèn els mesos de setembre a novembre.