Vai al contenuto
LIVE
CYBERSECURITY & AI

Revolut riduce di dieci volte i costi dell’AI per il codice con GLM-5.3 self-hosted

La fintech britannica Revolut ha tagliato di circa il 90% i costi di inferenza per l'AI di coding, usando come predefinito il modello open-weight GLM-5.3 ospitato in proprio al posto di servizi come Claude.

CY CyberNexus
04.11.2026 · 3 min di lettura
Revolut riduce di dieci volte i costi dell'AI per il codice con GLM-5.3 self-hosted
Foto: theregister
  • Revolut ha tagliato di circa il 90% i costi di inferenza per l'AI di coding
  • Modello predefinito: GLM-5.3 di Z.ai, self-hosted su 56 GPU Nvidia B200
  • Usato da circa 2.000 ingegneri; coding time -60%, lead time -70%
  • Rischi privacy legati soprattutto alle API ospitate in Cina, secondo Revolut

Revolut ha ridotto di circa il 90% i costi di inferenza per l’AI di coding in meno di un anno. Il motivo è la scelta di rendere predefiniti i modelli self-hosted, invece di affidarsi soprattutto a servizi commerciali come Claude. Lo ha raccontato David Abitbol, responsabile operations e infrastruttura della fintech britannica, alla conferenza AI Engineer di New York.

Dai budget rigidi al self-hosting

Revolut aveva sperimentato Gemini all’inizio del 2025 e Claude Code all’inizio del 2026. Secondo Abitbol, l’azienda era scettica sui costi: alcuni ingegneri arrivavano a spendere 1.000 o 10.000 dollari al mese, con un ritorno limitato. Per questo gli strumenti sono stati introdotti con limiti di budget severi e un numero ristretto di token per sviluppatore.

Da qui la decisione di ospitare modelli in proprio. A 0,30 dollari per milione di token in input/output, GLM-5.1 costava circa un decimo rispetto a Codex di OpenAI o Claude Code di Anthropic. Revolut è poi passata a GLM-5.3, sviluppato dalla cinese Z.ai e distribuito come modello open-weight.

I risultati dichiarati

Dopo l’estensione degli strumenti a circa 2.000 ingegneri, Revolut indica un miglioramento del 60% nei tempi di coding e del 70% nel lead time. Secondo Abitbol, il collo di bottiglia non era però il codice. I vantaggi maggiori sono arrivati dall’affidare ai modelli attività come il debugging e la gestione dei ticket su Jira e Confluence. Con token a basso costo, ha spiegato, non serve più risparmiarli per la fine del trimestre o per i compiti più difficili.

L’infrastruttura

GLM-5.1 ha circa 754 miliardi di parametri totali, 40 miliardi dei quali attivati per ogni token generato. Servono circa 380 GB di memoria GPU solo per i pesi, più 6-26 GB per utente per il contesto, a seconda della precisione. Per servire GLM-5.3 Revolut usa 56 GPU Nvidia B200, pari a sette sistemi DGX B200 da otto GPU.

Secondo Abitbol, i guadagni maggiori non sono venuti dall’aggiunta di GPU. Sono arrivati da:

  • messa a punto degli iperparametri del modello;
  • quantizzazione NVFP4;
  • prefill e decode disaccoppiati (disaggregated);
  • regolazione della lunghezza del contesto.

Una finestra di contesto da un milione di token non è necessariamente utile. «Long context is a scam», ha detto Abitbol: ne bastano circa 256mila. Con questi accorgimenti il tempo al primo token è sotto i 3 secondi su contesti da circa 256.000 token, con circa 200 token al secondo in generazione. Oltre i 5 secondi, ha detto, arrivano le lamentele degli ingegneri. Dopo le 17 la velocità sale a circa 800 token al secondo.

Limiti e sicurezza

GLM non sostituisce del tutto GPT o Claude. Il modello è solo testuale e non è adatto al lavoro sulle interfacce. Revolut usa quindi un model router, che indirizza le richieste con immagini a modelli come Gemini o GPT Luna, mentre la generazione di codice resta su GLM.

Abitbol riconosce che i modelli open-weight cinesi possono porre problemi di privacy e sicurezza. A suo dire il rischio principale riguarda l’accesso tramite API ospitate in Cina. Se i modelli girano on-premise o su risorse cloud regionali, ha sostenuto, non ci sarebbe nulla di cui preoccuparsi.

Fonte: theregister · Foto: theregister

CY
SCRITTO DA CyberNexus
newsletter.sh
// OGNI SETTIMANA

Le minacce della settimana, prima che arrivino da te.

Una mail, le notizie che contano, spiegate in modo chiaro.

Zero spam. Iscrivendoti accetti l’informativa privacy.