AI Nieuws Vandaag
Revolut verlaagt kosten van AI-programmeren met 90 procent
Revolut zegt dat het in minder dan een jaar de kosten van AI-hulp bij programmeren met ongeveer 90 procent verlaagde. Het bedrijf draait nu zelf het Chinese model GLM van Z.ai in plaats van vooral Claude Code te gebruiken. Dat vertelde een manager van Revolut op een congres in New York, volgens The Register.
Wat heb je eraan: Goedkope tokens laten mensen AI vaker inzetten, bijvoorbeeld voor het zoeken naar fouten, en dat leverde Revolut volgens de manager de meeste winst op.
Revolut is een Britse fintech, een bedrijf dat bankieren via een app aanbiedt. Programmeurs gebruiken AI-hulp zoals Claude Code, en het bedrijf betaalt daarvoor per token, een stukje tekst dat het model leest of schrijft.
Hoe bespaart Revolut zoveel op AI-programmeren?
Revolut zet de AI-modellen nu zelf op eigen servers. Het gaat om GLM, een model van het Chinese bedrijf Z.ai dat open weights is: de bouwstenen van het model zijn te downloaden en zelf te draaien. Voor de rekenkracht gebruikt Revolut 56 videokaarten van Nvidia.
Het bedrijf begon begin 2025 met Gemini en begin 2026 met Claude Code. Maar de rekening liep op. David Abitbol, die bij Revolut over operaties en infrastructuur gaat, zei: "We zagen ingenieurs 1.000 dollar per maand uitgeven, 10.000 dollar per maand, met niet zoveel rendement."
Daarom kregen medewerkers eerst strikte budgetten, en dus weinig tokens. Zelf draaien met GLM 5.1 kostte 0,30 dollar per miljoen tokens. Dat is ongeveer een tiende van wat OpenAI's Codex of Anthropics Claude Code kost, schrijft The Register.
Wat doen de programmeurs van Revolut met goedkope tokens?
Volgens Abitbol zat het grootste knelpunt niet in het schrijven van code. De winst kwam van AI-taken eromheen, zoals fouten zoeken en tickets afhandelen in Jira en Confluence, programma's om werk te beheren. "Als je onbeperkt tokens hebt, ben je vrij om dat te doen."
Na de uitrol bij ongeveer 2.000 ingenieurs zag Revolut volgens Abitbol 60 procent verbetering in codeertijd en 70 procent in doorlooptijd. Dat zijn cijfers van het bedrijf zelf. De rekening is bovendien vast, zei hij: "We hebben geen verrassing aan het eind van de maand."
Ook de snelheid hoefde niet extreem te zijn. Een antwoord moet binnen 3 seconden beginnen, anders "loopt mijn Slack-inbox vol", zei Abitbol. Verder volstaat 200 tokens per seconde, want mensen laten taken naast elkaar draaien en kijken pas als ze klaar zijn.
Heeft Revolut Claude en Gemini helemaal losgelaten?
Nee. GLM kan alleen met tekst werken, dus het past niet goed bij werk aan schermontwerpen. Een router, een schakelaar die vragen doorstuurt, stuurt zulke vragen naar modellen als Gemini of GPT Luna. De code zelf blijft op GLM draaien.
Abitbol waarschuwde ook voor een groot contextvenster, het geheugen dat een model tegelijk kan lezen. "Lange context is oplichterij", zei hij. Een miljoen tokens kan, maar 256.000 is volgens hem echt nodig.
Wat kun je hiervan meenemen? Zit je bedrijf op een vast tokenbudget, kijk dan of dat bepaalt waar mensen AI voor gebruiken. Volgens Abitbol levert ruimte om te experimenteren de meeste winst op.
Gemeld door 1 bron: The Register (via Techmeme)
Lees de bron (naar de bron)Klopt er iets niet?
Onderwerpen: Open modellenTokens
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.
