AI Nieuws Vandaag
Mercury 3 is 4-8 keer sneller dan Haiku 5.5
Inception heeft op maandag 19 oktober Mercury 3 uitgebracht, een model dat volgens het bedrijf meer dan 1.000 tokens (tekstblokjes) per seconde maakt. Dat is volgens Inception 4 tot 8 keer sneller dan Claude Haiku 5.5 en GPT-6 Luna, met vergelijkbare kwaliteit. Bedrijven kunnen het model nu gebruiken tegen 0,10 dollar per miljoen invoertokens en 0,35 dollar per miljoen uitvoertokens, een introductieprijs met 50 procent korting.
Wat betekent dit: Als dit klopt, krijg je straks sneller antwoord van spraakassistenten, klantenservice en AI-hulp die zelf websites doorzoekt.
Inception is een bedrijf dat een andere soort taalmodel bouwt. Gewone modellen schrijven een antwoord woord voor woord, dit model werkt met diffusion en maakt stukken tekst tegelijk, zoals beeldgenerators dat al doen met plaatjes.
Hoe maakt Mercury 3 tekst zo snel?
Een gewoon taalmodel schrijft tekst stap voor stap, een tokentje na het andere. Elk blokje hangt af van de blokjes ervoor. Mercury 3 maakt en verbetert meerdere blokjes tegelijk, en gebruikt daarvoor de videokaarten (GPU's) beter.
Volgens Inception haalt het model 1.068 tokens per seconde op Nvidia-videokaarten. In de eigen vergelijking zou het beter scoren dan Claude Haiku 5.5 en GPT-6 Luna. Dat zijn cijfers van het bedrijf zelf, onafhankelijk nagekeken zijn ze niet.
Inception-topman Stefano Ermon zegt tegen The Deep View: "Het is bijna instant, zoals je antwoorden van deze modellen krijgt." Het model kan ook 1 miljoen tokens aan tekst tegelijk aan. Zijn voorganger Mercury 2.5 kon er 260.000.
Wat kan Mercury 3 in de praktijk?
Volgens Inception gebruiken testpartners Mercury 3 al voor stemassistenten, klantenservice, bijles en agents die zelf websites bezoeken. Een agent is een AI die zelfstandig stappen uitvoert. Omdat hij bij elke stap op het model wacht, tellen kleine vertragingen op.
Het leerplatform RevisionDojo meldt dat hints en nagekeken antwoorden nu in ongeveer een seconde terugkomen, zegt medeoprichter Michael Tong. Zoekbedrijf Octen AI mat een typische totale reactietijd van 2,2 seconden. Beide bedrijven zijn testpartners van Inception.
Bij een test op live websites ging het om 50 taken, waarvan Mercury 3 de helft afrondde. Dat is een kleine proef, uitgevoerd door Inception zelf. Het is dus nog geen bewijs dat het model overal even goed werkt.
Wat kost Mercury 3 en kun je het proberen?
Mercury 3 is bedoeld voor bedrijven en ontwikkelaars, niet als chatapp voor thuis. De normale prijs is 0,20 dollar per miljoen invoertokens en 0,70 dollar per miljoen uitvoertokens. Nu geldt een introductieprijs van de helft.
Hoe lang die korting duurt, zegt Inception niet. Ermon vertelt aan The Deep View dat het bedrijf werkt aan manieren om de lage prijs te houden. Dat is dus nog een plan, geen belofte.
Volgens The Deep View kosten Haiku 5.5 en GPT-6 Luna evenveel voor invoer, en is Mercury bij uitvoer 35 procent goedkoper. Zelf proberen kan als ontwikkelaar, via de aanbieding van Inception. Let bij eigen tests vooral op snelheid en op de juistheid van de antwoorden.
Gemeld door 2 bronnen: thedeepview.com (via Techmeme), inceptionlabs.ai (een onbekende site, via Hacker News, 232 punten)
Lees de bron (naar de bron)Klopt er iets niet?
Onderwerpen: Mercury 3InceptionOpen modellen
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.
