LLM-tool kiest standaard een model dat half zo duur is
LLM versie 0.37 gebruikt standaard het model gpt-6-luna, dat de helft kost van de vorige standaard gpt-5.6-luna. Er zijn twee modellen bij, gpt-6.1-sol en gpt-6.1-terra, plus een nieuwe opdracht om extra modellen toe te voegen die op dezelfde manier werken als die van OpenAI.
Wat heb je eraan: Wie de tool gebruikt en geen eigen standaardmodel koos, betaalt zonder iets te doen minder per vraag.
LLM is een gereedschap van programmeur Simon Willison waarmee je AI-modellen aanstuurt vanuit de terminal, het tekstvenster waarin je opdrachten typt. Het project heeft bijna 12.700 sterren op GitHub en deze versie bundelt het werk van ongeveer twee maanden.
Wat verandert er in LLM 0.37?
Wie LLM start zonder eigen keuze, krijgt nu gpt-6-luna. Dat model kost de helft van gpt-5.6-luna, de vorige standaard. Het gaat alleen om mensen die zelf geen standaardmodel hebben ingesteld.
Simon Willison, de maker, voegde ook gpt-6.1-sol en gpt-6.1-terra toe. Het zijn twee extra modellen van OpenAI die je direct kunt kiezen. Willison schrijft dat de release ongeveer twee maanden aan werk bundelt.
Er is ook een nieuwe opdracht: llm openai endpoint add. Daarmee stel je makkelijker extra modellen in die op dezelfde manier werken als die van OpenAI. Zo'n aanspreekpunt heet een endpoint: het internetadres waar de tool het model bereikt.
Wat kan LLM nu met embeddings?
Embeddings zijn rijtjes getallen die de betekenis van een tekst of afbeelding vastleggen. Daarmee kun je bijvoorbeeld vergelijkbare documenten zoeken. LLM accepteert nu dat verschillende soorten bestanden een eigen inhoudstype hebben.
Dat is nodig voor modellen als Gemini Embedding 2. Dat model van Google kan tekst, geluid, beelden en video omzetten. Eerder moest alles in één vorm passen.
Het project heeft bijna 12.700 sterren op GitHub, een teken dat veel programmeurs het volgen. Dat maakt de tool bekend genoeg om te proberen.
Hoe ga je met LLM 0.37 aan de slag?
Werk je al met LLM, dan hoef je niets te doen. Heb je nooit een standaardmodel gekozen, dan gebruikt de tool voortaan het goedkopere gpt-6-luna. Wil je iets anders, dan stel je zelf een standaard in.
Opvallend is Willisons kijk op hulp van AI. Hij zegt dat de release fixes van 12 auteurs bevat, bijna allemaal met AI gemaakt. Het nakijken viel volgens hem mee: hij ziet ze als "bug reports with attached examples", dus als foutmeldingen met voorbeeld.
Zelf laat hij Opus 5.5 of GPT-6 Astra helpen om de nuttigste fixes te vinden. Soms neemt hij een fix over, soms maakt hij zelf een oplossing. Wie de tool wil updaten, kan dat doen met de gebruikelijke methode waarmee hij LLM installeerde.
Gemeld door 1 bron: Simon Willison (12.695 sterren op GitHub)
Lees de bron (naar de bron)Klopt er iets niet?
Onderwerpen: LLM-tool
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.