AI Nieuws Vandaag
Waarom een open-weight model gratis kan zijn en toch bijzonder
Een open-weight model is een AI-model waarvan de bestanden openbaar zijn, zodat iedereen het zelf kan draaien. Dat speelt nu omdat Moonshot belooft de bestanden van Kimi K3.1 Pro te publiceren.
Wat heb je eraan: Je snapt hierdoor het verschil tussen een model dat je alleen online gebruikt en een model dat je zelf kunt draaien.
Denk aan een recept dat je mag meenemen naar huis, terwijl je bij een restaurant alleen het gerecht krijgt. Met de bestanden van het model kunnen anderen het zelf draaien en aanpassen.
Wat zijn de gewichten van een open-weight model?
Een AI-model is in feite een gigantisch bestand vol getallen. Die getallen heten gewichten, in het Engels weights. Ze ontstaan tijdens het trainen en bepalen hoe het model op een prompt antwoordt.
Bij ChatGPT en Claude blijven die bestanden bij het bedrijf. Jij typt een vraag, hun computers rekenen, en jij krijgt tekst terug. Je ziet dus nooit het model zelf, alleen wat het oplevert.
Bij een open-weight model zet de maker de bestanden wel online. Dat is als een kookboek dat je mag meenemen, terwijl je in een restaurant alleen het gerecht krijgt. Iedereen die er genoeg apparatuur voor heeft, kan het model dan zelf draaien.
Waarom kan een open-weight model gratis zijn?
De maker verdient niet aan elke vraag, omdat het model na het downloaden op jouw computer draait. Je betaalt dan zelf voor de stroom en de apparatuur. Voor wie veel vragen stelt, kan dat goedkoper uitpakken, maar dat hangt van je situatie af.
Gratis downloaden is niet hetzelfde als alles mogen. Bij elk model hoort een licentie, een set spelregels van de maker. Die bepaalt bijvoorbeeld of een bedrijf er geld mee mag verdienen.
Grote modellen vragen bovendien veel rekenkracht. Een gewone laptop haalt dat niet, dus draaien veel mensen zo'n model toch via een externe dienst. Gratis betekent hier vooral dat de maker geen toegangsprijs vraagt.
Wat kun je met een open-weight model doen?
Omdat de bestanden openbaar zijn, kunnen onafhankelijke onderzoekers het model zelf nameten. Ze hoeven niet te vertrouwen op wat de maker over de prestaties zegt. Het nieuws over Kimi K3.1 Pro laat zien waarom dat telt: Moonshot belooft de bestanden op 4 november vrij te geven, en dan kan iedereen de scores zelf controleren.
Bedrijven kunnen een open model ook aanpassen. Een advocatenkantoor kan het bijvoorbeeld extra leren over juridische teksten. Gevoelige dossiers hoeven dan niet naar een externe dienst.
Let wel op het woord open. Open-weight is niet hetzelfde als open source, waarbij meer openbaar is en de regels ruimer zijn. Lees dus de licentie voordat je op een model gaat bouwen.
Gemeld door 2 bronnen: VentureBeat (via Techmeme), Latent Space
Lees de bron (naar de bron)Klopt er iets niet?
Onderwerpen: Open modellen
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.
