AI Nieuws Vandaag
Chatbots kiezen bijna altijd 7 omdat mensen dat ook doen
Vraag je ChatGPT of Claude om een willekeurig getal van 1 tot 10, dan antwoorden ze bijna altijd 7. Volgens wiskundeprofessor Ann Dooms komt dat doordat mensen zelf het vaakst 7 kiezen en chatbots dat nadoen. Je kunt het model wel vragen een rekenmethode voor willekeur te gebruiken.
Waarom het ertoe doet: Vraag een chatbot dus niet om lottocijfers of een wachtwoord, want echte willekeur krijg je zo niet.
Een taalmodel is het AI-model achter een chatbot. Het voorspelt telkens het volgende woord, op basis van enorme hoeveelheden tekst van het internet.
Waarom kiest ChatGPT bijna altijd het getal 7?
Een taalmodel is getraind op ongeveer alle teksten die op internet staan, zegt Ann Dooms in de Radio 1-podcast 'Het uur van de waarheid'. Het voorspelt daarna een volgend woord, afhankelijk van jouw vraag. Mensen kiezen bij zo'n vraag vooral 7, dus het model doet dat ook.
Dooms legt uit hoe mensen redeneren. De eindpunten 1 en 10 vinden de meesten flauw. Even getallen zijn te mooi, 5 ligt te veel in het midden en 3 is vaak wat klein. Dan blijft 7 over.
"Mensen proberen niet verdacht te lijken, maar eigenlijk zijn we als mens heel erg slecht in het imiteren van niet-verdacht gedrag", zegt Dooms. Lang niet iedereen kiest 7. Maar volgens haar zit bij mensen de grootste piek daar, en die kopiëren chatbots.
Kunnen chatbots wel rekenen met willekeur?
Slecht in wiskunde zijn ze volgens Dooms niet. Een taalmodel zou prima een rekenmethode voor willekeur kunnen gebruiken. Zo'n methode heet een algoritme: een vast stappenplan dat willekeur nabootst.
Je moet het model daar wel toe aanzetten. "Je mag er niet vanuit gaan dat die het meest optimale antwoord gaat aanleveren of op de achtergrond gaat zitten rekenen. Maar je kan dat uiteraard wel vragen." AI-agenten, programma's die zelfstandig acties uitvoeren, doen dit volgens Dooms al automatisch.
Ook dan krijg je geen echte willekeur, maar een nabootsing. De lotto is echte willekeur, zegt Dooms: "De balletjes die ronddraaien en eruit komen: dat is écht iets wat we niet kunnen voorspellen." Lottocijfers vragen aan Claude heeft dus geen zin.
Waarom is echte willekeur belangrijk voor je wachtwoord?
Willekeur is volgens Dooms van groot belang bij versleuteling. Daarmee kunnen anderen niet meelezen als jij met iemand communiceert. Een voorspelbare sleutel is makkelijker te kraken dan een willekeurige.
Ze noemt ook betalen met een QR-code via Payconiq. Dat moet geheim gebeuren, anders zou een hacker het rekeningnummer kunnen veranderen. Een te eenvoudig wachtwoord kan geraden worden.
Vraag een chatbot dus niet om een wachtwoord. VRT NWS schrijft dat je dat beter overlaat aan een wachtwoordmanager, een app die daarin gespecialiseerd is. Wil je toch een willekeurig getal van een chatbot, vraag dan uitdrukkelijk om een rekenmethode voor willekeur.
Gemeld door 1 bron: VRT NWS
Lees de bron (naar de bron)Klopt er iets niet?
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.
