Waarom mensen soms meelezen met je AI-gesprek

Wat is menselijke controle bij een AI-assistent?

Stel, je typt een vraag in ChatGPT of Claude en krijgt een antwoord. Dat antwoord komt van een model, maar soms leest later ook een mens mee. Dat heet menselijke controle.

Het gaat om medewerkers of ingehuurde krachten van een AI-bedrijf. Zij lezen echte gesprekken of bestanden en beoordelen of de AI het goed deed. Zo'n beoordelaar kijkt dus naar het antwoord en naar wat jij erin stopte.

Denk aan een callcenter dat zegt: dit gesprek wordt opgenomen voor kwaliteit. Je vergeet dat bijna meteen, maar later luistert iemand mee. Bij AI is dat een lezer in plaats van een luisteraar.

Waarom laten AI-bedrijven mensen meelezen?

Een AI-model leert van heel veel voorbeelden, maar weet zelf niet of een antwoord klopt. Een mens kan dat wel zien. Daardoor kunnen bedrijven fouten opsporen en het model verbeteren.

Beoordelaars letten ook op andere dingen. Gaf de AI een onzinnig antwoord, begreep hij de vraag verkeerd, of ging er iets mis met een bestand? Dit werk is voor bedrijven een manier om te meten hoe goed hun product is.

Bedrijven zeggen vaak dat ze gegevens eerst proberen te anonimiseren. Dat betekent dat ze namen en nummers weghalen. Dat lukt niet altijd, want persoonlijke gegevens zitten ook verstopt in gewone zinnen.

Wat betekent menselijke controle voor jouw gesprekken?

Het speelt extra nu AI-assistenten aan je mail en bestanden gekoppeld worden. Dan kan een beoordelaar niet alleen jouw vraag meelezen, maar ook een stuk uit je inbox. Een gebruiker beweert op GitHub dat dit bij Gemini gebeurt, al is dat niet door Google bevestigd in de bronnen.

Kijk daarom wat je koppelt voordat je het doet. Bewaar je contracten, rekeningen of medische post in je mail, denk dan na of die koppeling nodig is. Een assistent die minder ziet, kan ook minder laten lezen.

Zoek in de instellingen en in het privacybeleid van je AI-assistent naar woorden als beoordelaars, menselijke controle of verbeteren van het model. Vaak kun je dit beperken of uitzetten. Typ verder niets in een chat wat je liever niet door een vreemde laat lezen.