Waarom chatbots nepnieuws uit slechte bronnen kunnen overnemen

Hoe kiest een chatbot zijn bronnen?

Een chatbot is getraind op enorme hoeveelheden tekst en voorspelt woord voor woord wat er logisch volgt. Daardoor weet hij veel, maar hij controleert niet van elke tekst of die klopt. Hij leest een artikel zoals het er staat.

Veel chatbots zoeken ook live op internet, net als jij met een zoekmachine. Ze pakken de pagina's die goed bij je vraag passen en vatten die samen. Een pagina kan dus in je antwoord belanden, alleen omdat hij over het onderwerp gaat.

Een chatbot let dus vooral op of een tekst past, en minder op wie hem schreef en waarom. Een nette site met rustige taal ziet er voor een model net zo betrouwbaar uit als een echte krant. Dat is het zwakke punt.

Waarom helpt veel tekst een nepsite om gevonden te worden?

Wie veel artikelen over één onderwerp schrijft, vergroot de kans dat een zoekende chatbot er een tegenkomt. Neem een leerling die drie van de vijf gevonden pagina's gebruikt voor zijn spreekbeurt. Komen die drie van dezelfde afzender, dan lijkt zijn standpunt gewoon de waarheid.

AI maakt dit goedkoper, omdat een model in korte tijd honderden teksten schrijft. Daardoor kost het weinig moeite om een hele site te vullen die op een nieuwssite lijkt. Het trucje bestaat al langer, maar gaat nu veel sneller.

Het nieuws is hier een voorbeeld van. In de Verenigde Staten doen sites zich voor als lokale krant, terwijl politieke groepen ze betalen. Hun artikelen komen zo in de bronnen van chatbots terecht.

Hoe controleer je het antwoord van een chatbot?

Vraag bij nieuws of politiek altijd om bronnen, en klik ze open. Een chatbot toont vaak links onder het antwoord. Kijk of je de site kent en of er een echte redactie achter zit.

Zoek op wie de site betaalt. Een site die zich onafhankelijk noemt, is dat nog niet. Prijst hij steeds één kant en bekritiseert hij de andere, dan is dat een waarschuwing.

Controleer een opvallend bericht ook bij een nieuwsorganisatie die je kent. Je kunt de chatbot ook vragen om bronnen van verschillende kanten. Zo gebruik je hem als startpunt en niet als eindoordeel.