Zo controleert een tweede AI het werk van de eerste
Een tweede AI als controleur is een AI die opnieuw begint en probeert de bevindingen van de eerste AI te ontkrachten. Dat speelt nu omdat AI-agents steeds zelfstandiger werken en fouten dan makkelijk blijven staan.
Wat heb je eraan: Je weet zo beter hoeveel je kunt vertrouwen op wat een AI-agent als resultaat meldt.
Denk aan een proefwerk dat een andere docent nakijkt in plaats van de docent die het gaf. Die ziet fouten eerder, omdat hij het antwoord niet al in zijn hoofd heeft.
Waarom werkt een tweede AI als controleur beter?
Wie een mail schrijft, leest zijn eigen tikfouten er vaak overheen. Hij weet immers wat er moet staan. Een AI heeft hetzelfde probleem: als hij zijn eigen werk nakijkt, neemt hij zijn eerdere aannames mee.
Een tweede AI begint daarom opnieuw, zonder het denkwerk van de eerste. Hij krijgt alleen de bewering en de vraag of die klopt. Daardoor let hij op wat niet klopt en niet op wat al af lijkt.
Het gaat dus niet om een slimmer model, maar om een andere startpositie. Net zoals een docent een proefwerk van een collega nakijkt, kijkt de tweede AI met frisse ogen.
Hoe probeert een controleur-AI een bevinding te ontkrachten?
De controleur krijgt de opdracht om de bevinding te weerleggen. Hij zoekt dus naar bewijs dat het anders zit. Vindt hij dat niet, dan wint de bevinding aan geloofwaardigheid.
Een voorbeeld is de beveiligingsskill die Cloudflare op GitHub deelt. Elk vermoeden van een lek gaat naar een verse agent die het wil weerleggen. Later toetst een tweede reeks nieuwe agents de uitkomsten nog eens aan de broncode.
Ook de uitkomst is voorzichtig. Een bevinding is bevestigd, afgewezen of nog te controleren. Die laatste categorie laat zien dat een controleur ook mag zeggen: dit weet ik niet zeker.
Wat kun je met een controleur-AI in je eigen werk?
Je kunt het principe ook zelf gebruiken. Laat ChatGPT of Claude een tekst of berekening maken. Open daarna een nieuw gesprek en vraag een andere AI om fouten te zoeken, zonder de eerste uitleg erbij.
Formuleer je prompt scherp: vraag om argumenten waarom het antwoord fout kan zijn. Een vraag als "klopt dit?" nodigt uit tot instemmen. Een opdracht om te weerleggen geeft meer kans op echte kritiek.
Reken er niet op dat twee AI's samen onfeilbaar zijn. Ze kunnen dezelfde denkfout maken. Bij belangrijke zaken blijft een mens die het resultaat nakijkt de laatste controle.
Cloudflare deelt skill die AI beveiligingslekken laat zoeken
Gemeld door 1 bron: cloudflare/security-audit-skill op GitHub (via GitHub trending, 67.110 sterren)
Lees de bron (naar de bron)Klopt er iets niet?
Onderwerpen: AI-agentsAI-beveiliging
Elke ochtend het AI-nieuws in je mail
Om 07:00 de belangrijkste berichten, in gewone taal. Gratis, en afmelden kan altijd met één klik. Je meldt je aan bij Buttondown, de dienst die de nieuwsbrief voor ons verstuurt.
Lees ook
- Cloudflare deelt skill die AI beveiligingslekken laat zoeken
- Willison verbergt lange AI-teksten achter een korte menselijke intro
- Zo maak je een lange tekst inklapbaar op GitHub
- Gebruiker laat Claude Code elk uur zijn eigen notities nalopen
- Onderzoekers vinden 800 openbare kopieën van Chinese AI-hacktool Artex