Zo werkt het geheugen van een AI-assistent

Waarom vergeet een AI-assistent wat ik zei?

Een AI-model onthoudt niets tussen twee gesprekken. Het voorspelt tekst op basis van wat op dat moment in beeld staat, en niets meer. Sluit je het gesprek af, dan is die inhoud voor het model weg.

Wat een assistent lijkt te onthouden, is dus meestal geschreven tekst. Het programma bewaart notities en plakt die bij de volgende start vooraan in het gesprek. Het model leest ze als een briefje dat een collega voor je neerlegde.

Daarom vergeet ChatGPT of Claude soms iets wat je eerder uitlegde. Misschien stond het niet in de notities, of paste het niet in de ruimte die het model per keer kan lezen. Die ruimte heet de context, en ze is beperkt.

Wat staat er in het geheugen van een AI-assistent?

Meestal zijn het gewone tekstnotities: je voorkeuren, afspraken en wat je al hebt geprobeerd. Denk aan een nieuwe collega die een map met uitleg krijgt. Hoe beter die map, hoe sneller hij aan de slag kan.

Het schrijven van die notities gebeurt vaak vanzelf, bijvoorbeeld aan het einde van een gesprek. Het bekendste probleem is dat notities bij één programma of één computer horen. Wissel je van assistent, dan begin je weer met een lege map.

Ook kunnen te oude of dubbele notities ruis geven. Een tool als ai-memory, een project met ruim 10.600 sterren op GitHub, probeert dit op te lossen door notities te delen tussen programma's. Volgens de maker laat het oude notities langzaam vervagen zonder ze te wissen.

Wat kan ik zelf doen aan een vergeetachtige AI?

Schrijf op wat een nieuw gesprek moet weten. Zet de belangrijkste afspraken, mislukte pogingen en open vragen in een kort bericht. Plak dat aan het begin, of vraag de assistent om zo'n samenvatting voordat je stopt.

Houd het kort en actueel. Een lange, verouderde notitie kost ruimte en kan de assistent op een dwaalspoor zetten. Lees ook na wat je assistent over je bewaart, want fouten in notities neemt hij in het volgende gesprek klakkeloos over.

Gebruik je meerdere assistenten, dan kan een tool als ai-memory werk uit handen nemen. Je moet dan wel zelf een server beheren, dus begin klein. Probeer het eerst op één project en kijk of het bij je werk past.