Een adviseur werkt al maanden met dezelfde assistent. Hij hoeft niet meer uit te leggen wat zijn werk is, in welke sector zijn klanten zitten of hoe hij zijn rapporten opbouwt. Dat is precies de bedoeling en het werkt prettig.
Op een dag komt er in een gesprek over een heel andere klant een detail bovendrijven dat hij drie maanden geleden over de eerste klant had verteld. Niemand heeft iets fout gedaan. De knop stond gewoon aan.
Geheugen is iets anders dan het gesprek
Eerst het onderscheid, want daar gaan beoordelingen het vaakst mis.
Het context window is de werkruimte van één gesprek. Als het gesprek eindigt, is die ruimte leeg. Wat daar stond, staat nog wel in je gespreksgeschiedenis, maar het model neemt het niet mee naar een volgend gesprek.
Geheugen is een aparte voorziening. De assistent haalt uit gesprekken feiten die de moeite waard lijken en slaat die op als losse notities: je functie, je voorkeuren, waar je aan werkt, hoe je aangesproken wilt worden. Bij een nieuw gesprek worden die notities meegestuurd.
Twee systemen dus, elk met een eigen bewaartermijn en een eigen knop.
Drie eigenaren van dezelfde knop
De gebruiker. Op consumentenaccounts beheer je het zelf. Bij de grote assistenten kun je een overzicht openen met wat er is onthouden, en daar dingen uit verwijderen. Standaard staat geheugen meestal aan.
De beheerder. In zakelijke omgevingen verschuift de knop. De organisatie kan geheugen voor iedereen uitzetten, voor iedereen aanzetten of per groep instellen. Het is een van die instellingen die bij een uitrol op de standaard blijven staan, omdat niemand ernaar heeft gezocht.
De leverancier. De derde eigenaar, en de minst zichtbare. Assistenten die in je werkomgeving zijn ingebouwd, halen automatisch context op: je recente documenten, je agenda, de mail waar je in zit. Technisch is dat geen geheugen, want er wordt niets als notitie opgeslagen, maar voor de gebruiker voelt het precies hetzelfde. De assistent weet dingen die je hem nooit hebt verteld. Zie hoe AI-tools bij bestanden komen die je nooit hebt geüpload.
Waarom dit meer is dan een instelling
Drie gevolgen die in de praktijk opduiken.
Onjuistheden worden herhaald. Als de assistent een verkeerde aanname heeft opgeslagen (een rol die je niet hebt, een klant die je niet meer bedient), dan komt die in elk gesprek terug en wordt die als een gegeven behandeld. Dat is lastiger te merken dan een losse fout, want er staat geen bron bij.
Er belanden gegevens van derden in. Geheugen is bedoeld voor feiten over jou. In de praktijk onthoudt het ook wat je vaak noemt, en dat zijn klantnamen, dossiers en zaken. Dat is een verwerking van persoonsgegevens van iemand die er niet bij was.
Rollen lopen door elkaar. Wat je in de ene rol vertelt, kan opduiken in een gesprek in een andere. Voor een adviseur met meerdere klanten is dat geen theoretisch bezwaar.
Wat je concreet doet
Voor een organisatie:
- Kies de geheugeninstelling bewust, in plaats van die op de standaard te laten staan. Beide keuzes zijn verdedigbaar; niet kiezen is dat niet.
- Neem geheugen mee in je DPIA als aparte verwerking, met een eigen doel en bewaartermijn.
- Leg uit wat er gebeurt. Medewerkers die weten dat er iets wordt onthouden, gaan er anders mee om.
Voor jezelf, als het aanstaat:
Kijk één keer per maand het overzicht na. Niet omdat er iets ergs in staat, maar omdat je dan ziet wat de assistent denkt te weten. Dat is meestal een verhelderend lijstje, en het is de enige manier om een verkeerde aanname eruit te halen voordat hij vijftig keer wordt herhaald.
Hoe het onthouden per tool technisch werkt en hoe je het per aanbieder beheert, lees je in onze uitleg over wat AI onthoudt van wat je typt.
De vraag is dus niet of een assistent iets onthoudt, want dat doet hij, maar wie aan de knop zit en of iemand er ooit naar heeft gekeken. In de meeste organisaties is dat laatste nog niet gebeurd. Daar begin je dus.
