Een adviseur werkt al maanden met dezelfde assistent. Hij hoeft niet meer uit te leggen wat zijn werk is, in welke sector zijn klanten zitten of hoe hij zijn rapporten opbouwt. Dat is precies de bedoeling en het werkt prettig.
Op een dag komt er in een gesprek over een heel andere klant een detail bovendrijven dat hij drie maanden geleden over de eerste klant had verteld. Niemand heeft iets fout gedaan. De knop stond gewoon aan.
Geheugen is iets anders dan het gesprek
Eerst het onderscheid, want hier gaat het vaakst mis in beoordelingen.
Het context window is de werkruimte van één gesprek. Als het gesprek eindigt, is die ruimte leeg. Wat daar stond, staat nog wel in je gespreksgeschiedenis, maar het model neemt het niet mee naar een volgend gesprek.
Geheugen is een aparte voorziening. De assistent haalt uit gesprekken feiten die de moeite waard lijken en slaat die op als losse notities: je functie, je voorkeuren, waar je aan werkt, hoe je aangesproken wilt worden. Bij een nieuw gesprek worden die notities meegestuurd.
Dat zijn twee verschillende systemen met twee verschillende bewaartermijnen en twee verschillende knoppen.
Drie eigenaren van diezelfde knop
De gebruiker. Op consumentenaccounts beheer je het zelf. Bij de grote assistenten kun je een overzicht openen met wat er is onthouden, en daar dingen uit verwijderen. Standaard staat geheugen meestal aan.
De beheerder. In zakelijke omgevingen verschuift de knop. De organisatie kan geheugen uitzetten voor iedereen, aanzetten voor iedereen, of per groep instellen. Dat is een van de instellingen die bij een uitrol vaak op de standaard blijft staan, omdat niemand hem heeft opgezocht.
De leverancier. Dit is de derde en de minst zichtbare. Bij assistenten die in je werkomgeving zijn ingebouwd, wordt er automatisch context opgehaald: je recente documenten, je agenda, de mail waar je in zit. Dat is technisch geen geheugen, want er wordt niets opgeslagen als notitie, en het voelt voor de gebruiker precies hetzelfde. De assistent weet dingen die je niet hebt verteld. Zie hoe AI-tools bij bestanden komen die je nooit hebt geüpload.
Waarom dit meer is dan een instelling
Drie gevolgen die in de praktijk opduiken.
Onjuistheden worden herhaald. Als de assistent een verkeerde aanname heeft opgeslagen (een rol die je niet hebt, een klant die je niet meer bedient), dan komt die in elk gesprek terug en wordt hij behandeld als een gegeven. Dat is lastiger te merken dan een losse fout, want er staat geen bron bij.
Er belanden gegevens van derden in. Geheugen is bedoeld voor feiten over jou. In de praktijk onthoudt het ook wat je vaak noemt, en dat zijn klantnamen, dossiers en zaken. Dat is een verwerking van persoonsgegevens van iemand die er niet bij was.
Context lekt tussen contexten. Wat je in de ene rol vertelt, kan opduiken in een gesprek in een andere rol. Voor een adviseur met meerdere klanten is dat geen theoretisch bezwaar.
Wat je concreet doet
Voor een organisatie:
- Zet de geheugeninstelling bewust, in plaats van hem op de standaard te laten. Beide keuzes zijn verdedigbaar; niet kiezen is dat niet.
- Neem geheugen mee in je DPIA als aparte verwerking, met een eigen doel en bewaartermijn.
- Leg uit wat er gebeurt. Medewerkers die weten dat er iets wordt onthouden, gaan er anders mee om.
Voor jezelf, als het aanstaat:
Kijk één keer per maand het overzicht na. Niet omdat er iets ergs in staat, maar omdat je dan ziet wat de assistent denkt te weten. Dat is meestal een verhelderend lijstje, en het is de enige manier om een verkeerde aanname eruit te halen voordat hij vijftig keer wordt herhaald.
Hoe het onthouden per tool technisch werkt en hoe je het per aanbieder beheert, staat in onthoudt AI wat je typt.
De vraag is dus niet of een assistent iets onthoudt, want dat doet hij, maar wie de knop bezit en of iemand er ooit naar heeft gekeken. In de meeste organisaties is dat laatste nog niet gebeurd. Dan begin je daar.
