Grip op AI
Blog
AI-datalekken 8 min leestijd

Is AI veilig voor bedrijfsgegevens?

De vraag is te groot om met ja of nee te beantwoorden. Er zitten vier losse vragen in, en die hebben elk een ander antwoord. Zo knip je hem op.

Abstract zacht verloop in teal en zand
Snel antwoord

Er is geen algemeen antwoord, omdat er vier verschillende vragen in zitten. Met welk account log je in (een gratis account heeft meestal geen verwerkersovereenkomst en traint standaard mee). Wat staat er in het contract met de leverancier (en waar staat die leverancier). Wat plak je erin (het enige van de vier dat je op het moment zelf nog kunt veranderen). En wie kan er daarna nog bij (beheerders, koppelingen, de ontvanger van jouw uitvoer). Voor drie van de vier ligt het antwoord vast voordat iemand begint te typen. De vierde is de enige die dagelijks beweegt.

01

"Is AI veilig" is vier vragen tegelijk, met vier verschillende antwoorden

02

Het accounttype bepaalt meer dan de keuze van de tool

03

Het contract regelt de leverancier, niet wat jouw mensen erin zetten

04

Wat er in de prompt gaat is het enige dat op het moment zelf nog te veranderen is

05

Bij bijzondere persoonsgegevens en beroepsgeheim is het antwoord vaker gewoon nee

Een teamleider bij een installatiebedrijf plakt een offerte in ChatGPT om er een kortere versie van te maken voor de klant. Er staat een naam in, een adres, een prijsopbouw en de marge. Twee tellen werk, en een antwoord dat inderdaad beter is dan wat hij zelf had getypt. Zijn collega doet precies hetzelfde in het zakelijke account van de organisatie. Voor de een is dit een incident, voor de ander niet, en het verschil zit niet in wat ze deden.

Dat is meteen het probleem met de vraag "is AI veilig voor bedrijfsgegevens". Hij klinkt als één vraag en het zijn er vier. Ze hebben verschillende antwoorden, ze liggen bij verschillende mensen, en drie van de vier zijn al beantwoord voordat er iemand gaat typen.

Eén: met welk account log je in?

Dit is de grootste variabele, en hij gaat bijna nooit over de tool zelf. Vrijwel elke grote AI-aanbieder draait twee producten onder dezelfde naam: een consumentenversie en een zakelijke versie.

Bij de zakelijke versie traint de leverancier standaard niet op wat je invoert, ligt er een verwerkersovereenkomst, en kun je bewaartermijnen instellen. OpenAI legt dat onderscheid zelf expliciet vast voor Team, Enterprise en de API. Bij de consumentenversie geldt dat allemaal niet, en staat de trainingsinstelling meestal standaard aan.

Dezelfde medewerker, dezelfde prompt, dezelfde tool. Het enige verschil is de knop waarmee hij is ingelogd. Als je één ding regelt, regel dan dit, want het is het enige onderdeel dat je centraal kunt afdwingen.

Meer hierover in gratis versus zakelijk AI-account.

Twee: wat staat er in het contract, en waar staat de leverancier?

Een verwerkersovereenkomst regelt wat de leverancier met jouw gegevens mag. Dat is nodig, en het is niet hetzelfde als veiligheid. Drie dingen om na te lopen:

  • Bewaartermijn. Hoe lang blijven gesprekken staan, ook na verwijderen? De standaard bij de meeste diensten is dertig dagen na verwijdering, en dat is geen garantie: in de zaak van The New York Times tegen OpenAI moest het bedrijf logs bewaren die gebruikers hadden gewist, inclusief tijdelijke chats. Een bewaartermijn is een belofte tot het moment dat een rechter iets anders zegt.
  • Menselijke beoordeling. Vrijwel elke aanbieder houdt zich het recht voor om gesprekken door mensen te laten bekijken bij vermoeden van misbruik. Dat staat los van training.
  • Doorgifte. Zit de leverancier in de EU, of alleen zijn datacentrum? Een Amerikaans bedrijf met een Europees datacentrum valt nog steeds onder Amerikaanse wetgeving. Zie digitale soevereiniteit begint in het promptveld.

Drie: wat gaat er in de prompt?

Hier zit het gat. De eerste twee vragen worden beantwoord door inkoop, juridische zaken en IT, meestal één keer, meestal goed. De derde wordt honderd keer per dag beantwoord door iemand met een deadline.

En die derde is de enige die je op het moment zelf nog kunt veranderen. Het account staat vast, het contract staat vast, maar of de naam en het rekeningnummer meegaan in die offerte is een keuze die nog open is zolang de prompt niet verzonden is.

De praktische vraag is niet "mag dit", maar "heeft het model dit nodig". Een offerte laten inkorten kan zonder klantnaam. Een klacht laten herschrijven kan zonder rekeningnummer. Een sollicitatiebrief laten beoordelen kan zonder geboortedatum. Zodra je die vraag stelt, valt in de meeste gevallen de helft van de gevoelige gegevens vanzelf weg, zonder dat de taak eronder lijdt.

Vier: wie kan er daarna nog bij?

De vergeten vraag. Je gegevens staan niet alleen bij de leverancier, ze staan ook in een gesprek dat blijft bestaan.

Bij een zakelijk account kan een beheerder er in principe bij via de compliance- en exportfuncties die bij dat abonnement horen. Dat is meestal precies waarom je zo'n abonnement wilde, maar het is wel iets om te weten voordat iemand er persoonlijke dingen in typt. Zie kan een beheerder je AI-chats lezen.

Dan zijn er de koppelingen, en dat worden er steeds meer. Assistenten die in je mail zitten, in je documenten, in je projectomgeving. Elke koppeling vergroot de kring van wat de tool kan zien, en die kring wordt zelden opnieuw beoordeeld nadat hij is aangelegd.

Wanneer het antwoord gewoon nee is

Er zijn situaties waarin het opknippen niet helpt, omdat de uitkomst hoe dan ook nee is.

Bijzondere persoonsgegevens (gezondheid, etniciteit, geloof, strafrechtelijke gegevens) horen niet in een algemene AI-assistent, ook niet in een zakelijk account. Hetzelfde geldt voor gegevens die onder een beroepsgeheim of verschoningsrecht vallen: dat is geen privacyregel die je met een verwerkersovereenkomst afkoopt, maar een plicht die bij de beroepsbeoefenaar zelf ligt.

En als je de vier vragen hierboven niet kunt beantwoorden, is dat zelf het antwoord. Niet omdat het per se misgaat, maar omdat je het niet zou merken als het misging.

De eerlijke samenvatting is dus dat drie van de vier vragen over inkoop en inrichting gaan, en dat de vierde over een moment gaat. Dat moment ligt bij iemand die iets aan het afmaken is en niet aan beleid denkt. Daar is de enige zinnige interventie: laten zien wat er in de tekst staat voordat hij weg is, zodat de keuze bij die persoon blijft liggen in plaats van bij niemand.

FAQ

Veelgestelde vragen

Is ChatGPT veilig voor bedrijfsgegevens?

Dat hangt af van het account. Een zakelijk account (Team, Enterprise of de API) traint standaard niet op je invoer en kent een verwerkersovereenkomst. Een gratis of persoonlijk account werkt onder consumentenvoorwaarden, waar de trainingsinstelling standaard aanstaat en geen verwerkersovereenkomst bij hoort. Dezelfde tool, twee heel verschillende situaties.

Mag ik klantgegevens in een AI-tool zetten?

Alleen als er een geldige grondslag is, de gegevens nodig zijn voor de taak, en er een verwerkersovereenkomst met de leverancier ligt. In de praktijk is de betere vraag: heeft het model die gegevens nodig om te kunnen helpen? Meestal niet. Een klacht laten herschrijven kan zonder rekeningnummer.

Is een Europese AI-tool automatisch veiliger?

Voor de vraag naar internationale doorgifte scheelt het echt iets: een Europese leverancier zonder Amerikaanse moeder valt niet onder de CLOUD Act. Voor de vraag wat je erin plakt verandert er niets. De gegevens verlaten nog steeds je organisatie en komen bij een derde partij terecht.

Wat is het grootste risico bij AI en bedrijfsgegevens?

Niet het model en niet de leverancier, maar de gewoonte om een heel document of gesprek te plakken omdat dat sneller is dan de relevante zin eruit halen. Daar gaan de meeste gegevens mee die niemand bewust wilde delen.

Moet ik AI dan maar verbieden?

Een verbod verplaatst het gebruik naar privéaccounts en privételefoons, waar je er helemaal geen zicht meer op hebt. Onderzoek van KPMG en de Universiteit van Melbourne laat zien dat 57 procent van de werkenden AI-gebruik verborgen houdt voor de werkgever. Een verbod maakt dat cijfer hoger, niet lager.

Portret van Rens Timmermans van BeeSensible

Liever iemand die het laat zien?

Rens, BeeSensible

Ik geef je graag een rondleiding van twintig minuten. Laat je gegevens achter, dan zoek ik een moment dat jou uitkomt. Bellen of mailen mag natuurlijk ook.

Liever eerst iemand spreken? Plan een call.

Wil je een live demo, of een offerte voor 100+ gebruikers? Laat je gegevens achter en we nemen binnen één werkdag contact op.