GeminiEen klantenservicemedewerker bij een logistiek bedrijf opent Gemini om een reactie op te stellen voor een boze klant. Ze plakt de volledige klachtenmail erin, naam, adres, bestelgeschiedenis en de bankgegevens van de klant uit een terugbetalingsverzoek, en vraagt Gemini om "een rustige, professionele reactie te schrijven." Het concept is uitstekend. Ze ziet de kleine regel onder het promptvak niet: Gemini kan fouten maken, dus controleer het. Je gesprekken kunnen worden beoordeeld.
Ze gebruikt niet de Google Workspace van haar bedrijf. Ze is ingelogd met haar persoonlijke Google-account, in de gratis consumentenapp, waar een deel van de gesprekken door menselijke reviewers wordt gelezen en beoordeelde chats tot drie jaar bewaard kunnen blijven.
Dit is het deel van Gemini waar organisaties op stuklopen. Het risico is niet één onnadenkende prompt. Het is dat Gemini niet aanvoelt als een aparte tool die je bezoekt, het zit ín Gmail, Documenten, Drive en de telefoon in je zak, en de meeste mensen hebben geen idee tegen welke versie ze eigenlijk praten.
Is Gemini veilig voor bedrijfsgegevens?
Gemini kan veilig op het werk worden gebruikt, maar het antwoord hangt vrijwel volledig af van welke Gemini. Google levert het merk uit als twee heel verschillende producten met twee heel verschillende beloftes.
De gratis consumentenapp op gemini.google.com draait om productverbetering: Google neemt steekproeven uit gesprekken voor menselijke beoordeling en gebruikt ze om zijn modellen te trainen, en zegt dat ook. Gemini in Google Workspace draait om zakelijke toezeggingen: Google legt schriftelijk vast dat het je Gmail-, Documenten- of Drive-inhoud niet gebruikt om zijn generatieve modellen te trainen, en dat je gegevens niet buiten je domein door mensen worden bekeken zonder toestemming.
Zelfde naam. Min of meer dezelfde interface. Compleet ander risico. Het privacyrisico bij Gemini is zelden dat het model "onveilig" is, het is een medewerker die klant- of personeelsgegevens in de consumentenapp zet, in de overtuiging beschermd te zijn door het contract van de werkgever met Google.
Hoe Gemini met je gegevens omgaat
| Consumenten-Gemini (gemini.google.com) | Gemini in Google Workspace | |
|---|---|---|
| Account | Persoonlijk Google-account | Beheerd werkaccount |
| Gebruikt om Google's modellen te trainen | Ja (een deel, met menselijke beoordeling) | Nee: contractueel uitgesloten |
| Menselijke beoordeling van gesprekken | Ja, een deel | Nee, zonder toestemming |
| Bewaring na verwijderen | Beoordeelde chats tot 3 jaar | Door je beheerder bepaald |
| Verwerkersovereenkomst | Nee | Ja (Workspace-voorwaarden) |
| Beheercontrole | Geen | Volledig, via Beheerdersconsole |
Consumenten-Gemini toont Google's eigen waarschuwing: "Voer geen vertrouwelijke informatie in die je niet door een reviewer wilt laten zien of door Google wilt laten gebruiken om onze diensten, producten en machine-learningtechnologieën te verbeteren." Dat is geen voetnoot, het is Google dat je rechtstreeks vertelt waar de dienst voor bedoeld is. Een deel van de chats wordt door getrainde reviewers gelezen, en die beoordeelde chats (plus gerelateerde signalen zoals taal, apparaattype en locatie) worden tot drie jaar bewaard, ook als je je activiteit verwijdert. Het uitzetten van Gemini-app-activiteit voorkomt dat nieuwe chats in die steekproef belanden; verder worden chats 72 uur bewaard om de dienst te laten werken.
Gemini in Workspace is de versie die een organisatie daadwerkelijk kan besturen. Google zegt toe dat klantgegevens niet zonder toestemming worden gebruikt om zijn generatieve modellen te trainen of te verbeteren, niet buiten je domein door mensen worden bekeken, en niet voor advertenties worden gebruikt. Dataresidentie kan tot de EU worden beperkt, en client-side encryptie is beschikbaar. Een beheerder bepaalt of Gemini überhaupt aan staat, waar het bij kan, en hoe lang de gespreksgeschiedenis wordt bewaard.
Het probleem is dat niets op het scherm het verschil duidelijk maakt voor degene die zit te typen.
Vijf plekken waar het misgaat
1. Medewerkers die de consumentenapp gebruiken in plaats van de beheerde versie
Dit is het belangrijkste risico. Een medewerker logt in met zijn persoonlijke Google-account, op een werklaptop of op zijn telefoon, en gebruikt de gratis Gemini. Alles wat hij plakt valt onder de consumentenvoorwaarden: kans op menselijke beoordeling, gebruikt voor verbetering, bewaard. De Workspace-bescherming van het bedrijf geldt niet, want het bedrijf was er nooit bij betrokken.
2. Gemini dat in Gmail, Documenten en Drive reikt
De functie die Gemini in Workspace nuttig maakt, "vat deze thread samen", "vind het contract in mijn Drive", "stel iets op uit mijn aantekeningen", is ook een breed dataoppervlak. Wanneer Gemini is ingeschakeld met toegang tot Workspace-inhoud, kan één vraag informatie uit je hele mailbox en bestanden samenbrengen. Dat werkt goed en, onder de Workspace-voorwaarden, is het ingekaderd. Maar het betekent dat de reikwijdte van de toegang nu een beheerdersbeslissing is, niet een per-document keuze.
3. Handelen op je telefoon-apps: óók met activiteit uit
In juli 2025 mailde Google Android-gebruikers dat Gemini zou kunnen helpen "Telefoon, Berichten, WhatsApp en Hulpprogramma's te gebruiken" of Gemini-app-activiteit nu aan of uit staat. De wijziging koppelde de app-toegang los van de logging-schakelaar: activiteit uitzetten hield Gemini niet meer tegen om die apps te bedienen. Het stond standaard aan en werd aangekondigd via een makkelijk te missen e-mail. Gemini traint niet op deze interacties terwijl activiteit uit staat, maar de toegang zélf is het punt, en veel gebruikers merkten nooit dat er iets was veranderd.
4. Prompt-injection via samengevatte inhoud
In juli 2025 toonde een onderzoeker van Mozilla's 0DIN-programma aan dat verborgen tekst in een e-mail, wit, lettergrootte nul, verpakt in een nep-<Admin>-tag, de functie "vat deze e-mail samen" van Gemini kon kapen. Wanneer de ontvanger om een samenvatting vroeg, volgde Gemini de verborgen instructie en voegde een valse beveiligingswaarschuwing toe met het telefoonnummer van de aanvaller. Geen link, geen bijlage. Google zegt geen misbruik in de praktijk te hebben gezien en zijn verdediging te verstevigen, maar de techniek maakt van elke binnenkomende nieuwsbrief, ticket of CRM-bericht een mogelijke injectieroute.
5. Vertrouwelijke data in een prompt die het niet nodig had
Zelfs in een volledig beheerde Workspace zijn de veiligste gegevens de gegevens die je nooit plakt. Voor het samenvatten van een functioneringsgesprek hoeven de geboortedatum en het telefoonnummer van de medewerker niet in de prompt te staan. Het model accepteert ze gretig, en hoe meer herleidbare data door prompts stroomt, hoe meer er bloot ligt bij een toekomstige configuratiefout of export.
Het risico in euro's en vertrouwen
Onder de AVG is het invoeren van herleidbare persoonsgegevens, een naam met een rekeningnummer, gezondheidsgegevens, de financiële details van een klant, in een AI-dienst een verwerking. Gebeurt die verwerking in de consumenten-Gemini, dan zit er geen verwerkersovereenkomst achter, geen gecontroleerde bewaring, en wél een gedocumenteerde kans op menselijke beoordeling. Voor een organisatie die met bijzondere gegevens werkt, is dat moeilijk te verdedigen.
Boetes onder de AVG kunnen oplopen tot €20 miljoen of 4% van de wereldwijde jaaromzet, afhankelijk van wat hoger is, en de aansprakelijkheid ligt bij de organisatie als verwerkingsverantwoordelijke. De Autoriteit Persoonsgegevens moet binnen 72 uur worden geïnformeerd na het ontdekken van een datalek dat een risico vormt voor de rechten en vrijheden van betrokkenen.
Toezichthouders laten al zien dat ze de AI-datapraktijken van Google scherp volgen. Naast boetes is er de stillere kostenpost: een klant of medewerker die ontdekt dat zijn gevoelige gegevens in een consumentenchatbot zijn getypt, is een vertrouwensprobleem dat geen instellingenpagina kan herstellen.
Waar Gemini al eerder de fout in ging
Juli 2025: Gemini krijgt toegang tot apps met activiteit uit
Google liet Android-gebruikers weten dat Gemini vanaf 7 juli 2025 met Telefoon, Berichten, WhatsApp en Hulpprogramma's kon werken, óók wanneer Gemini-app-activiteit uit stond. De wijziging stond standaard aan; gebruikers moesten zich per app afmelden. Het werd breed beschreven als een betekenisvolle verschuiving in hoeveel van de telefoon Gemini standaard kon raken. Bronnen: Android Authority, juni 2025; Malwarebytes, juli 2025.
Juli 2025: "Phishing for Gemini" prompt-injection
Marco Figueroa, van Mozilla's 0DIN GenAI-bugbountyprogramma, maakte bekend dat verborgen HTML in een e-mail de e-mailsamenvattingsfunctie van Gemini een door de aanvaller gestuurd phishingbericht kon laten tonen. Google stelde geen misbruik in de praktijk te hebben waargenomen en dat er mitigaties werden uitgerold. Bronnen: 0DIN, 10 juli 2025; BleepingComputer, 13 juli 2025.
September 2024: Iers DPC-onderzoek naar Google's AI-data
De Ierse Data Protection Commission opende een formeel onderzoek naar de vraag of Google een DPIA had moeten uitvoeren vóórdat het EU-persoonsgegevens verwerkte om zijn onderliggende AI-model te ontwikkelen. Het onderzoek betrof het model achter Google's AI-ontwikkeling, en gaf het signaal dat EU-toezichthouders AVG-zorgvuldigheid verwachten vóór, niet ná, AI-training. Bron: Silicon Republic, september 2024.
September 2025: CNIL-boete van €325 mln over Gmail
De Franse privacytoezichthouder beboette Google met €325 miljoen, deels voor het plaatsen van advertenties tussen e-mails in Gmail zonder geldige toestemming, een praktijk die gekoppeld is aan de "slimme functies"-personalisatie-instelling. Hoewel het geen Gemini-zaak is, laat het zien hoe Google's productinterne datagebruik en toestemmingsontwerp onder actief toezicht staan. Bron: CNIL, 1 september 2025.
De rode draad is niet één kapotte functie. Het is het gat tussen hoe beschermd mensen aannemen dat Google's AI is, en hoe het specifieke product vóór hen zich werkelijk gedraagt.
De Gemini-instellingen die het verschil maken
1. Standaardiseer op Gemini in Workspace, en schakel de consumentenapp uit waar het kan De meest effectieve maatregel is ervoor zorgen dat medewerkers de beheerde versie gebruiken. In de Google Beheerdersconsole bepalen beheerders, onder Generatieve AI, of Gemini aan staat, welke Workspace-inhoud het kan bereiken en hoe lang gespreksgeschiedenis wordt bewaard.
2. Zet Gemini-app-activiteit uit (consumentenaccounts) Ga op een persoonlijk account naar gemini.google.com, open Activiteit (of Instellingen → Gemini-app-activiteit) en kies Uitzetten, of Uitzetten en verwijderen. Dit voorkomt dat nieuwe chats worden opgeslagen en voor menselijke beoordeling worden geselecteerd.
3. Controleer de app-koppelingen van Gemini op Android Open in de Gemini-app je profiel → Apps (of Extensies) en zet koppelingen uit die je niet wilt, zoals Berichten, WhatsApp, Telefoon en Hulpprogramma's.
4. Stel een automatische verwijdertermijn in Consumenten-Gemini laat je activiteit automatisch verwijderen na 3, 18 of 36 maanden. Kies de kortste termijn die werkt, en onthoud dat het chats die al voor menselijke beoordeling zijn geselecteerd niet bereikt.
5. Beperk de dataregio in Workspace Voor organisaties met EU-dataresidentie-eisen kan Workspace de Gemini-verwerking tot de EU beperken, met client-side encryptie voor strenger sleutelbeheer.
Stappen geverifieerd in juni 2026; Google hernoemt "Gemini-app-activiteit" naar "Activiteit bewaren", dus de menutekst kan afwijken.
Het moment waar instellingen niet bij kunnen
Instellingen bepalen wat Google met de gegevens mag doen. Ze bepalen niet wat een medewerker typt, of in welke Gemini hij het typt.
Geen beheerdersbeleid bereikt het moment waarop een klantenservicemedewerker, op haar eigen telefoon, de bankgegevens van een klant in de consumentenapp plakt. Geen dataresidentie-instelling maakt een prompt ongedaan die een geboortedatum bevatte die er nooit in had hoeven staan. Geen bewaarinstelling helpt als de gevoelige waarde in de eerste plaats vermijdbaar was.
De meest voorkomende privacyfouten bij Gemini zijn geen modelfouten of configuratiefouten. Het zijn alledaagse momenten, een snelle samenvatting, een vlot concept, waarop iemand meer persoonsgegevens in een prompt zet dan de taak vereiste, in welke Gemini er ook toevallig open stond.
Zien wat er in de prompt staat, terwijl je typt
BeeSensible controleert persoonsgegevens in tekstvelden, waaronder het promptvak van Gemini, terwijl je typt. De tekst gaat naar de EU-detectiedienst van BeeSensible, waar de analyse in het werkgeheugen draait en de tekst na detectie wordt weggegooid. Er wordt niets van opgeslagen. Wanneer er gevoelige inhoud in een prompt verschijnt, markeert BeeSensible die in de tekst en toont een paneel met wat er is gevonden en hoe ernstig het is. De gebruiker kan het verwijderen, vervangen door een placeholder of maskeren vóór verzending.
