PrivaSearch

Regels

Privacy by design bij AI-tools: wat artikel 25 AVG van je organisatie vraagt

Privacy by design en by default bij AI-tools: wat je regelt bij de keuze van een tool, welke instellingen je uitzet en wat je van de leverancier vraagt.

In het kort

  • Artikel 25 van de AVG legt de plicht om privacy in te bouwen bij de organisatie die een AI-tool inzet, niet bij de maker van die tool.
  • Die plicht begint al bij het kiezen en inkopen van een tool en loopt door zolang je de tool gebruikt.
  • Privacy by default betekent dat de standaardinstelling alleen de gegevens verwerkt die voor het doel nodig zijn, ook in software die je kant-en-klaar koopt.
  • De Europese privacytoezichthouders raden af een leverancier te kiezen wiens product je niet in staat stelt aan artikel 25 te voldoen.
  • Een overtreding van artikel 25 valt in de boetecategorie tot 10 miljoen euro of 2 procent van de wereldwijde jaaromzet.

Wat is privacy by design en by default?

Privacy by design betekent dat je de bescherming van persoonsgegevens inbouwt op het moment dat je bepaalt hoe een verwerking eruitziet, bijvoorbeeld bij de keuze van een AI-tool. Privacy by default betekent dat de standaardinstellingen alleen verwerken wat voor het doel nodig is. Beide staan in artikel 25 van de AVG en zijn een plicht van de organisatie zelf.

De tekst van de AVG spreekt van "gegevensbescherming door ontwerp en door standaardinstellingen". Het eerste lid vraagt passende technische en organisatorische maatregelen, "zowel bij de bepaling van de verwerkingsmiddelen als bij de verwerking zelf". De wet noemt pseudonimisering als voorbeeld van zo'n maatregel; het verschil met anonimiseren staat in Pseudonimiseren of anonimiseren: het verschil, en waarom het voor AI uitmaakt. Wat passend is, hangt af van de stand van de techniek, de kosten, de aard en het doel van de verwerking en de risico's.

Het tweede lid gaat over de standaard, en noemt vier dingen: de hoeveelheid verzamelde gegevens, de mate waarin ze worden verwerkt, hoe lang ze worden bewaard en wie erbij kan. Gegevens mogen in beginsel niet zonder menselijke tussenkomst toegankelijk worden voor een onbeperkt aantal mensen.

De Autoriteit Persoonsgegevens (AP) geeft op haar pagina over de verantwoordingsplicht alledaagse voorbeelden: een app die geen locatie registreert als dat niet nodig is, een vakje voor aanbiedingen dat niet vooraf is aangevinkt en een nieuwsbrief die niet meer gegevens vraagt dan nodig. Bij een AI-tool zitten dezelfde keuzes dieper in de instellingen: in het beheerscherm van de aanbieder, in de koppelingen met andere systemen en in wat medewerkers standaard met elkaar delen. Dit artikel is uitleg, geen juridisch advies: beoordeel je eigen situatie met je functionaris gegevensbescherming of een jurist.

Bij wie ligt de plicht: bij jou of bij de leverancier?

Bij jou. Artikel 25 richt zich tot de verwerkingsverantwoordelijke: de organisatie die bepaalt waarvoor en waarmee persoonsgegevens worden verwerkt. Over de makers van producten en diensten zegt overweging 78 van de AVG alleen dat ze "dienen te worden gestimuleerd" om rekening te houden met gegevensbescherming.

Het Europees Comité voor gegevensbescherming (EDPB), het samenwerkingsverband van de Europese privacytoezichthouders, trekt daar in zijn richtsnoeren 4/2019 over artikel 25 (versie 2.0 van 20 oktober 2020) de consequentie uit. De verwerkingsverantwoordelijke is ook verantwoordelijk voor wat verwerkers en subverwerkers doen, en neemt dat mee in de contracten (randnummer 1). En: kies geen leverancier wiens systeem je niet helpt aan artikel 25 te voldoen, want jij wordt aangesproken als het ontbreekt (randnummer 96).

Staat er in een AI-tool een functie standaard aan die meer verwerkt dan je doel vraagt, dan is dat dus jouw verwerking en jouw verantwoordelijkheid. De verwerkersovereenkomst regelt wat de leverancier met de gegevens mag doen. Artikel 25 vraagt daarnaast iets van jou: dat je de tool zo kiest en inricht dat er niet meer gebeurt dan nodig.

Wanneer geldt het: bij de inkoop en daarna?

Al vóór het eerste gebruik. Volgens het EDPB valt ook het moment waarop je software en diensten inkoopt en invoert onder "de bepaling van de verwerkingsmiddelen" (randnummer 35). Wie eerst een AI-tool aanschaft en daarna pas over privacy nadenkt, is te laat met een deel van de afweging. Een functie die al in het contract zit of een instelling die het hele kantoor al gebruikt, is later lastiger terug te draaien dan vooraf uit te sluiten.

Daarna blijft de plicht lopen: maatregelen onderhouden, de stand van de techniek bijhouden en het risico opnieuw beoordelen (randnummer 37), ook voor wat verwerkers voor je doen (randnummer 39). AI-aanbieders voegen geregeld functies toe, en een nieuwe functie valt niet vanzelf onder de afweging van toen. Plan dus een vast moment om de instellingen na te lopen.

Wat betekent privacy by default voor een AI-tool?

Gebruik je kant-en-klare software van een ander, beoordeel dan de risico's van het product en zet functies uit die geen grondslag hebben of niet passen bij het doel, zegt het EDPB (randnummer 44). Verdeel ook de toegang zo dat medewerkers met verschillende rollen alleen zien wat ze nodig hebben (randnummer 45). De vier dingen uit het tweede lid van artikel 25 geven een bruikbare indeling.

Hoe je een bewaartermijn onderbouwt, staat in Bewaartermijnen: hoe lang mag je persoonsgegevens en een personeelsdossier bewaren?.

Wat er gebeurt als de standaard verkeerd staat

De Ierse toezichthouder legde TikTok in september 2023 boetes van in totaal 345 miljoen euro op. Het onderzoek ging onder meer over instellingen voor kinderen die standaard openbaar stonden, en het besluit stelt onder meer overtredingen van artikel 25 lid 1 en lid 2 vast. Geen AI-tool, wel hetzelfde punt: wat standaard aanstaat, telt. Volgens artikel 83 lid 4 van de AVG valt een overtreding van artikel 25 onder boetes tot 10 miljoen euro of, voor een onderneming, tot 2 procent van de wereldwijde jaaromzet als dat hoger is.

Welke vragen stel je een leverancier van een AI-tool?

Het EDPB raadt aan leveranciers te laten aantonen hoe hun product je helpt verantwoording af te leggen, en in het contract op te nemen dat ze je op de hoogte houden van veranderingen in de stand van de techniek (randnummer 96). Zes vragen maken dat praktisch.

  1. Wat staat standaard aan? En kun je het voor de hele organisatie uitzetten?
  2. Wat gebeurt er met de invoer? Wordt ze gebruikt om modellen te verbeteren, en hoe sluit je dat uit?
  3. Hoe lang wordt er bewaard? Voor invoer, antwoorden, bestanden en logbestanden.
  4. Wie kan erbij? Kun je toegang beperken per rol, team of project, en ziet een beheerder automatisch alles?
  5. Welke andere partijen verwerken mee? Vraag de lijst van subverwerkers en waar zij verwerken.
  6. Hoe hoor je van wijzigingen? Hoe worden nieuwe functies en gewijzigde instellingen aangekondigd?

Leg de antwoorden vast. Ze laten zien dat je bij de keuze hebt nagedacht, en ze horen in de beschrijving van de maatregelen als je een DPIA uitvoert; zie DPIA voor AI-tools: wanneer is ze verplicht en hoe pak je haar aan?.

Wat PrivaSearch hierin doet

PrivaSearch zit tussen je documenten en het AI-model; de stappen staan op Hoe PrivaSearch werkt. Persoonsgegevens worden binnen PrivaSearch zelf herkend, zonder AI-aanbieder van buiten, en vervangen door pseudoniemen. Een collega ziet het origineel naast de gepseudonimiseerde tekst en keurt expliciet goed; pas daarna is een document doorzoekbaar. Een gekoppelde assistent, Claude, ChatGPT Business of Mistral Vibe, krijgt alleen vrijgegeven, gepseudonimiseerde passages, begrensd in omvang, en geen originele bestanden, bestandsnamen of links. Projectlidmaatschap bepaalt wie wat ziet, en beheerders krijgen geen automatische inzage. Na de einddatum van een project wordt de toegang geblokkeerd en worden kopieën, fragmenten en pseudoniemen opgeruimd, tenzij een juridische bewaarplicht geldt.

Een scan zonder tekstlaag gaat alleen als bestand naar een Europese AI-aanbieder om te worden uitgelezen als je organisatie dat zelf aanzet; zie Hosting in de EU. Wat je zelf in een gekoppelde assistent typt, gaat rechtstreeks naar de aanbieder van die assistent, buiten de pseudonimisering om.

De afweging van artikel 25 maakt PrivaSearch niet voor je: of deze maatregelen passen bij jouw verwerking, blijft jouw beoordeling.

Veelgestelde vragen

Geldt privacy by design ook voor een klein kantoor?

Ja. Artikel 25 van de AVG geldt voor elke organisatie die persoonsgegevens verwerkt, ongeacht haar omvang. Wat passend is, hangt af van onder meer de kosten, de aard van de verwerking en de risico's, dus een klein kantoor met gevoelige klantdossiers kan meer moeten doen dan een groot bedrijf met alleen openbare informatie.

Wat is het verschil tussen privacy by design en privacy by default?

Privacy by design gaat over het ontwerp: je bouwt maatregelen zoals pseudonimisering in zodra je bepaalt hoe een verwerking eruitziet. Privacy by default gaat over de standaard: zonder dat iemand iets aanpast, verwerkt, bewaart en deelt het systeem niet meer dan voor het doel nodig is.

Is de maker van een AI-tool verantwoordelijk voor privacy by design?

Niet volgens artikel 25 van de AVG: die plicht ligt bij de organisatie die de tool inzet. Makers moeten volgens de AVG alleen worden gestimuleerd om rekening te houden met gegevensbescherming. De Europese toezichthouders raden daarom aan geen leverancier te kiezen wiens product je niet helpt aan artikel 25 te voldoen.

Moet je de standaardinstellingen van een AI-tool aanpassen?

Vaak wel. Volgens de Europese toezichthouders beoordeel je bij kant-en-klare software de risico's en zet je functies uit die geen grondslag hebben of niet bij het doel passen. Denk aan het gebruik van invoer om modellen te verbeteren, een lange bewaartermijn van gesprekken of gesprekken die de hele organisatie kan zien.

Is pseudonimiseren genoeg voor privacy by design?

Nee. Pseudonimisering is een voorbeeld dat artikel 25 noemt, maar het artikel vraagt een geheel van technische en organisatorische maatregelen, zoals beperkte toegang, passende bewaartermijnen en het uitzetten van overbodige functies. Gepseudonimiseerde gegevens blijven bovendien persoonsgegevens voor de organisatie die de sleutel heeft.

Wat riskeer je als je artikel 25 niet naleeft?

Een overtreding van artikel 25 valt onder boetes tot 10 miljoen euro of, voor een onderneming, tot 2 procent van de wereldwijde jaaromzet als dat hoger is. Wie zijn keuzes bij de inkoop niet heeft vastgelegd, kan bovendien moeilijk aantonen dat hij aan de plicht heeft gedacht.

Verder lezen

  1. Geautomatiseerde besluitvorming en AI: wanneer mag AI over mensen beslissen?

    Wanneer een besluit met AI onder het verbod op geautomatiseerde besluitvorming valt, welke uitzonderingen er zijn en hoe een mens echt meebeslist.

  2. Beroepsgeheim en AI: wat advocaten, notarissen en accountants moeten weten

    Wat geheimhouding betekent als je een dossier in een AI-chatbot zet, en wat de NOvA, de KNB, de NBA en de CCBE daarover hebben gepubliceerd.

  3. AI Impact Assessment (AIIA): wat het is en hoe je het als organisatie gebruikt

    Wat de AIIA van het ministerie van Infrastructuur en Waterstaat is, voor wie het verplicht is, hoe het is opgebouwd en hoe het zich verhoudt tot IAMA en DPIA.

Zie in twintig minuten wat er met jouw documenten gebeurt.

We laten het zien met fictieve dossiers uit jouw branche: upload, herkenning, review, zoeken en de koppeling met je AI-assistent. Daarna weet je precies wat je team veilig kan gebruiken.

Plan een demo →