AI en privacy
Wat scholen met AI doen, waarom leerlinggegevens extra bescherming krijgen, welke toepassingen verboden of hoog risico zijn en wat een school regelt.
AI in het onderwijs mag, maar met leerlinggegevens mag een school weinig. Zij mag ze alleen in een AI-chatbot verwerken met een verwerkersovereenkomst, een duidelijk doel, een beoordeling van de risico's en zo min mogelijk gegevens. Een gratis of persoonlijk account voldoet daar niet aan. Het advies uit het onderwijs zelf: voer geen persoonsgegevens in.
Het gebruik is er al. Leerlingen gebruiken het voor huiswerk, leraren voor hun lesvoorbereiding. Dit artikel gaat over wat een school daarbij met gegevens van leerlingen mag: wat de AVG zegt over kinderen, wat de Autoriteit Persoonsgegevens (AP), Kennisnet en SURF hebben gepubliceerd, en wat de AI Act verbiedt of als hoog risico aanmerkt. Wij hebben de bronnen op 13 oktober 2026 nagelopen. Het is uitleg en geen juridisch advies.
De AP beschrijft de ontwikkeling in haar bericht over privacyrisico's van digitale leermiddelen van maart 2026: schriften en pennen hebben plaatsgemaakt voor laptops, software en AI, waarmee scholen de voortgang volgen, onderwijs op maat bieden en de werkdruk van de leraar verlagen. De keerzijde volgens de AP: leveranciers verwerken veel persoonsgegevens van leerlingen, ook gevoelige gegevens over prestaties en gedrag.
| Toepassing | Welke gegevens | Wat je regelt |
|---|---|---|
| Lesmateriaal of een toets laten maken | Geen leerlinggegevens nodig | Afspraak dat er geen namen of dossiers in de vraag staan; een leraar controleert het resultaat |
| Een mail aan ouders of een verslag laten schrijven | Naam, notities over gedrag of thuissituatie | Niet in een algemene chatbot; werk met fictieve namen of schrijf het zelf |
| Toetsen laten nakijken of een cijfer laten voorstellen | Naam, klas, gemaakt werk, resultaat | Hoog risico volgens de AI Act; een DPIA, een leraar die echt beoordeelt, openheid naar leerling en ouders |
| Een handelingsplan of zorgdossier laten samenvatten | Gezondheid, gedrag, uitkomsten van onderzoek | Bijzondere gegevens: alleen met een uitzondering uit de AVG, in een omgeving met verwerkersovereenkomst, of niet doen |
| Leerlingen zelf laten werken met een chatbot | Accountgegevens, alles wat de leerling typt | Accounts van de school, geen persoonlijke accounts; letten op leeftijdsgrenzen in de voorwaarden |
| Toezicht bij een toets met AI | Beeld, geluid, gedrag tijdens de toets | Hoog risico volgens de AI Act; emoties afleiden is verboden |
| Roosters en algemene administratie | Namen van medewerkers, soms leerlingen | Verwerkersovereenkomst met de leverancier; nagaan of een AI-functie ongevraagd is aangezet |
Stand 13 oktober 2026. De tabel is een hulpmiddel en geen classificatie van jouw toepassing.
Een mentor van het verzonnen Voorbeeldcollege wil een oudergesprek voorbereiden. Zij plakt haar notities over een leerling in een gratis chatbot: zijn naam, dat hij vaak afwezig is, dat er thuis een scheiding speelt. De notities staan daarna bij een aanbieder met wie de school geen afspraak heeft, op een account dat de school niet beheert.
Overweging 38 van de AVG zegt dat kinderen recht hebben op specifieke bescherming van hun persoonsgegevens, omdat zij zich minder bewust zijn van de risico's, de gevolgen en hun rechten. Die bescherming geldt in het bijzonder bij marketing, bij het opstellen van persoonlijkheids- of gebruikersprofielen en bij diensten die rechtstreeks aan kinderen worden aangeboden.
Dat werkt door in de rest van de wet. Bij gerechtvaardigd belang zegt artikel 6 dat de belangen van de betrokkene zwaarder kunnen wegen, "met name wanneer de betrokkene een kind is". En informatie voor een kind hoort zo eenvoudig te zijn dat het kind haar begrijpt.
De AP legt de grens bij 16 jaar. Op haar pagina over de grondslag toestemming staat dat kinderen jonger dan 16 zelf geen geldige toestemming kunnen geven: dat doet een ouder of verzorger, en de organisatie moet kunnen aantonen dat zij dat heeft gecontroleerd. Kinderen van 12 jaar of ouder mogen de toestemming wel zelf intrekken.
Over het onderwijs schreef de AP in het bericht bij haar Sectorbeeld Onderwijs dat kinderen en jongeren door hun kwetsbare positie extra bescherming nodig hebben, zodat zij zich in een vrije en veilige omgeving kunnen ontwikkelen. In hetzelfde bericht noemt zij algoritmes en AI als onderwerp dat om nader beleid vraagt, en stelt zij vast dat er weinig grip is op het gebruik van software binnen onderwijsinstellingen.
Een school verwerkt de meeste leerlinggegevens omdat zij onderwijs moet geven, niet omdat ouders ja hebben gezegd. Ouders en leerlingen staan bovendien niet gelijk aan de school, en toestemming kan worden ingetrokken. Hoe de zes grondslagen werken, lees je in ons artikel over de grondslagen van de AVG.
De AP somt op haar pagina over het leerlingdossier op wat erin kan staan: gegevens over in- en uitschrijving en afwezigheid, vorderingen en resultaten, verslagen van gesprekken met ouders, gegevens over de gezondheid die nodig zijn voor speciale begeleiding, en de resultaten van eventueel psychologisch onderzoek.
Volgens de AP is het dossier gevoelig omdat de ontwikkeling en het gedrag van een leerling er systematisch mee te volgen zijn, omdat het bijzondere persoonsgegevens bevat en omdat kinderen extra kwetsbaar zijn.
Gezondheidsgegevens vallen onder artikel 9 van de AVG. Verwerken is verboden, tenzij een van de uitzonderingen geldt, en een gewone grondslag is dan niet genoeg. Een zorgdossier of handelingsplan samenvatten in een chatbot is dus een andere orde dan een toets laten maken. De uitleg staat in ons artikel over bijzondere persoonsgegevens.
De AP noemt bij het leerlingdossier nog een paar regels die bij AI direct meespelen: alleen verwerken wat nodig is voor het doel, niet meer mensen toegang geven dan nodig, de verwerking opnemen in het verwerkingsregister, en bij een hoog risico een DPIA uitvoeren. De bewaartermijn is in het algemeen twee jaar nadat de leerling van school is. Een kopie in een chatgeschiedenis valt buiten die opruiming; zie ons artikel over bewaartermijnen.
De AP heeft geen aparte regels voor chatbots op school gepubliceerd. Wel roept zij in haar bericht van maart 2026 scholen en leveranciers op om goede afspraken te maken en open te zijn. Scholen moeten bestaande overeenkomsten met leveranciers kritisch bekijken en waar nodig laten aanpassen, zo nodig samen via organisaties als SIVON en Kennisnet. Leveranciers en scholen horen te laten weten hoe leerlinggegevens worden beveiligd en bewaard, en of ze worden gebruikt om profielen te maken of AI te trainen.
Kennisnet, de ict-organisatie voor het primair en voortgezet onderwijs en het mbo, heeft een handreiking over AI voor scholen, met een onderdeel over privacy. De aandachtspunten daaruit, kort:
Kennisnet waarschuwt daarbij dat gegevens die in trainingsdata terechtkomen er vrijwel niet meer uit te halen zijn. In de schoolafspraken over generatieve AI is de voorbeeldafspraak daarom kort: voer geen persoonsgegevens in.
SURF, de ict-coöperatie van het mbo, hbo en wo, liet een DPIA uitvoeren op Microsoft 365 Copilot. De tweede update van 27 mei 2026 staat in het bericht van SURF: twee risico's blijven op het niveau "oranje", en het advies aan instellingen blijft om terughoudend te zijn, per soort gebruik te bepalen of het past en de risico's af te wegen. Een van de twee risico's gaat over diagnostische gegevens die tot 18 maanden worden bewaard. Dit is de stand van mei 2026; loop na of er iets is veranderd.
De VO-raad nam het eerste advies eind 2024 over voor schoolbesturen, met een detail dat voor scholen telt: volgens dat bericht keek de DPIA naar medewerkers en volwassen studenten, omdat de betaalde onderwijslicentie toen niet beschikbaar was voor minderjarigen. Een beoordeling voor volwassenen zegt dus niet vanzelf iets over leerlingen.
In september 2026 kondigde SURF een eigen voorziening aan. Volgens het bericht over SURF AI krijgen leden uit het mbo, hbo en wo vanaf januari 2027 toegang tot een AI-infrastructuur met een eigen chatapplicatie, waarbij instellingen zelf bepalen wie toegang krijgt tot welke taalmodellen.
Artikel 5 van de AI Act verbiedt AI-systemen die emoties van mensen afleiden op de werkplek en in onderwijsinstellingen. De uitzondering is een systeem dat om medische of veiligheidsredenen wordt gebruikt. Het verbod geldt sinds 2 februari 2025. Een hulpmiddel dat uit een gezicht of stem afleidt of een leerling verveeld, gespannen of betrokken is, mag je dus niet inzetten.
Bijlage III, punt 3, noemt vier toepassingen in onderwijs en beroepsopleiding die hoog risico zijn.
Er is een uitzondering voor systemen die geen wezenlijk risico vormen, bijvoorbeeld omdat ze alleen een smalle procedurele taak uitvoeren. Die uitzondering vervalt als het systeem mensen profileert. Dat staat in artikel 6, uitgelegd in ons artikel De AI Act uitgelegd.
De eisen aan hoog-risicosystemen uit bijlage III zouden op 2 augustus 2026 ingaan. De digitale omnibus heeft dat verschoven. Volgens de Europese Commissie is die wijziging op 27 juli 2026 in werking getreden en gelden de regels voor bijlage III vanaf 2 december 2027. De achtergrond staat in ons artikel over de AI Act in het najaar van 2026.
De AVG geldt nu al, ook voor een nakijkhulp.
Een algemene chatbot is niet gemaakt om toetsen te beoordelen. Gebruik je hem daar toch voor, dan doe je iets wat in bijlage III staat. Kennisnet werkt dit voorbeeld uit: laat een leraar een AI-hulpmiddel cijfers toekennen, dan gaat het om het beoordelen van leerresultaten, kan er sprake zijn van geautomatiseerde besluitvorming onder de AVG en moet een leraar altijd toezien, de uitkomst controleren en ervan kunnen afwijken. Het advies van Kennisnet is terughoudend te zijn, zeker met hulpmiddelen die hier niet voor bedoeld zijn.
Wat een school als gebruiker van een hoog-risicosysteem straks moet doen, zet Kennisnet op een rij in het artikel Voldoen aan de AI-verordening: de gebruiksinstructies volgen, toezicht door iemand met verstand van zaken, de werking volgen en incidenten melden, leerlingen en ouders informeren als AI meebeslist, en een beoordeling van de gevolgen voor grondrechten. Over dat laatste gaat ons artikel over de FRIA.
Artikel 4 van de AI Act geldt voor elke school die AI gebruikt, ook buiten hoog risico. Sinds de wijziging van juli 2026 is de plicht: maatregelen nemen om de AI-geletterdheid van medewerkers te ondersteunen, zonder dat je een bepaald niveau per persoon hoeft te garanderen. Meer daarover in AI-geletterdheid verplicht.
Wat er misgaat als dit ontbreekt, staat in ons artikel over shadow AI. De algemene uitleg over chatbots en de AVG staat op onze pagina over AI-chatbots en de AVG.
PrivaSearch is geen leermiddel en geen nakijkhulp. Het beoordeelt geen leerlingen en neemt geen beslissingen. Het maakt documenten doorzoekbaar voor medewerkers, nadat persoonsgegevens zijn vervangen door pseudoniemen en een collega dat heeft gecontroleerd. De stappen staan op de pagina Hoe PrivaSearch werkt.
Voor een organisatie met dossiers betekent dat: een AI-assistent zoekt in vrijgegeven, gepseudonimiseerde passages en niet in de originelen. Je kunt Claude, ChatGPT Business en Mistral Vibe (voorheen Le Chat) koppelen. Wat je zelf in zo'n assistent typt, gaat rechtstreeks naar de aanbieder, buiten PrivaSearch om. Zet er dus geen namen in.
Drie grenzen horen erbij. Gepseudonimiseerde gegevens blijven voor de organisatie persoonsgegevens. Herkenning is nooit volledig, daarom is de review door een mens verplicht. En de afweging of een toepassing bij leerlinggegevens past, met de DPIA en het oordeel van de functionaris gegevensbescherming, blijft van de school. Welke maatregelen en startdocumenten erbij horen, staat op de pagina over de AVG en de AI Act.
Wil je zien hoe het werkt, vraag dan een demo aan.
Alleen als de school dat heeft geregeld: een verwerkersovereenkomst met de aanbieder, een vastgesteld doel, een beoordeling van de risico's en zo min mogelijk gegevens. Op een gratis of persoonlijk account is daar niet aan voldaan. Kennisnet adviseert scholen daarom als hoofdregel om geen persoonsgegevens in generatieve AI in te voeren en met fictieve of anonieme gegevens te werken.
Niet alle AI in het onderwijs. De AI Act noemt vier toepassingen: toelating of toewijzing bepalen, leerresultaten beoordelen, het passende onderwijsniveau beoordelen en toezicht houden bij toetsen. Die zijn in beginsel hoog risico, met eisen die vanaf 2 december 2027 gelden. Lesmateriaal laten maken zonder leerlinggegevens valt daar niet onder.
Nee. De AI Act verbiedt sinds 2 februari 2025 AI-systemen die emoties van mensen afleiden in onderwijsinstellingen. De enige uitzondering is een systeem dat om medische of veiligheidsredenen wordt ingezet. Een hulpmiddel dat uit gezicht of stem afleidt of een leerling geconcentreerd of gespannen is, valt onder het verbod.
Het is niet verboden, maar het vraagt veel. Leerresultaten beoordelen met AI staat in de AI Act als hoog risico, en de AVG verbiedt in beginsel besluiten met grote gevolgen die volledig automatisch worden genomen. Een leraar moet de uitkomst controleren en ervan kunnen afwijken. Kennisnet raadt aan terughoudend te zijn, zeker met een algemene chatbot.
Meestal is toestemming niet de basis waarop een school gegevens verwerkt, en dus ook niet de oplossing voor AI. Vraagt een school wel toestemming, dan geldt voor kinderen jonger dan 16 jaar dat een ouder of verzorger die geeft. Belangrijker is dat de school ouders en leerlingen duidelijk vertelt welke hulpmiddelen zij gebruikt en wat er met gegevens gebeurt.
Liever niet in opdracht van de school. Volgens Kennisnet verwerkt de aanbieder dan gegevens van leerlingen zonder dat de school daar afspraken over heeft, waardoor de school geen grip heeft op wat ermee gebeurt. Het advies is accounts van de school te gebruiken, leerlingen te leren geen persoonsgegevens in te voeren en te letten op leeftijdsgrenzen in de voorwaarden.
Waar een geüpload bestand terechtkomt, hoe lang het blijft staan, wie erbij kan en wat verwijderen betekent. Met vier routes voor dossiers.
Wat ChatGPT van je opslaat, wie erbij kan, hoe je training uitzet en wat tijdelijke chats, geheugen en gedeelde links doen. Met een stappenplan.
Claude, Microsoft Copilot, Gemini en Mistral Vibe naast ChatGPT Business: training op invoer, overeenkomst, datalocatie en beheer. Stand oktober 2026.
We laten het zien met fictieve dossiers uit jouw branche: upload, herkenning, review, zoeken en de koppeling met je AI-assistent. Daarna weet je precies wat je team veilig kan gebruiken.
Plan een demo →