KI und Datenschutz
Wie Schulen KI nutzen, warum Schülerdaten besonders geschützt sind, welche Anwendungen verboten oder hochriskant sind und was eine Schule regeln muss.
KI in der Bildung ist zulässig, aber mit Schülerdaten darf eine Schule wenig tun. Sie darf sie nur mit Auftragsverarbeitungsvertrag, klarem Zweck, Risikobeurteilung und möglichst wenigen Daten in einem KI-Chatbot verarbeiten. Ein kostenloses oder privates Konto erfüllt das nicht. Die Empfehlung aus dem Bildungsbereich selbst lautet: keine personenbezogenen Daten eingeben.
Die Nutzung besteht bereits. Schüler nutzen KI für Hausaufgaben, Lehrkräfte zur Unterrichtsvorbereitung. Dieser Artikel behandelt den zulässigen Umgang mit Schülerdaten: Was die DSGVO zu Kindern sagt, was die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, Kennisnet und SURF veröffentlicht haben und was der AI Act verbietet oder als hohes Risiko einstuft. Wir haben die Quellen am 13. Oktober 2026 geprüft. Es ist eine Erklärung und keine Rechtsberatung.
Die AP beschreibt die Entwicklung in ihrer Mitteilung zu Datenschutzrisiken digitaler Lernmittel vom März 2026: Hefte und Stifte wurden durch Laptops, Software und KI ersetzt, mit denen Schulen Fortschritte verfolgen, individualisierten Unterricht anbieten und Lehrkräfte entlasten. Die Kehrseite laut AP: Anbieter verarbeiten viele personenbezogene Schülerdaten, auch sensible Angaben über Leistung und Verhalten.
| Anwendung | Welche Daten | Was Sie regeln |
|---|---|---|
| Unterrichtsmaterial oder Test erstellen lassen | Keine Schülerdaten nötig | Vereinbarung, dass Fragen keine Namen oder Akten enthalten; Lehrkraft prüft Ergebnis |
| E-Mail an Eltern oder Bericht schreiben lassen | Name, Notizen zu Verhalten oder häuslicher Situation | Nicht in einem allgemeinen Chatbot; fiktive Namen nutzen oder selbst schreiben |
| Tests korrigieren oder Noten vorschlagen lassen | Name, Klasse, Arbeit, Ergebnis | Hohes Risiko nach AI Act; DSFA, echte Beurteilung durch Lehrkraft, Offenheit gegenüber Schüler und Eltern |
| Förderplan oder Betreuungsakte zusammenfassen | Gesundheit, Verhalten, Untersuchungsergebnisse | Besondere Daten: nur mit DSGVO-Ausnahme in einer Umgebung mit Auftragsverarbeitungsvertrag oder nicht tun |
| Schüler selbst mit Chatbot arbeiten lassen | Kontodaten, sämtliche Eingaben | Schulkonten statt Privatkonten; Altersgrenzen der Bedingungen beachten |
| KI-Prüfungsüberwachung | Bild, Ton, Verhalten während der Prüfung | Hohes Risiko nach AI Act; Emotionen abzuleiten ist verboten |
| Stundenpläne und allgemeine Verwaltung | Namen von Mitarbeitenden, manchmal Schülern | Auftragsverarbeitungsvertrag; ungefragt aktivierte KI-Funktionen prüfen |
Stand: 13. Oktober 2026. Die Tabelle ist ein Hilfsmittel und keine Einstufung Ihrer Anwendung.
Eine Betreuungsperson am erfundenen Voorbeeldcollege möchte ein Elterngespräch vorbereiten. Sie kopiert ihre Notizen über einen Schüler in einen kostenlosen Chatbot: seinen Namen, häufige Fehlzeiten und die Scheidung seiner Eltern. Die Notizen liegen anschließend bei einem Anbieter ohne Schulvereinbarung, auf einem von der Schule nicht verwalteten Konto.
Erwägungsgrund 38 DSGVO besagt, dass Kinder besonderen Schutz ihrer personenbezogenen Daten verdienen, weil sie Risiken, Folgen und Rechte weniger kennen. Das gilt besonders für Marketing, Persönlichkeits- oder Nutzerprofile und unmittelbar an Kinder gerichtete Dienste.
Das wirkt sich auf das restliche Gesetz aus. Bei berechtigten Interessen sagt Artikel 6, dass die Interessen der betroffenen Person überwiegen können, „insbesondere dann, wenn es sich bei der betroffenen Person um ein Kind handelt“. Informationen für Kinder müssen außerdem so einfach sein, dass Kinder sie verstehen.
Die AP setzt die Grenze bei 16 Jahren. Auf ihrer Seite zur Rechtsgrundlage Einwilligung steht, dass Kinder unter 16 nicht selbst wirksam einwilligen können: Ein Elternteil oder Sorgeberechtigter tut dies, und die Organisation muss die Prüfung nachweisen können. Kinder ab 12 dürfen ihre Einwilligung selbst widerrufen.
Zum Bildungsbereich schrieb die AP in der Mitteilung zu ihrem Sektorbild Bildung, dass Kinder und Jugendliche wegen ihrer verletzlichen Position besonderen Schutz benötigen, um sich frei und sicher zu entwickeln. In derselben Mitteilung nennt sie Algorithmen und KI als Themen für weitere Richtlinien und stellt geringe Kontrolle über die Softwarenutzung in Bildungseinrichtungen fest.
Eine Schule verarbeitet die meisten Schülerdaten, weil sie unterrichten muss, nicht weil Eltern zugestimmt haben. Eltern und Schüler stehen der Schule außerdem nicht gleichberechtigt gegenüber, und Einwilligung ist widerrufbar. Wie die sechs Rechtsgrundlagen funktionieren, erklärt unser Artikel zu DSGVO-Rechtsgrundlagen.
Die AP listet auf ihrer Seite zur Schülerakte mögliche Inhalte: An- und Abmeldung, Abwesenheit, Fortschritte und Ergebnisse, Elterngesprächsberichte, für besondere Begleitung nötige Gesundheitsdaten und Ergebnisse eventueller psychologischer Untersuchungen.
Die Akte ist laut AP sensibel, weil Entwicklung und Verhalten systematisch verfolgbar sind, besondere Kategorien personenbezogener Daten enthalten sind und Kinder besonders verletzlich sind.
Gesundheitsdaten fallen unter Artikel 9 DSGVO. Die Verarbeitung ist ohne Ausnahme verboten; eine gewöhnliche Rechtsgrundlage genügt dann nicht. Eine Betreuungsakte oder einen Förderplan im Chatbot zusammenzufassen ist deshalb etwas anderes, als einen Test erstellen zu lassen. Die Erklärung steht im Artikel zu besonderen Kategorien personenbezogener Daten.
Die AP nennt bei Schülerakten weitere unmittelbar relevante Regeln: nur zwecknotwendige Daten verarbeiten, Zugriff auf nötige Personen begrenzen, Verarbeitung ins Verarbeitungsverzeichnis aufnehmen und bei hohem Risiko eine DSFA durchführen. Die allgemeine Aufbewahrungsfrist beträgt zwei Jahre nach dem Schulabgang. Eine Kopie im Chatverlauf wird dadurch nicht bereinigt; siehe den Artikel zu Aufbewahrungsfristen.
Die AP hat keine eigenen Regeln für Schulchatbots veröffentlicht. In ihrer Mitteilung vom März 2026 fordert sie Schulen und Anbieter aber zu guten Vereinbarungen und Offenheit auf. Schulen müssen bestehende Verträge kritisch prüfen und nötigenfalls anpassen lassen, gegebenenfalls gemeinsam über Organisationen wie SIVON und Kennisnet. Anbieter und Schulen sollen erläutern, wie Schülerdaten geschützt und aufbewahrt werden und ob sie zur Profilbildung oder zum KI-Training dienen.
Kennisnet, die IT-Organisation für niederländische Grund-, Sekundar- und mittlere Berufsbildung, hat eine KI-Handreichung für Schulen mit einem Datenschutzteil. Die wichtigsten Punkte kurz:
Kennisnet warnt, dass sich Daten aus Trainingsdaten nahezu nicht mehr entfernen lassen. Die Beispielvereinbarung in den Schulvereinbarungen zu generativer KI ist deshalb kurz: keine personenbezogenen Daten eingeben.
SURF, die IT-Kooperative für niederländische mittlere Berufsbildung, Fachhochschulen und Universitäten, ließ eine DSFA zu Microsoft 365 Copilot durchführen. Die zweite Aktualisierung vom 27. Mai 2026 steht in SURFs Mitteilung: Zwei Risiken bleiben „orange“, und Einrichtungen sollen weiterhin zurückhaltend sein, die Eignung je Nutzung prüfen und Risiken abwägen. Eines betrifft Diagnosedaten, die bis zu 18 Monate gespeichert werden. Das ist der Stand vom Mai 2026; prüfen Sie Änderungen.
Der VO-raad übernahm die erste Empfehlung Ende 2024 für Schulträger, mit einem wichtigen Detail: Laut dieser Mitteilung untersuchte die DSFA Mitarbeitende und erwachsene Studierende, weil die kostenpflichtige Bildungslizenz damals Minderjährigen nicht zur Verfügung stand. Eine Erwachsenenbeurteilung sagt deshalb nicht automatisch etwas über Schüler aus.
Im September 2026 kündigte SURF eine eigene Lösung an. Nach der Mitteilung zu SURF AI erhalten Mitglieder aus mittlerer Berufsbildung, Fachhochschulen und Universitäten ab Januar 2027 Zugang zu einer KI-Infrastruktur mit eigener Chatanwendung; die Einrichtungen entscheiden selbst über Zugänge zu Sprachmodellen.
Artikel 5 des AI Act (KI-Verordnung) verbietet KI-Systeme zur Ableitung menschlicher Emotionen am Arbeitsplatz und in Bildungseinrichtungen. Die Ausnahme sind medizinische oder Sicherheitsgründe. Das Verbot gilt seit dem 2. Februar 2025. Ein Hilfsmittel, das aus Gesicht oder Stimme Langeweile, Anspannung oder Beteiligung eines Schülers ableitet, dürfen Sie deshalb nicht einsetzen.
Anhang III Nummer 3 nennt vier Hochrisikoanwendungen in Bildung und Berufsausbildung.
Es gibt eine Ausnahme für Systeme ohne erhebliches Risiko, etwa bei einer eng begrenzten Verfahrensaufgabe. Die Ausnahme entfällt beim Profiling von Menschen. Das steht in Artikel 6, erläutert im Artikel Der AI Act erklärt.
Die Hochrisikoanforderungen für Anhang III sollten am 2. August 2026 wirksam werden. Der digitale Omnibus hat dies verschoben. Laut Europäischer Kommission trat die Änderung am 27. Juli 2026 in Kraft; die Regeln für Anhang III gelten ab dem 2. Dezember 2027. Den Hintergrund erklärt unser Artikel zum AI Act im Herbst 2026.
Die DSGVO gilt bereits, auch für eine Korrekturhilfe.
Ein allgemeiner Chatbot wurde nicht für Prüfungsbewertungen entwickelt. Nutzen Sie ihn trotzdem dafür, tun Sie etwas aus Anhang III. Kennisnet erläutert dieses Beispiel: Lässt eine Lehrkraft KI Noten vergeben, geht es um Lernergebnisbewertung, kann automatisierte Entscheidungsfindung nach DSGVO vorliegen und muss die Lehrkraft immer beaufsichtigen, das Ergebnis prüfen und davon abweichen können. Kennisnet empfiehlt Zurückhaltung, besonders bei dafür nicht vorgesehenen Hilfsmitteln.
Was eine Schule als Nutzer eines Hochrisikosystems künftig tun muss, listet Kennisnet in Die KI-Verordnung erfüllen: Gebrauchsanweisungen befolgen, fachkundige Aufsicht, Betrieb überwachen und Vorfälle melden, Schüler und Eltern bei KI-Mitentscheidung informieren und Grundrechtefolgen beurteilen. Letzteres behandelt unser Artikel zur FRIA.
Artikel 4 des AI Act gilt für jede KI nutzende Schule, auch außerhalb hohen Risikos. Seit Juli 2026 lautet die Pflicht: Maßnahmen zur Unterstützung der KI-Kompetenz von Mitarbeitenden ergreifen, ohne ein bestimmtes Niveau pro Person sicherstellen zu müssen. Mehr dazu in KI-Kompetenz ist verpflichtend.
Was ohne diese Schritte schiefgeht, steht im Artikel zu Schatten-KI. Den allgemeinen Überblick bietet unsere Seite zu KI-Chatbots und der DSGVO.
PrivaSearch ist weder Lernmittel noch Korrekturhilfe. Es beurteilt keine Schüler und trifft keine Entscheidungen. Es macht Dokumente für Mitarbeitende durchsuchbar, nachdem personenbezogene Daten durch Pseudonyme ersetzt wurden und ein Kollege dies geprüft hat. Die Schritte stehen auf So funktioniert PrivaSearch.
Für eine Organisation mit Akten heißt das: Ein KI-Assistent sucht in freigegebenen, pseudonymisierten Textstellen statt Originalen. Sie können Claude, ChatGPT Business und Mistral Vibe (früher Le Chat) verbinden. Eigene Eingaben im Assistenten gehen direkt an dessen Anbieter, an PrivaSearch vorbei. Geben Sie deshalb keine Namen ein.
Drei Grenzen gehören dazu. Pseudonymisierte Daten bleiben für die Organisation personenbezogene Daten. Erkennung ist nie vollständig, deshalb ist die menschliche Prüfung verpflichtend. Und die Abwägung zur Eignung für Schülerdaten mit DSFA und Urteil des Datenschutzbeauftragten bleibt Aufgabe der Schule. Maßnahmen und Ausgangsdokumente stehen auf der Seite zur DSGVO und zum AI Act.
Möchten Sie sehen, wie es funktioniert, fragen Sie eine Demo an.
Nur mit schulischer Regelung: Auftragsverarbeitungsvertrag, festgelegter Zweck, Risikobeurteilung und möglichst wenige Daten. Ein kostenloses oder privates Konto erfüllt dies nicht. Kennisnet empfiehlt Schulen deshalb grundsätzlich, keine personenbezogenen Daten in generative KI einzugeben und fiktive oder anonyme Daten zu nutzen.
Nicht jede KI. Der AI Act nennt vier Anwendungen: Zulassung oder Zuweisung bestimmen, Lernergebnisse bewerten, passendes Bildungsniveau bewerten und Prüfungen überwachen. Diese sind grundsätzlich hochriskant, mit Anforderungen ab dem 2. Dezember 2027. Unterrichtsmaterial ohne Schülerdaten erstellen zu lassen fällt nicht darunter.
Nein. Seit dem 2. Februar 2025 verbietet der AI Act KI-Systeme zur Ableitung menschlicher Emotionen in Bildungseinrichtungen. Die einzige Ausnahme sind medizinische oder Sicherheitsgründe. Ein Hilfsmittel, das aus Gesicht oder Stimme Konzentration oder Anspannung ableitet, fällt unter das Verbot.
Es ist nicht verboten, verlangt aber viel. KI-Lernergebnisbewertung gilt im AI Act als hohes Risiko, und die DSGVO verbietet grundsätzlich vollständig automatisierte Entscheidungen mit großen Folgen. Eine Lehrkraft muss das Ergebnis prüfen und davon abweichen können. Kennisnet empfiehlt Zurückhaltung, besonders mit allgemeinen Chatbots.
Meistens ist Einwilligung nicht die Grundlage schulischer Datenverarbeitung und deshalb auch keine KI-Lösung. Verlangt eine Schule Einwilligung, gibt sie bei unter 16-Jährigen ein Elternteil oder Sorgeberechtigter. Wichtiger ist die klare Information von Eltern und Schülern über genutzte Hilfsmittel und den Umgang mit Daten.
Besser nicht im Auftrag der Schule. Laut Kennisnet verarbeitet der Anbieter dann Schülerdaten ohne schulische Vereinbarungen; die Schule hat keine Kontrolle über die Verwendung. Empfohlen werden Schulkonten, die Vermittlung datensparsamer Eingaben und die Beachtung von Altersgrenzen in den Bedingungen.
Wo eine hochgeladene Datei landet, wie lange sie bleibt, wer Zugriff hat und was Löschen bedeutet. Mit vier Vorgehensweisen für personenbezogene Akten.
Was ChatGPT speichert, wer darauf zugreifen kann und wie Sie Training ausschalten. Dazu temporäre Chats, Erinnerungen und geteilte Links mit Checkliste.
Claude, Microsoft Copilot, Gemini und Mistral Vibe neben ChatGPT Business: Training, Verträge, Datenstandort und Verwaltung. Stand Oktober 2026.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →