Regeln
Wann die Eingabe personenbezogener Daten in einen KI-Chatbot eine Datenpanne ist, wann Sie melden müssen und was Sie in den ersten 72 Stunden tun.
Sie melden sie der Autoriteit Persoonsgegevens, außer die Panne führt voraussichtlich nicht zu einem Risiko für die Menschen, um deren Daten es geht. Bei sensiblen Daten wie medizinischen Angaben oder einer niederländischen Bürgerservicenummer (BSN) mit Name und Anschrift besteht dieses Risiko in der Regel. Sie melden möglichst innerhalb von 72 Stunden.
Diese Regel steht in Art. 33 DSGVO. Die Prüfung hat zwei Schwellen. Für eine Meldung an die Aufsicht genügt ein Risiko. Für die Information betroffener Personen verlangt Art. 34 ein hohes Risiko. Sie nehmen also immer eine Einschätzung vor und dokumentieren sie.
Die DSGVO verwendet den Kurzbegriff Datenpanne nicht. Art. 4 Nr. 12 spricht von einer „Verletzung des Schutzes personenbezogener Daten“: einer Sicherheitsverletzung, die unbeabsichtigt oder unrechtmäßig zu Vernichtung, Verlust, Veränderung, unbefugter Offenlegung oder unbefugtem Zugang zu personenbezogenen Daten führt.
Die Autoriteit Persoonsgegevens (AP) fasst dies auf was ist eine Datenpanne zusammen: Es geht um unerlaubten oder unbeabsichtigten Zugang zu personenbezogenen Daten aufgrund einer Sicherheitsverletzung. Sie unterscheidet drei Arten.
Vorsatz ist nicht erforderlich: Die Definition sagt „unbeabsichtigt oder unrechtmäßig“. Bei einem KI-Chatbot geht es fast immer um die erste Art. Die Daten sind weder weg noch verändert. Sie sind bei einer Partei gelandet, die sie nicht hätte erhalten dürfen.
Die AP veröffentlichte am 6. August 2024 Achtung: Nutzung eines KI-Chatbots kann zu Datenpannen führen. Darin schreibt sie, mehrere Meldungen erhalten zu haben, weil Mitarbeitende personenbezogene Daten etwa von Patienten oder Kunden mit einem KI-Chatbot teilten. Dadurch können die Unternehmen hinter dem Chatbot unbefugten Zugang erhalten.
Die AP nennt zwei Beispiele. In einer Hausarztpraxis hatte ein Mitarbeiter entgegen den Vereinbarungen medizinische Patientendaten eingegeben. Bei einem Telekommunikationsunternehmen hatte ein Mitarbeiter eine Datei mit unter anderem Kundenanschriften eingegeben.
Im Kern unterscheidet die Mitteilung zwei Situationen.
Organisationen müssen laut AP beide Situationen verhindern. Der zweite Punkt wird oft übergangen. Eine erlaubende Richtlinie macht die Eingabe nicht zur Datenpanne, löst aber die übrigen Fragen nicht: Sie brauchen weiterhin Rechtsgrundlage, Anbietervereinbarung und gegebenenfalls eine Übermittlungsgrundlage. Das erläutert ChatGPT, Claude, Mistral Vibe und die DSGVO.
Die AP endet mit drei Empfehlungen. Treffen Sie klare Vereinbarungen mit Mitarbeitenden über KI-Chatbots. Erlauben Sie die Nutzung, erklären Sie, welche Daten eingegeben werden dürfen und welche nicht. Prüfen Sie, ob Sie mit dem Anbieter die Nicht-Speicherung der Eingaben vereinbaren können. Geht dennoch etwas schief, ist laut Mitteilung die Meldung an AP und Betroffene „in vielen Fällen verpflichtend“.
Die Tabelle stellt häufige Situationen gegenüber. Sie unterstützt Ihre eigene Einschätzung und ersetzt sie nicht. Wo „hängt ab“ steht, entscheidet die Risikoabwägung im nächsten Abschnitt.
| Situation | Ist es eine Datenpanne? | Der AP melden? | Betroffene informieren? |
|---|---|---|---|
| Mitarbeiter gibt entgegen Vereinbarungen medizinische Daten in ein Privatkonto ein | Ja, laut AP | In der Regel ja: Bei Gesundheitsdaten ein hohes Risiko berücksichtigen | Wahrscheinlich ja; abhängig von genauer Eingabe und Zuordenbarkeit |
| Mitarbeiter gibt entgegen Vereinbarungen eine Kundenliste mit Namen und Anschriften in ein Privatkonto ein | Ja, laut AP | Abhängig von Menge, Sensibilität und Datennutzung des Anbieters | Nur bei voraussichtlich hohem Risiko |
| Mitarbeiter gibt BSN mit Name und Anschrift in ein Privatkonto ein | Ja, laut AP | In der Regel ja: Die AP nennt diese Kombination wegen Betrugsrisikos sensibel | Abhängig vom Missbrauchsrisiko; Abwägung dokumentieren |
| Mitarbeiter nutzt geschäftlichen KI-Dienst der Organisation entsprechend der Richtlinie | Nein | Nicht anwendbar | Nicht anwendbar |
| Richtlinie erlaubt einen Verbraucherchatbot für Kundendaten | Laut AP keine Datenpanne, häufig aber rechtlich unzulässig | Keine Datenpannenmeldung; eine zu korrigierende Verarbeitung | Nicht aufgrund der Meldepflicht |
| Mitarbeiter gibt Text mit vorab pseudonymisierten personenbezogenen Daten ein | Abhängig von Vereinbarungen und verbleibender Zuordenbarkeit | Abhängig; Pseudonymisierung senkt das Risiko | Meist nicht; abhängig von Zuordenbarkeit |
| Anbieter des geschäftlichen KI-Diensts meldet selbst einen Sicherheitsvorfall | Ja, wenn Ihre Daten betroffen sind | Abhängig vom Risiko; Frist läuft ab seiner Meldung | Nur bei voraussichtlich hohem Risiko |
| Mitarbeiter gibt Text ohne personenbezogene Daten ein | Nein | Nicht anwendbar | Nicht anwendbar |
Die AP nennt auf Datenpanne melden oder nicht Faktoren für eine objektive Abwägung:
Beim Chatbot stellt sich die Frage, wer Empfänger ist und was er mit Eingaben macht. Das unterscheidet sich je Konto. Auf Privatkonten gelten Verbraucherbedingungen; Eingaben können gespeichert und abhängig von Nutzereinstellungen zum Modelltraining verwendet werden. Ihre Organisation kennt die Einstellungen des Kollegen nicht.
Als vertrauenswürdigen Empfänger nennt die AP eine Partei mit Geschäftsbeziehung zu Ihnen, etwa einen festen Lieferanten. Ein Anbieter ohne Vertrag mit Ihrer Organisation fällt nicht darunter. Können Sie die Eingaben löschen lassen und bestätigt der Anbieter dies, dokumentieren Sie es. Es senkt das Risiko, macht die Panne aber nicht rückgängig. Was Anbieter je Abonnement mit Dateien tun, steht in Dokumente in einen KI-Chatbot hochladen.
Im Zweifel ist die AP eindeutig: Gehen Sie auf Nummer sicher und melden Sie.
Die Frist beginnt nicht beim Vorfall, sondern bei dessen Bekanntwerden. Die europäischen Aufsichtsbehörden erläutern dies in ihren Leitlinien zur Meldung von Datenschutzverletzungen: Kenntnis besteht, sobald Sie mit angemessener Sicherheit wissen, dass personenbezogene Daten beeinträchtigt wurden. Eine kurze Erstuntersuchung ist erlaubt, wenn sie sofort beginnt.
Art. 33 Abs. 3 nennt vier Teile: Art der Verletzung mit möglichst Kategorien und ungefährer Zahl betroffener Personen und Datensätze, Kontaktdaten des Datenschutzbeauftragten oder anderer Anlaufstelle, wahrscheinliche Folgen und getroffene oder vorgeschlagene Maßnahmen.
Kommt die Panne von einem vertraglich gebundenen Anbieter, muss er Sie unverzüglich informieren. Er muss nicht erst selbst das Risiko abwägen: Das tun Sie. Wie schnell er sich zur Meldung verpflichtet, unterscheidet sich je Vertrag. Unterschiede stehen in Auftragsverarbeitungsvertrag mit einem KI-Anbieter.
Art. 33 Abs. 5 verpflichtet zur Dokumentation aller Verletzungen: Fakten, Folgen und Abhilfemaßnahmen. Damit kann die Aufsicht Ihre Meldepflicht prüfen. Die europäischen Aufsichtsbehörden empfehlen ein internes Register aller Verletzungen, ob meldepflichtig oder nicht. Die AP bietet auf ihrer Seite zu Datenpannen ein Beispielregister an.
Für eine Panne über einen Chatbot dokumentieren Sie mindestens:
Die AP-Empfehlungen sind der Anfang. In der Praxis kommt mehr hinzu.
PrivaSearch ist für die Ursache solcher Pannen gemacht: Ein Mitarbeiter möchte eine Frage zur Akte beantwortet haben, und die ganze Akte geht mit. In PrivaSearch werden personenbezogene Daten erst erkannt und durch Pseudonyme ersetzt. Ein Kollege sieht Original und pseudonymisierten Text nebeneinander und gibt frei. Erst danach ist ein Dokument durchsuchbar. Das Vorgehen steht auf so funktioniert PrivaSearch.
Ein verbundener KI-Assistent sucht nur in freigegebenen Textstellen und erhält keine Originaldateien, Dateinamen oder Links. Enthält eine Suchfrage an PrivaSearch dennoch einen Namen, wird er vor der Suche ersetzt. Die Verbindung funktioniert mit Claude, ChatGPT Business und Mistral Vibe. Handlungen werden protokolliert.
Zwei Grenzen gehören dazu. Automatische Erkennung ist nie vollständig; deshalb ist menschliche Prüfung Pflicht. Und was Mitarbeitende selbst in den Assistenten eingeben, geht direkt an dessen Anbieter, an PrivaSearch vorbei. Pseudonymisierte Daten bleiben für Ihre Organisation zudem personenbezogene Daten. Meldepflicht und Abwägung bleiben daher Ihre Aufgabe. Risiken unkontrollierter Nutzung stehen auf die Risiken von KI bei Ihren Akten.
Mitarbeitende absolvieren in PrivaSearch eine kurze KI-Kompetenzschulung mit regelmäßiger Wiederholung. Möchten Sie es sehen, fragen Sie eine Demo an.
Laut Autoriteit Persoonsgegevens ja, wenn dies eigenständig und entgegen den Arbeitgebervereinbarungen geschieht. Der Chatbot-Anbieter erhält dann unerlaubt Zugang zu personenbezogenen Daten. Gehört die Nutzung dagegen zur Organisationsrichtlinie, ist es laut Aufsicht keine Datenpanne, häufig aber rechtlich unzulässig.
Unverzüglich und möglichst innerhalb von 72 Stunden nach Bekanntwerden. Die Frist beginnt also nicht beim Vorfall selbst, sondern wenn Sie mit angemessener Sicherheit wissen, dass personenbezogene Daten betroffen sind. Bei späterer Meldung geben Sie den Grund an. Fehlende Informationen dürfen Sie anschließend schrittweise ergänzen.
Nein. Sie melden, außer die Panne führt voraussichtlich nicht zu einem Risiko für die betroffenen Menschen. Diese Einschätzung nehmen Sie selbst vor, unter anderem anhand von Sensibilität, Zuordenbarkeit und Empfänger. Im Zweifel empfiehlt die Aufsicht die Meldung. Dokumentation im eigenen Register ist immer Pflicht.
Wenn die Panne voraussichtlich ein hohes Risiko für sie birgt. Diese Schwelle ist höher als bei der Aufsichtsmeldung. Informieren Sie unverzüglich und verständlich über Geschehen, mögliche Folgen und Maßnahmen. Es ist nicht nötig, wenn die Daten zuvor etwa durch Verschlüsselung unverständlich gemacht wurden oder Sie das hohe Risiko nachträglich beseitigt haben.
Fakten der Verletzung, Folgen und getroffene Abhilfemaßnahmen. Das gilt für jede Verletzung, auch ungemeldete. Dokumentieren Sie zusätzlich die Risikoabwägung und Gründe für oder gegen die Meldung. Die Aufsicht kann das Register anfordern, um die Einhaltung der Meldepflicht zu prüfen.
Ja. Melden Sie eine Panne zu Unrecht nicht der Autoriteit Persoonsgegevens, kann sie ein Bußgeld verhängen. Informieren Sie Betroffene zu Unrecht nicht, kann sie Sie dazu verpflichten. Die konkrete Beurteilung hängt von den Umständen ab. Halten Sie deshalb je Vorfall Ihre Abwägung und deren Gründe fest.
Was die AIIA des niederländischen Infrastrukturministeriums ist, für wen sie Pflicht ist, wie sie aufgebaut ist und wie sie sich zu IAMA und DSFA verhält.
Die Mitgliedstaaten wollen KI-Verarbeitung auf berechtigtes Interesse stützen und Pseudonymisierung neu regeln. Was wirklich drinsteht und was Sie jetzt tun.
Der Zeitplan des AI Act nach dem digitalen Omnibus: Was bereits gilt, was auf 2027 und 2028 verschoben wurde und was Sie als KI-Nutzer jetzt regeln.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →