Technik
Warum Software, die Namen, Adressen und Nummern in Akten aufspürt, immer etwas übersieht oder zu viel schwärzt, und wie eine menschliche Prüfung das auffängt.
Gut genug, um viel Arbeit zu sparen, nie gut genug, um ihr blind zu vertrauen. Software findet Nummern mit fester Form recht sicher, übersieht aber Namen, die wie gewöhnliche Wörter aussehen, und erkennt selten, dass eine Funktion oder ein Ort jemanden erkennbar macht. Umgekehrt schwärzt sie Wörter, die keine Person sind. Deshalb gehört ein Mensch dazu.
Dieser Artikel behandelt die Technik hinter dieser Erkennung und das, was die DSGVO von ihr erwartet. Den Unterschied zwischen Pseudonymisieren und Anonymisieren erklärt Pseudonymisieren oder anonymisieren: Der Unterschied und warum er für KI relevant ist. Welche Daten Sie in einen Chatbot eingeben dürfen, lesen Sie in Dürfen Kundendaten in ChatGPT, Claude oder Mistral Vibe?.
Mehr als Namen. Die DSGVO erfasst in Artikel 4 Nummer 1 jede Information über eine natürliche Person, die direkt oder indirekt identifiziert werden kann, etwa anhand eines Namens, einer Kennnummer, von Standortdaten oder eines oder mehrerer Merkmale der physischen, wirtschaftlichen, kulturellen oder sozialen Identität. Erwägungsgrund 26 ergänzt, dass alle Mittel zu berücksichtigen sind, die nach allgemeinem Ermessen wahrscheinlich genutzt werden, um eine Person zu identifizieren.
Für ein Dokument bedeutet das drei Ebenen.
Software ist auf der ersten Ebene am stärksten. Die zweite und die dritte verlangen ein Verständnis des Textes und der Welt um ihn herum.
Jede Erkennung, ob von Hand oder per Software, macht zwei Arten von Fehlern. In der Sprache der Statistik heißen sie falsch-positiv und falsch-negativ. In einer Akte bedeutet das: zu viel geschwärzt oder zu wenig geschwärzt.
Ein Wort, das wie ein Name aussieht, wird ersetzt, obwohl es keine Person ist. „De bakker“ (der Bäcker) in einem Mietvertrag, der Monat Mai, die Farbe Grün, der Name einer Gemeinde oder die Belastingdienst als Behörde, oder ein Etikett wie „Name:“ über einem leeren Feld. Die Folge ist ein Text, der sich schlechter liest, und Antworten, die weniger brauchbar sind. Eine Suche nach der Kündigungsfrist beim Bäcker findet nichts mehr, wenn „Bäcker“ zu einem Code geworden ist.
Das ist vor allem ein Qualitätsproblem. Wer zu viel davon bekommt, beginnt der Erkennung zu misstrauen oder sie zu umgehen, und das wird auf Dauer auch ein Datenschutzproblem.
Ein personenbezogenes Datum bleibt stehen. Ein Nachname, der auch ein gewöhnliches Wort ist, ein Name in einer E-Mail-Signatur ganz unten, ein falsch geschriebener Name oder ein Name in einem Scan, dessen Text schlecht extrahiert wurde. Dazu kommen die indirekten Daten: „die einzige Partnerin der Kanzlei im Osten des Landes“ enthält keinen Namen und weist trotzdem auf eine Person.
Das ist das Datenschutzproblem. Was stehen bleibt, geht mit zu dem, der den Text danach liest, auch zu einem KI-Modell.
Die beiden Fehler ziehen gegeneinander. Stellen Sie die Erkennung strenger ein, übersieht sie weniger und schwärzt mehr zu Unrecht. Stellen Sie sie lockerer ein, liest sich der Text besser und es rutscht mehr durch. Ein Anbieter, der einen hohen Prozentsatz nennt, sagt deshalb wenig, solange unklar ist, welcher Fehler gezählt wurde, an welchen Dokumenten und in welcher Sprache. Messen Sie es an Ihren eigenen Arten von Akten.
| Fehler | Beispiel | Folge | Was hilft |
|---|---|---|---|
| Zu viel geschwärzt | „bakker“, „Mai“, eine Behörde, ein Etikett wie „Name:“ | Der Text liest sich schlecht, die Suche findet weniger | Eine Liste von Wörtern, die nie eine Person sind, und ein Mensch, der falsche Markierungen zurücknimmt |
| Ein Name übersehen | Ein Nachname, der auch ein gewöhnliches Wort ist, eine Signatur, ein Tippfehler | Ein personenbezogenes Datum geht mit zum Leser | Ein Mensch, der das Original neben dem bearbeiteten Text sieht |
| Ein indirektes Datum übersehen | Eine seltene Funktion, ein kleiner Ort, ein einmaliges Ereignis | Jemand ist ohne Namen erkennbar | Eine Prüfung durch jemanden, der die Akte und den Zusammenhang kennt |
| Ein sensibles Datum übersehen | Eine Diagnose oder eine Verurteilung in einem Nebensatz | Ein besonderes oder strafrechtliches Datum gelangt mit hinaus | Absprachen darüber, welche Akten besondere Aufmerksamkeit bekommen |
| Ungleich ersetzt | Dieselbe Person bekommt zwei Codes, oder zwei Personen einen | Der Text wird unverständlich oder irreführend | Pseudonyme, die innerhalb eines Projekts für denselben Namen gleich bleiben |
Der Unterschied liegt in der Form. Eine BSN, eine IBAN, eine Postleitzahl und ein Kennzeichen haben einen festen Aufbau. Ein Muster findet sie zuverlässig, und ein Fehler ist meist eine Zahl, die zufällig dieselbe Form hat. Ein Name hat keine feste Form. Dafür braucht es ein Sprachmodell, das aus dem Satz erschließt, ob ein Wort eine Person ist.
Drei Dinge machen es schwieriger.
Deshalb ist es sinnvoll, je Datenart anders zu denken. Nummern mit fester Form überlassen Sie der Software und prüfen sie stichprobenartig. Namen prüfen Sie je Dokument. Indirekte und sensible Daten brauchen jemanden, der weiß, worum es in der Akte geht.
Die DSGVO schreibt keine Technik vor, wohl aber eine Haltung. Artikel 25 verlangt Datenschutz durch Technikgestaltung und nennt die Pseudonymisierung als Beispiel einer geeigneten Maßnahme. Artikel 32 nennt Pseudonymisierung und Verschlüsselung bei der Sicherheit der Verarbeitung. Erwägungsgrund 28 sagt, dass die Pseudonymisierung die Risiken für die betroffenen Personen senken kann und andere Maßnahmen nicht ausschließt.
Das Letzte ist der Kern. Pseudonymisieren senkt das Risiko, aber es nimmt ein Dokument nicht aus der DSGVO heraus. Erwägungsgrund 26 sagt es ausdrücklich: Pseudonymisierte Daten, die mit zusätzlichen Informationen einer Person zugeordnet werden können, gelten als Informationen über eine identifizierbare Person. Für die Organisation, die den Schlüssel aufbewahrt, bleiben es also personenbezogene Daten, mit einer Rechtsgrundlage, einem Eintrag im Verarbeitungsverzeichnis und, wo nötig, einer DSFA.
Die europäischen Aufsichtsbehörden veröffentlichten im Januar 2025 Leitlinien zur Pseudonymisierung, mit einem rechtlichen und einem technischen Teil. Auf dieser Seite steht die Konsultationsfassung; eine endgültige Fassung ist dort nicht zu finden (Stand November 2026). Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, fasste die Leitlinien in ihrer Meldung dazu zusammen: Pseudonymisieren ist eine Sicherheitsmaßnahme, die Daten schwerer rückführbar macht und die Folgen einer Datenpanne verringern kann.
Eine Erkennung, die systematisch etwas übersieht, ist also eine schwache Maßnahme. Was dann doch bei einem KI-Dienst landet, kann eine Datenpanne sein. Die AP hat bereits davor gewarnt, nach Meldungen über personenbezogene Daten, die Mitarbeitende in einen KI-Chatbot eingegeben hatten. Wie Sie beurteilen, ob Sie melden müssen, steht in Datenpanne durch einen KI-Chatbot: wann müssen Sie die AP benachrichtigen?.
Eine Prüfung hilft nur, wenn sie wirklich stattfindet und wenn der Prüfende sieht, was die Software getan hat. Fünf Absprachen machen den Unterschied.
Nehmen Sie diese Absprachen in Ihre KI-Richtlinie auf. Siehe Eine KI-Richtlinie für Ihre Organisation erstellen: Schritte und Beispiel.
PrivaSearch sitzt zwischen Ihren Dokumenten und dem KI-Modell. Ein Sprachmodell innerhalb von PrivaSearch und niederländische Muster finden Namen, Adressen, BSNs, IBANs, Kennzeichen und Geburtsdaten. Bei diesem Schritt schaut kein externer KI-Anbieter zu. Die gefundenen Daten werden durch Pseudonyme ersetzt, die innerhalb eines Projekts für denselben Namen immer gleich sind.
Weil die automatische Erkennung nie vollständig ist, ist die menschliche Prüfung verpflichtend. Ein Kollege sieht das Original und den pseudonymisierten Text nebeneinander, korrigiert, was das Modell übersehen hat, und gibt ausdrücklich frei. Erst danach wird ein Dokument durchsuchbar, in PrivaSearch selbst oder über einen verbundenen KI-Assistenten. Die Schritte stehen auf So funktioniert PrivaSearch.
Ein KI-Assistent, der über die Verbindung sucht, erhält nur freigegebene, pseudonymisierte Textstellen, keine Originaldateien, Dateinamen oder Links. Was Sie selbst in den Assistenten eingeben, geht direkt an den Anbieter, an der Pseudonymisierung vorbei. Geben Sie dort also keine Namen ein. Das Gesamtbild steht auf ChatGPT, Claude, Mistral Vibe und die DSGVO.
Möchten Sie sehen, wie die Prüfung mit Ihrer eigenen Art von Akte aussieht? Fragen Sie eine Demo an.
Nein. Software findet Daten mit fester Form, etwa eine BSN oder eine IBAN, recht zuverlässig, übersieht aber Namen, die wie gewöhnliche Wörter aussehen, Namen in einem schlechten Scan und Daten, die jemanden nur in Kombination erkennbar machen. Deshalb gehört zur automatischen Erkennung immer eine menschliche Prüfung.
Ein Falsch-positiv ist ein Wort, das als personenbezogenes Datum geschwärzt wird, obwohl es keines ist, etwa „Bäcker“ als Beruf, der Monat Mai oder der Name einer Behörde. Es gelangt nichts hinaus, aber der Text liest sich schlechter und die Suche liefert weniger. Zu viele solcher Fehler führen dazu, dass Menschen die Erkennung umgehen.
Nein. Pseudonymisierte Daten bleiben für die Organisation, die die Zuordnung aufbewahrt, personenbezogene Daten, sagt Erwägungsgrund 26 der DSGVO. Außerdem kann ein Text ohne Namen jemanden durch eine Funktion, einen Ort oder ein Ereignis noch erkennbar machen. Anonym ist ein Dokument erst, wenn niemand nach allgemeinem Ermessen noch herausfinden kann, um wen es geht.
Die DSGVO nennt bei der Pseudonymisierung keine menschliche Prüfung. Sie verlangt aber geeignete Maßnahmen und Datenschutz durch Technikgestaltung. Eine Erkennung, von der bekannt ist, dass sie Dinge übersieht, ohne Prüfung dahinter, ist schwer als geeignet zu verteidigen. In der Praxis ist die Prüfung deshalb der Teil, der die Maßnahme wirksam macht.
Indem Sie sie an Ihren eigenen Dokumenten messen. Lassen Sie einen Kollegen eine Reihe von Akten prüfen und notieren Sie, was ergänzt und was zu Unrecht geschwärzt wurde. Ein Prozentsatz eines Anbieters sagt wenig, solange unbekannt ist, welcher Fehler gezählt wurde, an welchen Dokumenten und in welcher Sprache.
Ja, sofern Sie wissen, wo dieses Modell läuft. Geht das ganze Dokument zuerst an einen externen KI-Dienst, um darin personenbezogene Daten zu finden, hat dieser Dienst die personenbezogenen Daten bereits gesehen, und es gilt alles, was zur Weitergabe an einen Anbieter gehört. Eine Erkennung, die in Ihrer eigenen Umgebung stattfindet, verhindert das.
Microsoft stellt Q&A in Power BI ein und verweist auf Copilot, das Fabric-Kapazität braucht. Was entfällt, was verlangt die Alternative, was ist mit Dokumenten?
Ein kleines Fenster im Arbeitsbereich zeigt, wo Ihr Assistent gesucht und welche Dokumente er gefunden hat. Der Assistent selbst erhält die Namen nicht.
GreenPT arbeitet an MCP mit Anmeldung. Was eine Verbindung mit PrivaSearch dann bietet: Suche in Ihren Akten mit pseudonymisierten Passagen.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →