Richtlinien
Mitarbeitende nutzen KI-Chatbots oft ohne Wissen der Organisation. Was dahintersteckt, was schiefgehen kann und wie Sie schrittweise Kontrolle gewinnen.
Schatten-KI ist die Nutzung von KI-Tools für die Arbeit, ohne dass die Organisation davon weiß, sie freigegeben oder Vereinbarungen dazu getroffen hat. Denken Sie an einen Mitarbeiter, der mit einem privaten Konto einen Kundenbrief in ChatGPT, Claude oder Mistral Vibe umschreiben lässt. Meist geschieht es in guter Absicht, und gerade deshalb bleibt es lange unbemerkt.
Der Begriff leitet sich von Schatten-IT ab: Software und Geräte, die Mitarbeitende selbst außerhalb der IT-Abteilung beschaffen. Der Unterschied liegt in den eingegebenen Inhalten. Eine eigene Aufgabenliste enthält wenig. In ein Chatfenster fügen Sie in Sekunden eine ganze Akte ein.
Nicht jede Form ist gleich riskant. Einen Marketingtext ohne personenbezogene Daten redigieren zu lassen ist etwas anderes als eine Personalakte hochzuladen. Welche Daten in einen Chatbot gehören und welche nicht, lesen Sie in den Regeln je Datenart.
Selten aus mangelndem Willen zur Zusammenarbeit. Wer nachfragt, hört fast immer dieselben Gründe.
Die Autoriteit Persoonsgegevens (AP) beschreibt dasselbe Bild. In ihrer Warnung zu KI-Chatbots und Datenpannen vom August 2024 schreibt die Aufsichtsbehörde, dass viele Menschen am Arbeitsplatz digitale Assistenten nutzen, beispielsweise für Kundenfragen oder die Zusammenfassung großer Akten, und dies oft eigeninitiativ tun.
Groß genug, um davon auszugehen, dass es auch bei Ihnen vorkommt. Belastbare, repräsentative Zahlen für die Niederlande sind selten. Seien Sie deshalb vorsichtig mit Prozentwerten in Präsentationen.
Eine häufig zitierte Zahl stammt aus dem Work Trend Index 2024 von Microsoft und LinkedIn: 78 % der befragten KI-Nutzenden brachten eigene KI-Tools zur Arbeit mit. Achten Sie darauf, was diese Zahl aussagt und was nicht. Sie betrifft Wissensarbeitende weltweit, die bereits KI nutzen, stammt aus einer Anbieterumfrage und aus dem Jahr 2024. Sie sagt nichts darüber aus, wie viele personenbezogene Daten dabei eingegeben werden.
Neuere Studien von Sicherheitsunternehmen nennen ähnliche oder höhere Anteile. Wir übernehmen diese Zahlen hier nicht, weil Methode und untersuchte Gruppe oft nicht überprüfbar sind. Die Richtung bleibt jedoch gleich: Ein erheblicher Teil der KI-Nutzung am Arbeitsplatz erfolgt über Konten, die die Organisation nicht verwaltet.
Ende 2025 gab die Stadt Eindhoven bekannt, dass Mitarbeitende Dateien mit personenbezogenen Daten an öffentliche KI-Websites gesendet hatten. Laut Berichterstattung von Omroep Brabant ging es unter anderem um Jugendhilfedokumente, interne Berichte und Lebensläufe. Dies wurde durch eine Stichprobe über dreißig Tage entdeckt; das tatsächliche Ausmaß konnte die Stadt nicht feststellen. Gerade daraus lässt sich lernen: Wer nicht misst, weiß es nicht, und wer nachträglich misst, sieht nur einen Ausschnitt.
Die AP weist darauf hin, dass die meisten Unternehmen hinter Chatbots alle eingegebenen Daten speichern. Diese liegen dann auf den Servern des Anbieters, oft ohne dass der Mitarbeiter es bemerkt oder die betroffene Person davon weiß. Bei einem Privatkonto hat Ihre Organisation keine Vereinbarung mit diesem Anbieter. Was mit den Eingaben geschieht, hängt dann von den Verbraucherbedingungen ab.
Lassen Sie andere personenbezogene Daten in Ihrem Auftrag verarbeiten, verlangt Artikel 28 DSGVO, nur mit Auftragsverarbeitern zu arbeiten, die ausreichende Garantien bieten. In der Praxis halten Sie dies in einem Auftragsverarbeitungsvertrag fest. Bei einem Privatkonto schließt Ihre Organisation nichts ab: Der Mitarbeiter akzeptiert persönlich die Verbraucherbedingungen. Was Sie in einer solchen Vereinbarung prüfen, steht im Artikel zum Auftragsverarbeitungsvertrag mit einem KI-Anbieter. Bei welchen Tarifen ein Anbieter einen solchen Vertrag anbietet, ist unterschiedlich und kann sich monatlich ändern. Prüfen Sie die aktuellen Bedingungen des Anbieters.
Die AP ist hier eindeutig. Nutzt ein Mitarbeiter einen Chatbot eigeninitiativ und entgegen den Vereinbarungen mit dem Arbeitgeber und werden dabei personenbezogene Daten eingegeben, liegt eine Datenpanne vor. Die DSGVO nennt dies eine Verletzung des Schutzes personenbezogener Daten. Artikel 33 verlangt eine Meldung an die Aufsichtsbehörde unverzüglich und möglichst innerhalb von 72 Stunden nach Bekanntwerden, sofern ein Risiko für Betroffene nicht unwahrscheinlich ist. Wie Sie dieses Risiko abwägen, erläutert die AP auf ihrer Seite zur Frage, ob eine Datenpanne gemeldet werden muss. Die Ausarbeitung für Chatbots steht unter Datenpanne durch einen KI-Chatbot.
Die AP ergänzt einen häufig übersehenen Punkt: Steht die Nutzung von KI-Chatbots in Ihrer Richtlinie, liegt laut Aufsichtsbehörde keine Datenpanne vor, sie sei aber „häufig gesetzlich nicht erlaubt“. Die Nutzung zu erlauben, ohne die Verarbeitung ordentlich zu regeln, löst das Problem also nicht.
Was Sie nicht kennen, steht nicht in Ihrem Verarbeitungsverzeichnis, wurde nicht bewertet und liegt außerhalb Ihrer Aufbewahrungsfristen. Ein Auskunfts- oder Löschersuchen können Sie nicht vollständig beantworten, wenn Sie nicht wissen, wo Daten gelandet sind. Und ein Kunde, der nach dem Umgang mit seiner Akte fragt, erhält eine unzutreffende Antwort.
Die folgende Tabelle dient als Nachschlagehilfe für alle, die das Gespräch in der Organisation führen möchten. Kein Signal beweist für sich allein etwas. Gemeinsam ergeben sie ein Bild.
| Signal | Was es bedeuten kann | Risiko | Maßnahme |
|---|---|---|---|
| Texte von Kollegen entstehen auffällig schneller und wirken glatter | KI-Nutzung mit eigenem Konto | Unbekannt, welche Daten eingegeben wurden | Wertfrei nachfragen und die Tools erfassen |
| Verkehr zu Chatbots aus dem Unternehmensnetz | Nutzung im Browser, geschäftlich oder privat | Uploads von Dateien mit personenbezogenen Daten | Erst messen, Ergebnis besprechen, anschließend eine Alternative bieten |
| Spesenabrechnungen oder Kreditkartenposten für KI-Tarife | Teams beschaffen selbst ein Tool | Kein Auftragsverarbeitungsvertrag im Namen der Organisation | Einkauf unter einer Verantwortung und einem Vertrag bündeln |
| Neue Browsererweiterungen oder KI-Funktionen in Besprechungstools | Funktionen, die ungefragt mitlesen | Aufzeichnungen und Protokolle bei Dritten | Funktion vor der Aktivierung bewerten und standardmäßig deaktivieren |
| Niemand stellt Fragen zu KI | Das Thema fühlt sich unsicher an | Nutzung bleibt unsichtbar | Eine feste Ansprechperson benennen und Meldungen anerkennen |
| Kunden fragen, ob ihre Daten in KI verwendet werden | Sie haben keine schlüssige Antwort | Reputationsschaden und Vertragsverletzung | Festhalten, welche Tools für welche Daten erlaubt sind |
Ein Verbot ist schnell aufgeschrieben und schwer durchzuhalten. Das Bedürfnis verschwindet dadurch nicht.
Sperren Sie eine Website im Büronetz, greift jemand zum Telefon oder arbeitet zu Hause weiter. Sie verlieren den Einblick, während die Nutzung weitergeht. Dann haben Sie das Risiko ohne die Möglichkeit gegenzusteuern.
Bei einem strengen Verbot wird jede Frage zum Geständnis. Mitarbeitende melden Fehler nicht mehr, obwohl eine schnelle Meldung nötig ist, um die 72 Stunden der DSGVO einzuhalten. Die AP fordert Organisationen auf, klare Vereinbarungen mit Mitarbeitenden zu treffen: Dürfen sie Chatbots nutzen, und wenn ja, welche Daten dürfen hinein? Das ist etwas anderes als Schweigen oder nur Nein zu sagen.
Für bestimmte Daten ist Nein die richtige Antwort. Medizinische Daten, Daten über Straftaten, niederländische Bürgerservicenummern und Unterlagen mit Geheimhaltungspflicht gehören nicht in einen Chatbot, mit dem nichts geregelt ist. Ein Verbot funktioniert, wenn es eng gefasst ist, den Grund erläutert und neben einem erlaubten Weg steht. Sperren können dazugehören. Laut Berichterstattung durften Mitarbeitende in Eindhoven nach der Meldung keine öffentlichen KI-Websites mehr nutzen. Eine solche Maßnahme hält nur, wenn daneben ein erlaubter Weg besteht.
Die folgenden Schritte gehen von einer Organisation aus, die noch wenig geregelt hat. Rechnen Sie mit Wochen, nicht mit Tagen.
Die Geschäftsleitung entscheidet über erlaubte Tools und stellt Budget bereit. Die IT verwaltet Konten und Einstellungen. Die Datenschutzverantwortlichen oder der Datenschutzbeauftragte prüfen die Verarbeitung. Führungskräfte führen das Gespräch in ihrem Team. Ohne diese letzte Gruppe bleibt eine Richtlinie ein Dokument.
Ein fiktives Buchhaltungsbüro mit vierzehn Mitarbeitenden entdeckt bei einer Umfrage, dass neun einen Chatbot nutzen, sieben davon mit einem Privatkonto. Das Büro wählt einen Geschäftstarif, hält auf zwei Seiten fest, welche Inhalte erlaubt sind, und vereinbart, dass Gehaltsabrechnungen und Steuererklärungen nie eingegeben werden. Nach drei Monaten wiederholt es die Umfrage. Zwei Personen nutzen ihr Privatkonto weiterhin für Protokolle. Das ist kein Scheitern, sondern genau die Information, für die Sie die Kontrolle wiederholen.
Schatten-KI entsteht oft an einer Stelle: Jemand möchte eine Frage zu einer Akte stellen und hat keinen sicheren Weg dafür. PrivaSearch wurde für diesen Fall entwickelt. Es steht zwischen Ihren Dokumenten und dem KI-Modell. Personenbezogene Daten werden innerhalb von PrivaSearch erkannt und durch konsistente Pseudonyme ersetzt; ein Kollege gibt das Ergebnis frei, bevor ein Dokument durchsuchbar wird. Die einzelnen Schritte stehen auf der Seite zur Funktionsweise.
Anschließend wird in freigegebenen, pseudonymisierten Textstellen gesucht, mit Verweis auf Dokument und Seite. Die Verbindung mit einem KI-Assistenten funktioniert über MCP mit Claude, ChatGPT Business und Mistral Vibe. Der Assistent sucht in denselben freigegebenen Textstellen und nicht in den Originalen. Pseudonymisieren ist kein Anonymisieren: Für Ihre Organisation bleiben es personenbezogene Daten, und die DSGVO gilt weiter.
Es gibt auch eine Grenze, die wir offen benennen. Was jemand selbst in einen verbundenen Assistenten eingibt, geht direkt an dessen Anbieter, außerhalb unserer Pseudonymisierung. Geben Sie dort deshalb keine Namen ein und verbinden Sie nur Geschäftskonten mit Auftragsverarbeitungsvertrag. Mehr lesen Sie auf der Seite zu KI-Chatbots und der DSGVO.
PrivaSearch nimmt Ihnen Schatten-KI nicht ab. Es bietet einen Weg für die Suche in Dokumenten mit personenbezogenen Daten. E-Mails umschreiben, Besprechungen zusammenfassen und alle weiteren Nutzungen bleiben Gegenstand Ihrer eigenen Richtlinie und Erfassung. Was bei unkontrollierter KI-Nutzung schiefgeht, haben wir auf der Risikoseite aufgeführt. Möchten Sie die Funktionsweise mit Ihrer eigenen Dokumentart sehen, fragen Sie eine Demo an.
Schatten-IT umfasst sämtliche ohne Freigabe verwendete Software und Geräte. Schatten-KI ist ein Teil davon: KI-Tools wie Chatbots, Schreibhilfen und Zusammenfassungswerkzeuge. Der Unterschied liegt vor allem in der Eingabe. In ein KI-Tool fügen Sie vollständige Texte und Dateien ein; eine einzige Handlung kann deshalb viele personenbezogene Daten oder vertrauliche Informationen an einen externen Anbieter senden.
Die Nutzung eines KI-Tools ist für sich genommen nicht verboten. Problematisch wird es, wenn personenbezogene oder vertrauliche Daten hineingehen, ohne dass die Verarbeitung geregelt ist. Laut der Autoriteit Persoonsgegevens liegt eine Datenpanne vor, wenn ein Mitarbeiter entgegen den Vereinbarungen personenbezogene Daten in einen KI-Chatbot eingibt. Dafür ist die Organisation verantwortlich, nicht nur der Mitarbeiter. Für die Beurteilung eines konkreten Falls benötigen Sie einen Juristen.
Beginnen Sie mit Fragen, nicht mit Kontrollen. Eine offene Umfrage ohne Konsequenzen bringt meist mehr als ein technischer Scan. Ergänzend können Sie Netzwerkverkehr zu bekannten KI-Diensten, Abrechnungen für Tarife und installierte Erweiterungen ansehen. Bedenken Sie, dass die Überwachung von Mitarbeitenden selbst eine Verarbeitung personenbezogener Daten ist. Stimmen Sie dies mit Ihren Datenschutzverantwortlichen und gegebenenfalls dem Betriebsrat ab.
Das hängt vom Risiko für die Betroffenen ab. Die DSGVO verlangt eine Meldung an die Aufsichtsbehörde, möglichst innerhalb von 72 Stunden, sofern ein Risiko nicht unwahrscheinlich ist. Bei sensiblen Daten wie Gesundheitsdaten müssen Sie laut der Autoriteit Persoonsgegevens jedenfalls ein hohes Risiko berücksichtigen. Halten Sie auch fest, warum Sie melden oder nicht melden. Besprechen Sie Zweifel mit Ihrem Datenschutzbeauftragten oder einem Juristen.
Es hilft etwas, und nur zusammen mit weiteren Maßnahmen. Eine Sperre verhindert die Nutzung auf dem geschäftlichen Laptop, aber nicht auf dem Telefon oder zu Hause. Ohne erlaubte Alternative verlagert sich die Nutzung dorthin, wo Sie keinen Einblick mehr haben. Sperren passen als vorübergehende Maßnahme nach einem Vorfall oder für Dienste, mit denen Sie bewusst keine Vereinbarungen treffen möchten.
Nein. Ein Geschäftstarif regelt die Vereinbarung mit dem Anbieter, aber nicht die Eingaben der Mitarbeitenden. Sensible Daten, Akten mit Geheimhaltungspflicht und Kundendateien erfordern zusätzliche Regeln und manchmal einen anderen Weg. Zudem nutzen Mitarbeitende weiter Privatkonten, wenn sie die Regeln nicht kennen oder die geschäftliche Alternative schlechter finden. Richtlinie, Schulung und wiederholte Erfassung bleiben nötig.
Wer entscheidet über KI-Tools, beurteilt die Risiken und führt die Aufsicht? Die Rollen im Überblick, mit einfacher Besprechungsstruktur und KI-Verzeichnis.
Wo eine hochgeladene Datei landet, wie lange sie bleibt, wer Zugriff hat und was Löschen bedeutet. Mit vier Vorgehensweisen für personenbezogene Akten.
Der Zeitplan des AI Act nach dem digitalen Omnibus: Was bereits gilt, was auf 2027 und 2028 verschoben wurde und was Sie als KI-Nutzer jetzt regeln.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →