Regeln
Privacy by Design und by Default bei KI-Tools: was Sie bei der Wahl eines Tools regeln, welche Einstellungen Sie abschalten und was Sie vom Anbieter verlangen.
Privacy by Design bedeutet, dass Sie den Schutz personenbezogener Daten in dem Moment einbauen, in dem Sie festlegen, wie eine Verarbeitung abläuft, zum Beispiel bei der Wahl eines KI-Tools. Privacy by Default bedeutet, dass die Voreinstellungen nur verarbeiten, was der Zweck erfordert. Beides steht in Art. 25 DSGVO und ist eine Pflicht der Organisation selbst.
Der Text der DSGVO spricht von „Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen“. Der erste Absatz verlangt geeignete technische und organisatorische Maßnahmen, „sowohl zum Zeitpunkt der Festlegung der Mittel für die Verarbeitung als auch zum Zeitpunkt der eigentlichen Verarbeitung“. Die Verordnung nennt die Pseudonymisierung als Beispiel für eine solche Maßnahme; den Unterschied zur Anonymisierung erklärt Pseudonymisieren oder anonymisieren: Der Unterschied und warum er für KI relevant ist. Was geeignet ist, hängt vom Stand der Technik, den Kosten, der Art und dem Zweck der Verarbeitung und den Risiken ab.
Der zweite Absatz betrifft die Voreinstellung und nennt vier Punkte: die Menge der erhobenen Daten, den Umfang ihrer Verarbeitung, ihre Speicherfrist und ihre Zugänglichkeit. Daten dürfen grundsätzlich nicht ohne Eingreifen einer Person einer unbestimmten Zahl von Personen zugänglich gemacht werden.
Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, nennt auf ihrer Seite zur Rechenschaftspflicht alltägliche Beispiele: eine App, die keinen Standort erfasst, wenn das nicht nötig ist, ein Kästchen für Angebote, das nicht vorab angekreuzt ist, und ein Newsletter, der nicht mehr Daten abfragt als nötig. Bei einem KI-Tool liegen dieselben Entscheidungen tiefer in den Einstellungen: in der Verwaltungsansicht des Anbieters, in den Verbindungen zu anderen Systemen und in dem, was Mitarbeitende standardmäßig miteinander teilen. Dieser Artikel ist eine Erläuterung, keine Rechtsberatung: Prüfen Sie Ihre eigene Situation mit Ihrem Datenschutzbeauftragten oder einem Juristen.
Bei Ihnen. Art. 25 richtet sich an den Verantwortlichen: die Organisation, die über Zweck und Mittel der Verarbeitung personenbezogener Daten entscheidet. Über die Hersteller von Produkten und Diensten sagt Erwägungsgrund 78 der DSGVO nur, dass sie „ermutigt werden“ sollten, den Datenschutz zu berücksichtigen.
Der Europäische Datenschutzausschuss (EDPB), in dem die europäischen Datenschutzaufsichtsbehörden zusammenarbeiten, zieht daraus in seinen Leitlinien 4/2019 zu Artikel 25 (Version 2.0 vom 20. Oktober 2020) die Konsequenz. Der Verantwortliche ist auch für das verantwortlich, was Auftragsverarbeiter und Unterauftragsverarbeiter tun, und berücksichtigt das in seinen Verträgen (Randnummer 1). Und: Wählen Sie keinen Anbieter, dessen System Ihnen nicht hilft, Art. 25 einzuhalten, denn Sie werden zur Verantwortung gezogen, wenn es fehlt (Randnummer 96).
Ist in einem KI-Tool also eine Funktion voreingestellt, die mehr verarbeitet, als Ihr Zweck verlangt, dann ist das Ihre Verarbeitung und Ihre Verantwortung. Der Auftragsverarbeitungsvertrag regelt, was der Anbieter mit den Daten tun darf. Art. 25 verlangt zusätzlich etwas von Ihnen: dass Sie das Tool so auswählen und einrichten, dass nicht mehr geschieht als nötig.
Schon vor der ersten Nutzung. Nach dem EDPB fällt auch der Zeitpunkt, zu dem Sie Software und Dienste beschaffen und einführen, unter „die Festlegung der Mittel für die Verarbeitung“ (Randnummer 35). Wer zuerst ein KI-Tool anschafft und erst danach über Datenschutz nachdenkt, kommt für einen Teil der Abwägung zu spät. Eine Funktion, die schon im Vertrag steht, oder eine Einstellung, die das ganze Büro bereits nutzt, ist später schwerer rückgängig zu machen als vorab auszuschließen.
Danach läuft die Pflicht weiter: Maßnahmen pflegen, den Stand der Technik verfolgen und das Risiko neu bewerten (Randnummer 37), auch für das, was Auftragsverarbeiter für Sie tun (Randnummer 39). KI-Anbieter fügen regelmäßig Funktionen hinzu, und eine neue Funktion ist nicht automatisch von der damaligen Abwägung gedeckt. Planen Sie deshalb einen festen Zeitpunkt, um die Einstellungen durchzugehen.
Nutzen Sie fertige Software eines anderen, bewerten Sie die Risiken des Produkts und schalten Sie Funktionen ab, die keine Rechtsgrundlage haben oder nicht zum Zweck passen, sagt der EDPB (Randnummer 44). Verteilen Sie außerdem die Zugriffe so, dass Mitarbeitende mit unterschiedlichen Rollen nur sehen, was sie brauchen (Randnummer 45). Die vier Punkte aus dem zweiten Absatz von Art. 25 bieten eine brauchbare Gliederung.
| Was Art. 25 Abs. 2 nennt | Die Frage bei einem KI-Tool | Eine Voreinstellung, die Sie wählen können |
|---|---|---|
| Menge der Daten | Was gelangt in das Tool? | Nur die Textstellen, die eine Frage braucht, keine ganzen Akten |
| Umfang der Verarbeitung | Was macht das Tool sonst damit? | Keine Nutzung von Eingaben zur Verbesserung von Modellen, Funktionen ohne Zweck abgeschaltet |
| Speicherfrist | Wie lange bleiben Eingaben, Antworten und Verlauf gespeichert? | Eine Frist, die zum Zweck passt und vorab festgelegt ist |
| Zugänglichkeit | Wer hat Zugriff? | Zugriff je Team oder Projekt, keine Gespräche, die die ganze Organisation sieht |
Wie Sie eine Aufbewahrungsfrist begründen, steht in Aufbewahrungsfristen: wie lange dürfen Sie Personendaten und Personalakten behalten?.
Die irische Aufsichtsbehörde verhängte im September 2023 gegen TikTok Bußgelder von insgesamt 345 Millionen Euro. Die Untersuchung betraf unter anderem Einstellungen für Kinder, die standardmäßig öffentlich waren, und die Entscheidung stellt unter anderem Verstöße gegen Art. 25 Abs. 1 und Abs. 2 fest. Kein KI-Tool, aber derselbe Punkt: Was voreingestellt ist, zählt. Nach Art. 83 Abs. 4 DSGVO fällt ein Verstoß gegen Art. 25 unter Bußgelder bis 10 Millionen Euro oder, bei einem Unternehmen, bis 2 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
Der EDPB empfiehlt, von Anbietern zu verlangen, dass sie zeigen, wie ihr Produkt Ihnen hilft, Rechenschaft abzulegen, und vertraglich festzuhalten, dass sie Sie über Änderungen beim Stand der Technik informieren (Randnummer 96). Sechs Fragen machen das praktisch.
Halten Sie die Antworten fest. Sie zeigen, dass Sie bei der Auswahl nachgedacht haben, und sie gehören in die Beschreibung der Maßnahmen, wenn Sie eine DSFA durchführen; siehe DSFA für KI-Tools: wann ist sie Pflicht und wie gehen Sie vor?.
PrivaSearch steht zwischen Ihren Dokumenten und dem KI-Modell; die Schritte stehen unter So funktioniert PrivaSearch. Personenbezogene Daten werden innerhalb von PrivaSearch selbst erkannt, ohne externen KI-Anbieter, und durch Pseudonyme ersetzt. Ein Kollege sieht das Original neben dem pseudonymisierten Text und gibt ausdrücklich frei; erst danach ist ein Dokument durchsuchbar. Ein verbundener Assistent, Claude, ChatGPT Business oder Mistral Vibe, erhält nur freigegebene, pseudonymisierte Textstellen in begrenztem Umfang und keine Originaldateien, Dateinamen oder Links. Die Projektmitgliedschaft bestimmt, wer was sieht, und Administratoren erhalten keinen automatischen Einblick. Nach dem Enddatum eines Projekts wird der Zugriff gesperrt, und Kopien, Fragmente und Pseudonyme werden bereinigt, sofern kein Legal Hold (Aufbewahrungspflicht) gilt.
Ein Scan ohne Textebene geht nur dann als Datei an einen europäischen KI-Anbieter, um ausgelesen zu werden, wenn Ihre Organisation das selbst einschaltet; siehe Hosting in der EU. Was Sie selbst in einen verbundenen Assistenten eingeben, geht direkt an den Anbieter dieses Assistenten, an der Pseudonymisierung vorbei.
Die Abwägung nach Art. 25 übernimmt PrivaSearch nicht für Sie: Ob diese Maßnahmen zu Ihrer Verarbeitung passen, bleibt Ihre Beurteilung.
Ja. Art. 25 DSGVO gilt für jede Organisation, die personenbezogene Daten verarbeitet, unabhängig von ihrer Größe. Was geeignet ist, hängt unter anderem von den Kosten, der Art der Verarbeitung und den Risiken ab. Ein kleines Büro mit sensiblen Akten muss deshalb unter Umständen mehr tun als ein großes Unternehmen, das nur öffentliche Informationen verarbeitet.
Privacy by Design betrifft die Gestaltung: Sie bauen Maßnahmen wie die Pseudonymisierung ein, sobald Sie festlegen, wie eine Verarbeitung abläuft. Privacy by Default betrifft die Voreinstellung: Ohne dass jemand etwas ändert, verarbeitet, speichert und teilt das System nicht mehr, als der Zweck erfordert.
Nicht nach Art. 25 DSGVO: Diese Pflicht liegt bei der Organisation, die das Tool einsetzt. Hersteller sollen nach der DSGVO nur ermutigt werden, den Datenschutz zu berücksichtigen. Die europäischen Aufsichtsbehörden raten deshalb davon ab, einen Anbieter zu wählen, dessen Produkt Ihnen nicht hilft, Art. 25 einzuhalten.
Oft ja. Nach den europäischen Aufsichtsbehörden bewerten Sie bei fertiger Software die Risiken und schalten Funktionen ab, die keine Rechtsgrundlage haben oder nicht zum Zweck passen. Denken Sie an die Nutzung von Eingaben zur Verbesserung von Modellen, eine lange Speicherfrist für Gespräche oder Gespräche, die die ganze Organisation sehen kann.
Nein. Die Pseudonymisierung ist ein Beispiel, das Art. 25 nennt, aber der Artikel verlangt ein Bündel technischer und organisatorischer Maßnahmen, etwa beschränkte Zugriffe, passende Aufbewahrungsfristen und das Abschalten überflüssiger Funktionen. Pseudonymisierte Daten bleiben zudem personenbezogene Daten für die Organisation, die den Schlüssel hat.
Ein Verstoß gegen Art. 25 fällt unter Bußgelder bis 10 Millionen Euro oder, bei einem Unternehmen, bis 2 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Wer seine Entscheidungen beim Einkauf nicht festgehalten hat, kann zudem im Nachhinein kaum zeigen, dass er an die Pflicht gedacht hat.
Wann eine Entscheidung mit KI unter das Verbot automatisierter Entscheidungen fällt, welche Ausnahmen gelten und wie ein Mensch wirklich mitentscheidet.
Was Verschwiegenheit bedeutet, wenn Sie eine Akte in einen KI-Chatbot eingeben, und was NOvA, KNB, NBA und CCBE dazu veröffentlicht haben.
Was die AIIA des niederländischen Infrastrukturministeriums ist, für wen sie Pflicht ist, wie sie aufgebaut ist und wie sie sich zu IAMA und DSFA verhält.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →