PrivaSearch
Demo planen

Regeln

Privacy by Design bei KI-Tools: was Art. 25 DSGVO von Ihrer Organisation verlangt

Privacy by Design und by Default bei KI-Tools: was Sie bei der Wahl eines Tools regeln, welche Einstellungen Sie abschalten und was Sie vom Anbieter verlangen.

Kurz erklärt

  • Art. 25 DSGVO legt die Pflicht, Datenschutz einzubauen, der Organisation auf, die ein KI-Tool einsetzt, nicht dem Hersteller dieses Tools.
  • Diese Pflicht beginnt schon bei der Auswahl und dem Einkauf eines Tools und gilt fort, solange Sie das Tool nutzen.
  • Privacy by Default bedeutet, dass die Voreinstellung nur die Daten verarbeitet, die für den Zweck nötig sind, auch bei Standardsoftware, die Sie fertig kaufen.
  • Die europäischen Datenschutzaufsichtsbehörden raten davon ab, einen Anbieter zu wählen, dessen Produkt Ihnen nicht ermöglicht, Art. 25 einzuhalten.
  • Ein Verstoß gegen Art. 25 fällt in die Bußgeldkategorie bis 10 Millionen Euro oder 2 Prozent des weltweiten Jahresumsatzes.

Was ist Privacy by Design und by Default?

Privacy by Design bedeutet, dass Sie den Schutz personenbezogener Daten in dem Moment einbauen, in dem Sie festlegen, wie eine Verarbeitung abläuft, zum Beispiel bei der Wahl eines KI-Tools. Privacy by Default bedeutet, dass die Voreinstellungen nur verarbeiten, was der Zweck erfordert. Beides steht in Art. 25 DSGVO und ist eine Pflicht der Organisation selbst.

Der Text der DSGVO spricht von „Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen“. Der erste Absatz verlangt geeignete technische und organisatorische Maßnahmen, „sowohl zum Zeitpunkt der Festlegung der Mittel für die Verarbeitung als auch zum Zeitpunkt der eigentlichen Verarbeitung“. Die Verordnung nennt die Pseudonymisierung als Beispiel für eine solche Maßnahme; den Unterschied zur Anonymisierung erklärt Pseudonymisieren oder anonymisieren: Der Unterschied und warum er für KI relevant ist. Was geeignet ist, hängt vom Stand der Technik, den Kosten, der Art und dem Zweck der Verarbeitung und den Risiken ab.

Der zweite Absatz betrifft die Voreinstellung und nennt vier Punkte: die Menge der erhobenen Daten, den Umfang ihrer Verarbeitung, ihre Speicherfrist und ihre Zugänglichkeit. Daten dürfen grundsätzlich nicht ohne Eingreifen einer Person einer unbestimmten Zahl von Personen zugänglich gemacht werden.

Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, nennt auf ihrer Seite zur Rechenschaftspflicht alltägliche Beispiele: eine App, die keinen Standort erfasst, wenn das nicht nötig ist, ein Kästchen für Angebote, das nicht vorab angekreuzt ist, und ein Newsletter, der nicht mehr Daten abfragt als nötig. Bei einem KI-Tool liegen dieselben Entscheidungen tiefer in den Einstellungen: in der Verwaltungsansicht des Anbieters, in den Verbindungen zu anderen Systemen und in dem, was Mitarbeitende standardmäßig miteinander teilen. Dieser Artikel ist eine Erläuterung, keine Rechtsberatung: Prüfen Sie Ihre eigene Situation mit Ihrem Datenschutzbeauftragten oder einem Juristen.

Bei wem liegt die Pflicht: bei Ihnen oder beim Anbieter?

Bei Ihnen. Art. 25 richtet sich an den Verantwortlichen: die Organisation, die über Zweck und Mittel der Verarbeitung personenbezogener Daten entscheidet. Über die Hersteller von Produkten und Diensten sagt Erwägungsgrund 78 der DSGVO nur, dass sie „ermutigt werden“ sollten, den Datenschutz zu berücksichtigen.

Der Europäische Datenschutzausschuss (EDPB), in dem die europäischen Datenschutzaufsichtsbehörden zusammenarbeiten, zieht daraus in seinen Leitlinien 4/2019 zu Artikel 25 (Version 2.0 vom 20. Oktober 2020) die Konsequenz. Der Verantwortliche ist auch für das verantwortlich, was Auftragsverarbeiter und Unterauftragsverarbeiter tun, und berücksichtigt das in seinen Verträgen (Randnummer 1). Und: Wählen Sie keinen Anbieter, dessen System Ihnen nicht hilft, Art. 25 einzuhalten, denn Sie werden zur Verantwortung gezogen, wenn es fehlt (Randnummer 96).

Ist in einem KI-Tool also eine Funktion voreingestellt, die mehr verarbeitet, als Ihr Zweck verlangt, dann ist das Ihre Verarbeitung und Ihre Verantwortung. Der Auftragsverarbeitungsvertrag regelt, was der Anbieter mit den Daten tun darf. Art. 25 verlangt zusätzlich etwas von Ihnen: dass Sie das Tool so auswählen und einrichten, dass nicht mehr geschieht als nötig.

Wann gilt das: beim Einkauf und danach?

Schon vor der ersten Nutzung. Nach dem EDPB fällt auch der Zeitpunkt, zu dem Sie Software und Dienste beschaffen und einführen, unter „die Festlegung der Mittel für die Verarbeitung“ (Randnummer 35). Wer zuerst ein KI-Tool anschafft und erst danach über Datenschutz nachdenkt, kommt für einen Teil der Abwägung zu spät. Eine Funktion, die schon im Vertrag steht, oder eine Einstellung, die das ganze Büro bereits nutzt, ist später schwerer rückgängig zu machen als vorab auszuschließen.

Danach läuft die Pflicht weiter: Maßnahmen pflegen, den Stand der Technik verfolgen und das Risiko neu bewerten (Randnummer 37), auch für das, was Auftragsverarbeiter für Sie tun (Randnummer 39). KI-Anbieter fügen regelmäßig Funktionen hinzu, und eine neue Funktion ist nicht automatisch von der damaligen Abwägung gedeckt. Planen Sie deshalb einen festen Zeitpunkt, um die Einstellungen durchzugehen.

Was bedeutet Privacy by Default für ein KI-Tool?

Nutzen Sie fertige Software eines anderen, bewerten Sie die Risiken des Produkts und schalten Sie Funktionen ab, die keine Rechtsgrundlage haben oder nicht zum Zweck passen, sagt der EDPB (Randnummer 44). Verteilen Sie außerdem die Zugriffe so, dass Mitarbeitende mit unterschiedlichen Rollen nur sehen, was sie brauchen (Randnummer 45). Die vier Punkte aus dem zweiten Absatz von Art. 25 bieten eine brauchbare Gliederung.

Wie Sie eine Aufbewahrungsfrist begründen, steht in Aufbewahrungsfristen: wie lange dürfen Sie Personendaten und Personalakten behalten?.

Was passiert, wenn die Voreinstellung falsch ist

Die irische Aufsichtsbehörde verhängte im September 2023 gegen TikTok Bußgelder von insgesamt 345 Millionen Euro. Die Untersuchung betraf unter anderem Einstellungen für Kinder, die standardmäßig öffentlich waren, und die Entscheidung stellt unter anderem Verstöße gegen Art. 25 Abs. 1 und Abs. 2 fest. Kein KI-Tool, aber derselbe Punkt: Was voreingestellt ist, zählt. Nach Art. 83 Abs. 4 DSGVO fällt ein Verstoß gegen Art. 25 unter Bußgelder bis 10 Millionen Euro oder, bei einem Unternehmen, bis 2 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Welche Fragen stellen Sie dem Anbieter eines KI-Tools?

Der EDPB empfiehlt, von Anbietern zu verlangen, dass sie zeigen, wie ihr Produkt Ihnen hilft, Rechenschaft abzulegen, und vertraglich festzuhalten, dass sie Sie über Änderungen beim Stand der Technik informieren (Randnummer 96). Sechs Fragen machen das praktisch.

  1. Was ist voreingestellt? Und können Sie es für die ganze Organisation abschalten?
  2. Was geschieht mit den Eingaben? Werden sie zur Verbesserung von Modellen genutzt, und wie schließen Sie das aus?
  3. Wie lange wird gespeichert? Für Eingaben, Antworten, Dateien und Protokolle.
  4. Wer hat Zugriff? Können Sie den Zugriff je Rolle, Team oder Projekt beschränken, und sieht ein Administrator automatisch alles?
  5. Welche anderen Parteien verarbeiten mit? Fragen Sie nach der Liste der Unterauftragsverarbeiter und wo sie verarbeiten.
  6. Wie erfahren Sie von Änderungen? Wie werden neue Funktionen und geänderte Einstellungen angekündigt?

Halten Sie die Antworten fest. Sie zeigen, dass Sie bei der Auswahl nachgedacht haben, und sie gehören in die Beschreibung der Maßnahmen, wenn Sie eine DSFA durchführen; siehe DSFA für KI-Tools: wann ist sie Pflicht und wie gehen Sie vor?.

Was PrivaSearch dabei übernimmt

PrivaSearch steht zwischen Ihren Dokumenten und dem KI-Modell; die Schritte stehen unter So funktioniert PrivaSearch. Personenbezogene Daten werden innerhalb von PrivaSearch selbst erkannt, ohne externen KI-Anbieter, und durch Pseudonyme ersetzt. Ein Kollege sieht das Original neben dem pseudonymisierten Text und gibt ausdrücklich frei; erst danach ist ein Dokument durchsuchbar. Ein verbundener Assistent, Claude, ChatGPT Business oder Mistral Vibe, erhält nur freigegebene, pseudonymisierte Textstellen in begrenztem Umfang und keine Originaldateien, Dateinamen oder Links. Die Projektmitgliedschaft bestimmt, wer was sieht, und Administratoren erhalten keinen automatischen Einblick. Nach dem Enddatum eines Projekts wird der Zugriff gesperrt, und Kopien, Fragmente und Pseudonyme werden bereinigt, sofern kein Legal Hold (Aufbewahrungspflicht) gilt.

Ein Scan ohne Textebene geht nur dann als Datei an einen europäischen KI-Anbieter, um ausgelesen zu werden, wenn Ihre Organisation das selbst einschaltet; siehe Hosting in der EU. Was Sie selbst in einen verbundenen Assistenten eingeben, geht direkt an den Anbieter dieses Assistenten, an der Pseudonymisierung vorbei.

Die Abwägung nach Art. 25 übernimmt PrivaSearch nicht für Sie: Ob diese Maßnahmen zu Ihrer Verarbeitung passen, bleibt Ihre Beurteilung.

Häufig gestellte Fragen

Gilt Privacy by Design auch für ein kleines Büro?

Ja. Art. 25 DSGVO gilt für jede Organisation, die personenbezogene Daten verarbeitet, unabhängig von ihrer Größe. Was geeignet ist, hängt unter anderem von den Kosten, der Art der Verarbeitung und den Risiken ab. Ein kleines Büro mit sensiblen Akten muss deshalb unter Umständen mehr tun als ein großes Unternehmen, das nur öffentliche Informationen verarbeitet.

Was ist der Unterschied zwischen Privacy by Design und Privacy by Default?

Privacy by Design betrifft die Gestaltung: Sie bauen Maßnahmen wie die Pseudonymisierung ein, sobald Sie festlegen, wie eine Verarbeitung abläuft. Privacy by Default betrifft die Voreinstellung: Ohne dass jemand etwas ändert, verarbeitet, speichert und teilt das System nicht mehr, als der Zweck erfordert.

Ist der Hersteller eines KI-Tools für Privacy by Design verantwortlich?

Nicht nach Art. 25 DSGVO: Diese Pflicht liegt bei der Organisation, die das Tool einsetzt. Hersteller sollen nach der DSGVO nur ermutigt werden, den Datenschutz zu berücksichtigen. Die europäischen Aufsichtsbehörden raten deshalb davon ab, einen Anbieter zu wählen, dessen Produkt Ihnen nicht hilft, Art. 25 einzuhalten.

Sollten Sie die Voreinstellungen eines KI-Tools ändern?

Oft ja. Nach den europäischen Aufsichtsbehörden bewerten Sie bei fertiger Software die Risiken und schalten Funktionen ab, die keine Rechtsgrundlage haben oder nicht zum Zweck passen. Denken Sie an die Nutzung von Eingaben zur Verbesserung von Modellen, eine lange Speicherfrist für Gespräche oder Gespräche, die die ganze Organisation sehen kann.

Reicht Pseudonymisierung für Privacy by Design?

Nein. Die Pseudonymisierung ist ein Beispiel, das Art. 25 nennt, aber der Artikel verlangt ein Bündel technischer und organisatorischer Maßnahmen, etwa beschränkte Zugriffe, passende Aufbewahrungsfristen und das Abschalten überflüssiger Funktionen. Pseudonymisierte Daten bleiben zudem personenbezogene Daten für die Organisation, die den Schlüssel hat.

Was riskieren Sie bei einem Verstoß gegen Art. 25?

Ein Verstoß gegen Art. 25 fällt unter Bußgelder bis 10 Millionen Euro oder, bei einem Unternehmen, bis 2 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Wer seine Entscheidungen beim Einkauf nicht festgehalten hat, kann zudem im Nachhinein kaum zeigen, dass er an die Pflicht gedacht hat.

Weiterlesen

  1. Automatisierte Entscheidungen und KI: Wann darf KI über Menschen entscheiden?

    Wann eine Entscheidung mit KI unter das Verbot automatisierter Entscheidungen fällt, welche Ausnahmen gelten und wie ein Mensch wirklich mitentscheidet.

  2. Berufsgeheimnis und KI: was Anwälte, Notare und Wirtschaftsprüfer wissen müssen

    Was Verschwiegenheit bedeutet, wenn Sie eine Akte in einen KI-Chatbot eingeben, und was NOvA, KNB, NBA und CCBE dazu veröffentlicht haben.

  3. AI Impact Assessment (AIIA): was sie ist und wie Ihre Organisation sie nutzt

    Was die AIIA des niederländischen Infrastrukturministeriums ist, für wen sie Pflicht ist, wie sie aufgebaut ist und wie sie sich zu IAMA und DSFA verhält.

Sehen Sie in zwanzig Minuten, was mit Ihren Dokumenten geschieht.

Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.

Demo planen →