Regeln
Wann eine Entscheidung mit KI unter das Verbot automatisierter Entscheidungen fällt, welche Ausnahmen gelten und wie ein Mensch wirklich mitentscheidet.
Wenn drei Dinge zusammenkommen: Über eine Person wird eine Entscheidung getroffen, diese Entscheidung beruht ausschließlich auf automatisierter Verarbeitung, und sie hat rechtliche Wirkung oder beeinträchtigt die Person in ähnlich erheblicher Weise. Dann gilt das Verbot der DSGVO. Steht ein Mensch dazwischen, der wirklich mitentscheidet, ist es keine automatisierte Entscheidung mehr.
Die Regel steht in Art. 22 der DSGVO: Eine Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung „einschließlich Profiling“ beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie „in ähnlicher Weise erheblich beeinträchtigt“. Profiling ist nach Art. 4 derselben Verordnung die automatisierte Bewertung persönlicher Aspekte, etwa der wirtschaftlichen Lage, der Gesundheit oder der Zuverlässigkeit einer Person.
Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, nennt auf ihrer Seite über die automatisierte Entscheidung Beispiele solcher Folgen: Jemand wird nicht zu einem Vorstellungsgespräch eingeladen, erhält keine Sozialleistung oder bekommt keinen Kredit, keine Versicherung oder keine Wohnung.
Dies ist eine Erläuterung, keine Rechtsberatung. Ob eine konkrete Anwendung unter die Regel fällt, beurteilen Sie mit Ihrem Datenschutzbeauftragten oder einem Juristen.
Lange war offen, ob ein Kreditscore selbst eine Entscheidung ist oder erst die Ablehnung durch die Bank. Der Gerichtshof der EU entschied am 7. Dezember 2023 in der Rechtssache SCHUFA (C-634/21), dass bereits die automatisierte Ermittlung eines solchen Wahrscheinlichkeitswerts eine automatisierte Entscheidung ist, wenn der Abschluss, die Durchführung oder die Beendigung eines Vertrags „maßgeblich“ von diesem Wert abhängt.
Für ein Büro bedeutet das: Wer einen Score oder eine Empfehlung eines KI-Systems ohne eigene Abwägung übernimmt, kann eine automatisierte Entscheidung treffen, auch wenn das System einem anderen gehört. Die AP warnt auf derselben Seite, dass ein Unternehmen ein bei einer Auskunftei gekauftes Profil nicht ohne Weiteres für eine automatisierte Entscheidung verwenden darf.
Art. 22 Abs. 2 kennt drei Ausnahmen. Die Entscheidung ist für den Abschluss oder die Erfüllung eines Vertrags mit der betroffenen Person erforderlich, sie ist durch ein Gesetz zulässig, das auch angemessene Schutzmaßnahmen vorsieht, oder die betroffene Person hat ausdrücklich eingewilligt.
Bei einem Vertrag oder einer Einwilligung müssen Sie nach Abs. 3 mindestens drei Dinge bieten: das Recht auf Eingreifen einer Person, das Recht auf Darlegung des eigenen Standpunkts und das Recht auf Anfechtung der Entscheidung. Abs. 4 ergänzt, dass eine solche Entscheidung grundsätzlich nicht auf besonderen Kategorien personenbezogener Daten beruhen darf, etwa Gesundheitsdaten, es sei denn, eine ausdrückliche Einwilligung oder ein erhebliches öffentliches Interesse lässt es zu und angemessene Maßnahmen sind getroffen. Mehr zu dieser Kategorie lesen Sie in Besondere Kategorien personenbezogener Daten: welche sind es, und darf KI sie verarbeiten?.
Die niederländische Ergänzung ist Artikel 40 des niederländischen DSGVO-Durchführungsgesetzes. Es erlaubt eine automatisierte Entscheidung, wenn sie für eine rechtliche Verpflichtung oder eine Aufgabe im öffentlichen Interesse erforderlich ist, aber nur, wenn sie nicht auf Profiling beruht. Ist die Organisation keine Behörde, müssen auch dort das Eingreifen einer Person, die eigene Stellungnahme und die Möglichkeit der Anfechtung gewährleistet sein.
Hier geht es in der Praxis oft schief. Die europäischen Datenschutzaufsichtsbehörden schreiben in ihren Leitlinien zu automatisierten Entscheidungen und Profiling, dass man die Regel nicht umgeht, indem man menschliche Beteiligung „fabriziert“. Wer automatisch erzeugte Profile routinemäßig anwendet, ohne tatsächlichen Einfluss auf das Ergebnis, trifft weiterhin eine automatisierte Entscheidung. Die Aufsicht muss wirksam sein, durchgeführt von jemandem mit der Befugnis und der Kompetenz, die Entscheidung zu ändern, der alle relevanten Daten berücksichtigt.
Die AP veröffentlichte am 23. Juli 2025 Handreichungen für wirksames menschliches Eingreifen. Das Eingreifen darf nach der AP keine bloß symbolische Funktion haben. Auch die Gestaltung zählt: Wer durch Zeitdruck oder ein unklares System behindert wird, kann das Ergebnis nicht wirklich beurteilen. Ist das Eingreifen wirksam, fällt die Entscheidung nicht unter Art. 22.
Vier Fragen helfen bei der Prüfung:
Eine DSFA (Datenschutz-Folgenabschätzung) ist hier zudem oft Pflicht: Art. 35 Abs. 3 DSGVO nennt eine systematische und umfassende Bewertung persönlicher Aspekte, die sich auf automatisierte Verarbeitung gründet und als Grundlage für Entscheidungen mit Rechtswirkung dient. Wie Sie dabei vorgehen, lesen Sie in DSFA für KI-Tools: wann ist sie Pflicht und wie gehen Sie vor?.
Treffen Sie eine automatisierte Entscheidung, sagen Sie das vorab und geben nach der DSGVO „aussagekräftige Informationen über die involvierte Logik“, die Tragweite und die angestrebten Auswirkungen. Der Gerichtshof hat das am 27. Februar 2025 in Dun & Bradstreet Austria (C-203/22) präzisiert: Sie erläutern knapp und verständlich, welches Verfahren und welche Grundsätze konkret angewandt wurden, um zu einem Ergebnis zu kommen, etwa einem Bonitätsprofil.
Wie Sie das in Ihrer Datenschutzerklärung formulieren, lesen Sie in KI in der Datenschutzerklärung: Was sagen Sie Kunden und Mitarbeitenden zur KI-Nutzung?.
Der AI Act (KI-Verordnung) steht neben der DSGVO und betrachtet das System selbst. Punkt 5 von Anhang III nennt unter anderem KI, die die Kreditwürdigkeit natürlicher Personen prüft oder ihre Bonität bewertet, mit einer Ausnahme für die Aufdeckung von Finanzbetrug, sowie KI für Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen. Für die Einstellung und Beurteilung von Personal enthält der Anhang einen vergleichbaren Punkt; siehe KI im Personalwesen: Bewerbungen, Beurteilungen und Regeln für Hochrisiko-KI.
Die Pflichten für solche Hochrisiko-Systeme gelten nach Art. 113 ab dem 2. Dezember 2027 (Stand November 2026). Wer ein solches System einsetzt, muss dann nach Art. 26 die menschliche Aufsicht Personen mit der nötigen Kompetenz, Ausbildung und Befugnis übertragen und die Menschen, über die entschieden wird, über den Einsatz des Systems informieren.
Art. 86 gibt einer Person, über die auf Grundlage eines solchen Systems eine Entscheidung mit erheblichen Folgen getroffen wurde, das Recht auf eine klare Erläuterung der Rolle des Systems. Dieses Recht gilt nur, soweit es sich nicht bereits aus anderen Rechtsvorschriften der Union ergibt, etwa aus der DSGVO.
Lassen Sie einen KI-Assistenten eine Akte zusammenfassen, eine Textstelle suchen oder einen Briefentwurf schreiben, und entscheidet danach eine mitarbeitende Person selbst, liegt meist keine automatisierte Entscheidung vor. Das ändert sich, sobald das Ergebnis des Assistenten in der Praxis die Entscheidung ist: Eine Zusammenfassung, die standardmäßig „ablehnen“ empfiehlt und die niemand mehr liest, rückt in Richtung Art. 22.
Wo die Grenze verläuft, hängt davon ab, was in der Praxis geschieht, nicht davon, wie der Ablauf auf dem Papier heißt. Die Tabelle stellt fünf häufige Situationen nebeneinander. Sie ist eine erste Einschätzung, kein Urteil über Ihren Fall.
| Situation | Automatisierte Entscheidung? | Was Sie regeln |
|---|---|---|
| Eine mitarbeitende Person lässt einen KI-Assistenten eine Akte zusammenfassen und entscheidet danach selbst | Meist nicht, solange die Person wirklich abwägt | Die gewöhnliche DSGVO: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Information der Mandanten |
| Ein System lehnt einen Online-Kreditantrag ab, ohne dass jemand hinsieht | Ja | Eine Ausnahme aus Abs. 2, ein Mensch auf Verlangen, eine Erläuterung der Logik; ab dem 2. Dezember 2027 auch der AI Act |
| Eine mitarbeitende Person übernimmt einen eingekauften Kreditscore stets ungeprüft | Wahrscheinlich ja, angesichts der Rechtssache SCHUFA | Die Person wirklich abwägen lassen oder eine Ausnahme mit Schutzmaßnahmen regeln |
| Ein Filter lehnt Bewerbende ab, bevor eine Recruiterin oder ein Recruiter sie sieht | Ja, für die Abgelehnten | Eine Ausnahme, Schutzmaßnahmen und eine DSFA; nach dem AI Act Hochrisiko-KI |
| KI erstellt einen Prämienvorschlag für eine Lebensversicherung, den eine Underwriterin oder ein Underwriter prüft | Hängt davon ab, wie wirksam diese Prüfung ist | Die vier Fragen oben; das System fällt unter Anhang III |
Halten Sie im Zweifel fest, warum Sie der Ansicht sind, dass ein Mensch wirklich entscheidet. Das hilft bei einer Frage eines Mandanten und bei einer Frage der Aufsichtsbehörde.
Ein solcher Assistent verarbeitet weiterhin personenbezogene Daten, die gewöhnlichen Regeln der DSGVO gelten also weiter. PrivaSearch sucht und zitiert in Ihren Akten und sagt auf der Seite zur DSGVO und zum AI Act, dass es keine Menschen beurteilt und keine Entscheidungen trifft.
Das kann sein. Der Gerichtshof entschied in der Rechtssache SCHUFA, dass bereits die automatisierte Ermittlung eines Scores eine automatisierte Entscheidung ist, wenn der Abschluss, die Durchführung oder die Beendigung eines Vertrags maßgeblich von diesem Score abhängt. Dass ein anderer als die Auskunftei, die den Score berechnet, den Vertrag schließt, ändert daran nichts.
Nein, nicht wenn sie es nur abzeichnet. Die europäischen Datenschutzaufsichtsbehörden und die AP verlangen ein wirksames Eingreifen: durch jemanden, der die Entscheidung ändern darf und kann, die relevanten Daten prüft und dafür die Zeit hat. Eine routinemäßige Bestätigung lässt die Entscheidung automatisiert.
Die ausdrückliche Einwilligung ist eine der drei Ausnahmen der DSGVO. Auch dann müssen Sie dem Kunden die Möglichkeit geben, einen Menschen hinzuzuziehen, seinen Standpunkt darzulegen und die Entscheidung anzufechten. Für Gesundheitsdaten und andere besondere Kategorien personenbezogener Daten gelten zusätzliche Bedingungen.
Sie geben aussagekräftige Informationen über die involvierte Logik, die Tragweite und die Auswirkungen. Nach dem Gerichtshof beschreiben Sie verständlich, welches Verfahren und welche Grundsätze konkret angewandt wurden. Eine technische Beschreibung oder den Quellcode zu übergeben, genügt dafür nicht.
Die Verbote und die Regeln zur KI-Kompetenz gelten bereits. Die Pflichten für Hochrisiko-Systeme aus Anhang III, darunter KI für die Kreditwürdigkeit und für die Preisbildung bei Lebens- und Krankenversicherungen, gelten ab dem 2. Dezember 2027 (Stand November 2026). Die DSGVO-Regeln zu automatisierten Entscheidungen gelten schon jetzt.
Was Verschwiegenheit bedeutet, wenn Sie eine Akte in einen KI-Chatbot eingeben, und was NOvA, KNB, NBA und CCBE dazu veröffentlicht haben.
Privacy by Design und by Default bei KI-Tools: was Sie bei der Wahl eines Tools regeln, welche Einstellungen Sie abschalten und was Sie vom Anbieter verlangen.
Was die AIIA des niederländischen Infrastrukturministeriums ist, für wen sie Pflicht ist, wie sie aufgebaut ist und wie sie sich zu IAMA und DSFA verhält.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →