Regeln
Was der AI Act ist, welche Risikokategorien und Rollen er kennt und was eine Organisation, die nur KI-Chatbots nutzt, bereits jetzt regeln muss.
Der AI Act (KI-Verordnung) ist die europäische KI-Verordnung, Verordnung (EU) 2024/1689. Er legt Regeln für die Entwicklung, den Verkauf und die Nutzung von KI-Systemen fest. Je größer das Risiko für Menschen, desto strenger die Regeln. Das Gesetz gilt unmittelbar in allen Mitgliedstaaten, auch für eine Organisation, die nur einen KI-Chatbot nutzt.
Sie begegnen dem Gesetz unter drei Namen: AI Act, EU AI Act und KI-Verordnung. Gemeint ist derselbe Text. Dieser Artikel erklärt den Aufbau: Was ein KI-System ist, welche Rollen das Gesetz kennt, welche Risikokategorien es gibt und was das für eine gewöhnliche Organisation bedeutet. Die genannten Artikel haben wir am 13. Oktober 2026 anhand des Textes im AI Act Service Desk der Europäischen Kommission mit den Änderungen von 2026 geprüft.
Eine Verordnung muss nicht erst in niederländische Gesetzgebung umgesetzt werden. Die Regeln gelten so, wie sie im europäischen Text stehen. Die Niederlande regeln selbst nur, wer die Aufsicht führt und wie Sanktionen verhängt werden. Dieses Durchführungsgesetz gibt es noch nicht.
Die Definition steht in Artikel 3. Ein KI-System ist ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet und aus seinen Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. Ein Chatbot fällt darunter. Ein Tabellenblatt mit festen Formeln nicht.
Das Gesetz unterscheidet außerdem zwischen einem KI-System und einem KI-Modell mit allgemeinem Verwendungszweck. Das Modell ist der Motor, zum Beispiel das Sprachmodell hinter ChatGPT, Claude oder Mistral Vibe (früher Le Chat). Das System ist das, was Sie nutzen: der Chatbot mit seinem Fenster, seinen Einstellungen und Verbindungen.
Der EU AI Act gilt nach Artikel 2 für Anbieter, die KI in der EU auf den Markt bringen, unabhängig von ihrem Sitz, und für Betreiber mit Sitz in der EU. Auch Einführer, Händler und Hersteller von Produkten mit KI fallen darunter.
Die meisten Organisationen sind Betreiber. Sie sind es bereits, wenn Mitarbeitende einen Chatbot für ihre Arbeit nutzen.
Das geschieht schneller, als Sie denken. Artikel 25 nennt drei Fälle, in denen ein Nutzer oder eine andere Partei als Anbieter eines Hochrisikosystems behandelt wird: Sie versehen ein bestehendes Hochrisikosystem mit Ihrem eigenen Namen oder Ihrer Marke, verändern ein solches System wesentlich oder ändern den Zweck eines Systems so, dass es zum Hochrisikosystem wird. Letzteres ist auch mit einem allgemeinen Chatbot möglich. Wer einen solchen Chatbot zur Rangfolge von Bewerbern einrichtet, muss sich fragen, ob er damit die Pflichten eines Anbieters übernimmt. Lassen Sie das prüfen, bevor Sie es entwickeln.
Artikel 2 nennt mehrere Ausnahmen. Das Gesetz gilt nicht für KI, die ausschließlich für Verteidigung oder nationale Sicherheit eingesetzt wird, und nicht für Systeme, die nur für wissenschaftliche Forschung entwickelt wurden. Die Betreiberpflichten gelten auch nicht für eine Person, die KI rein privat nutzt. Geschäftliche Nutzung auf einem Privatkonto ist keine private Nutzung: Die Organisation bleibt verantwortlich.
Die Kommission beschreibt auf ihrer Übersichtsseite zum Rechtsrahmen für KI vier Stufen. Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, weist auf ihrer Seite zur KI-Verordnung darauf hin, dass Sie selbst prüfen müssen, in welche Kategorie ein von Ihnen entwickeltes oder genutztes System fällt.
| Risikokategorie | Beispiel | Was verlangt wird |
|---|---|---|
| Verbotene Praxis (Artikel 5) | Emotionserkennung am Arbeitsplatz; soziale Bewertung von Menschen, die zu Benachteiligungen führt | Weder anbieten noch nutzen |
| Hohes Risiko (Artikel 6, Anhänge I und III) | Software zur Auswahl von Lebensläufen; Prüfung eines Leistungsanspruchs; Bewertung der Kreditwürdigkeit | Anbieter: Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht. Nutzer: die Pflichten aus Artikel 26 |
| Transparenz (Artikel 50) | Ein Chatbot auf Ihrer Website; ein Deepfake; KI-Texte zu Angelegenheiten von öffentlichem Interesse | Menschen darüber informieren, dass sie mit KI zu tun haben oder Inhalte künstlich sind |
| Minimales oder kein Risiko | Spamfilter; KI in einem Computerspiel | Keine spezifischen Anforderungen des AI Act; jedoch KI-Kompetenz und bei personenbezogenen Daten die DSGVO |
| Modell mit allgemeinem Verwendungszweck (Kapitel V) | Das Sprachmodell hinter einem Chatbot | Pflichten für den Entwickler des Modells, nicht für den Nutzer |
Artikel 5 verbietet Anwendungen, die der Gesetzgeber für unvertretbar hält. Dazu gehören täuschende oder manipulative Techniken, die Menschen schädigen, das Ausnutzen von Verletzlichkeit aufgrund von Alter, Behinderung oder sozialer Lage, soziale Bewertungen, die Vorhersage strafbaren Verhaltens allein anhand eines Profils, das ungezielte Sammeln von Gesichtsbildern für Erkennungsdatenbanken, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie die Einteilung von Menschen anhand sensibler Merkmale durch Biometrie. Im Sommer 2026 wurden zwei Verbote ergänzt, die am 2. Dezember 2026 wirksam werden: KI, die ohne Einwilligung intime Bilder erkennbarer Personen erstellt, und KI, die Material zum sexuellen Kindesmissbrauch erzeugt.
Es gibt zwei Wege zum hohen Risiko. Der erste ist KI als Sicherheitskomponente eines Produkts, das bereits unter europäische Produktvorschriften fällt, etwa Maschinen oder Spielzeug (Anhang I). Der zweite ist eine Liste von acht Bereichen in Anhang III: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalmanagement, wesentliche Dienstleistungen und Leistungen, Strafverfolgung, Migration und Grenzkontrolle sowie Rechtspflege und demokratische Prozesse.
Artikel 6 enthält eine Ausnahme. Ein System aus Anhang III weist kein hohes Risiko auf, wenn es kein erhebliches Risiko darstellt, etwa weil es nur eine eng begrenzte Verfahrensaufgabe oder eine vorbereitende Aufgabe erfüllt. Diese Ausnahme entfällt, sobald das System Personen profiliert: Dann ist es immer ein Hochrisikosystem. Was das in der Praxis einer Personalabteilung bedeutet, steht im Artikel über KI im Personalwesen.
Für Systeme, die mit Menschen kommunizieren oder Inhalte erzeugen, gelten die Transparenzregeln aus Artikel 50. Diese Regeln und die Übergangsfristen erläutern wir im Artikel über den AI Act im Herbst 2026. Für die größte Gruppe, die die Kommission als minimales oder kein Risiko bezeichnet, stellt der AI Act keine spezifischen Anforderungen.
Das Gesetz ist am 1. August 2024 in Kraft getreten und wird schrittweise anwendbar. Die Daten stehen in Artikel 113. Eine Änderungsverordnung, der digitale Omnibus zu KI, hat im Sommer 2026 einen Teil dieser Daten verschoben. Laut Kommission ist diese Änderung am 27. Juli 2026 in Kraft getreten.
Dies ist der Stand am 13. Oktober 2026. Den vollständigen Zeitplan und die noch offenen Vorschläge finden Sie im oben verlinkten Artikel zum Herbst 2026.
Weniger, als viele denken, aber nicht nichts. Ein Chatbot zum Zusammenfassen, Schreiben und Suchen steht nicht in Anhang III. Dennoch haben Sie als Betreiber Pflichten, die heute gelten.
Nutzen Sie ein Hochrisikosystem, gelten ab dem 2. Dezember 2027 die Pflichten aus Artikel 26.
Personen, über die auf Grundlage eines solchen Systems entschieden wird, können nach Artikel 86 eine Erklärung zur Rolle des Systems verlangen. Halten Sie diese Vereinbarungen in Ihrer KI-Richtlinie fest. Einen Aufbau finden Sie im Artikel über das Erstellen einer KI-Richtlinie.
Das KI-Büro der Kommission beaufsichtigt die Entwickler von Modellen mit allgemeinem Verwendungszweck. Für den Rest benennen die Mitgliedstaaten Aufsichtsbehörden. In den Niederlanden ist das noch nicht geschehen. Die AP schreibt in einer Mitteilung vom 9. Oktober 2026, dass sie als Marktüberwachungsbehörde vorgesehen, aber noch nicht benannt ist und erst Befugnisse erhält, wenn das niederländische Durchführungsgesetz gilt. Die Regeln selbst gelten bereits.
Die Höchstbeträge stehen in Artikel 99. Wie Bußgelder in den Niederlanden verhängt werden, regelt das Durchführungsgesetz.
Für KMU und Start-ups gilt der niedrigere statt des höheren der beiden Beträge. Das sind Höchstgrenzen, keine festen Tarife: Schwere, Dauer und Größe der Organisation werden berücksichtigt.
Die beiden Gesetze betrachten unterschiedliche Dinge. Der AI Act regelt das System: Was es tun darf, wie es entwickelt und genutzt wird. Die DSGVO regelt die personenbezogenen Daten: Ob Sie sie verarbeiten dürfen, wie viele, wie lange und mit welchen Schutzvorkehrungen.
Artikel 2 des AI Act besagt, dass die Verordnung die europäische Gesetzgebung zum Schutz personenbezogener Daten unberührt lässt. Ein Chatbot außerhalb jeder Risikokategorie kann deshalb trotzdem ein Problem unter der DSGVO sein, etwa wenn jemand eine Akte hineinkopiert. Was die DSGVO in verständlicher Sprache verlangt, steht im Artikel über die Datenschutzgesetzgebung.
PrivaSearch macht Dokumente durchsuchbar, nachdem personenbezogene Daten durch Pseudonyme ersetzt wurden und ein Kollege dies geprüft hat. Es sucht und zitiert. Es beurteilt keine Menschen und trifft keine Entscheidungen. Die Seite zur DSGVO und zum AI Act erläutert, dass dies eine Einstufung außerhalb der Hochrisikokategorien unterstützt, abhängig vom vorgesehenen Einsatz und der Arbeitsweise. Die Einstufung Ihrer Nutzung nehmen Sie selbst vor.
Einige Bestandteile entsprechen dem, was das Gesetz von einem Nutzer verlangt. Die menschliche Prüfung ist verpflichtend und kann nicht übersprungen werden. Jede Antwort verweist auf Dokument und Seite, damit Sie die Quelle prüfen können. Handlungen werden protokolliert. Und Mitarbeitende absolvieren eine kurze Schulung zur KI-Kompetenz mit regelmäßiger Wiederholung; ohne gültige Schulung öffnet sich der Arbeitsbereich nicht. Wie die Schritte aufeinander folgen, steht auf der Seite So funktioniert PrivaSearch.
Sie können einen KI-Assistenten verbinden: Claude, ChatGPT Business und Mistral Vibe. Was ein solcher Assistent sehen kann und was nicht, steht auf der Seite zu KI-Chatbots und der DSGVO. Pseudonymisierte Daten bleiben für Ihre Organisation personenbezogene Daten; die DSGVO gilt deshalb weiter.
Ihre Umgebung erstellt außerdem eine KI-Richtlinie und eine DSFA-Vorlage auf Grundlage Ihrer eigenen Einrichtung. Das sind Ausgangsdokumente und keine Rechtsberatung. Möchten Sie sehen, wie das funktioniert, fragen Sie eine Demo an.
Der AI Act ist eine europäische Verordnung mit Regeln für die Entwicklung, den Verkauf und die Nutzung von KI-Systemen. Je größer das Risiko für Menschen, desto strenger die Regeln. Eine kleine Zahl von Anwendungen ist verboten, eine begrenzte Gruppe weist ein hohes Risiko auf und muss strenge Anforderungen erfüllen, und für Chatbots und erzeugte Inhalte gelten Transparenzregeln. Das Gesetz gilt unmittelbar in allen EU-Mitgliedstaaten.
Ja. AI Act, EU AI Act und KI-Verordnung sind drei Namen für dasselbe Gesetz: Verordnung (EU) 2024/1689. Die niederländische Regierung und die Autoriteit Persoonsgegevens sprechen meist von der KI-Verordnung, im Alltag hört man häufiger AI Act. Im Sommer 2026 wurde der Text durch den digitalen Omnibus zu KI teilweise geändert. Lesen Sie deshalb immer die konsolidierte Fassung.
Ja. Wer ein KI-System in eigener Verantwortung für die Arbeit nutzt, ist Betreiber. Sie müssen dann verbotene Praktiken vermeiden und Maßnahmen zur Unterstützung der KI-Kompetenz Ihrer Mitarbeitenden ergreifen. Die umfangreichen Anforderungen an Hochrisikosysteme gelten nur, wenn Sie den Chatbot für einen Zweck aus Anhang III einsetzen, etwa zur Auswahl von Bewerbern.
Wenn es eine Sicherheitskomponente eines Produkts ist, das unter europäische Produktvorschriften fällt, oder in einem der acht Bereiche aus Anhang III eingesetzt wird, etwa Personalmanagement, Bildung, wesentliche Dienstleistungen oder Strafverfolgung. Es gibt eine Ausnahme für Systeme ohne erhebliches Risiko; sie gilt aber nicht, wenn das System Personen profiliert. Der Nutzungszweck bestimmt die Einstufung.
Artikel 99 nennt drei Höchstgrenzen. Für verbotene Praktiken sind es 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, für die meisten anderen Pflichten 15 Millionen Euro oder 3 % und für unrichtige Informationen an Aufsichtsbehörden 7,5 Millionen Euro oder 1 %. Für KMU gilt der niedrigere der beiden Beträge. Wie Bußgelder in den Niederlanden verhängt werden, regelt ein noch nicht vorhandenes Durchführungsgesetz.
Nein. Der AI Act regelt das KI-System, die DSGVO die personenbezogenen Daten, die hinein- und herausgehen. Beide gelten nebeneinander. Eine Anwendung, für die der AI Act kaum Anforderungen stellt, kann unter der DSGVO trotzdem einen Auftragsverarbeitungsvertrag, einen Eintrag im Verarbeitungsverzeichnis und eine DSFA erfordern. Prüfen Sie deshalb bei jeder KI-Anwendung beide Gesetze.
Der Zeitplan des AI Act nach dem digitalen Omnibus: Was bereits gilt, was auf 2027 und 2028 verschoben wurde und was Sie als KI-Nutzer jetzt regeln.
Was ein Deepfake ist, welche Regeln jetzt gelten, welches Verbot bevorsteht und was Organisationen gegen Betrug mit gefälschter Stimme oder Video tun.
Was das niederländische Algoritmeregister und das IAMA sind, was Pflicht ist und was nicht und was eine Gemeinde beim Einsatz von KI-Chatbots regelt.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →