KI und Datenschutz
Was die Regeln zu Patientendaten in KI-Chatbots sagen, was Aufsicht und Ärzteorganisationen empfehlen und was Sie je Anwendung vorab regeln müssen.
Bei KI im Gesundheitswesen lautet die Antwort für ein kostenloses oder privates Konto: nein. Es besteht kein Auftragsverarbeitungsvertrag und die Schweigepflicht ist nicht abgesichert. Bei einem Geschäftsabonnement ist es nur möglich, wenn der Gesundheitsanbieter dies vorab beurteilt und dokumentiert hat, mit Vertrag, DSFA und Vereinbarungen über zulässige und unzulässige Eingaben.
Zusammenfassungen einer Akte, Berichte eines Behandlungsgesprächs, Briefe in verständlicher Sprache: Das geschieht bereits in Praxen und Einrichtungen. Dieser Artikel behandelt den zulässigen Umgang mit Patientendaten. Die allgemeine Frage, was beim Hochladen einer Akte geschieht, steht auf der Seite zu KI-Chatbots und der DSGVO. Hier vertiefen wir das Gesundheitswesen.
ChatGPT, Copilot und Claude gibt es jeweils als Verbraucherversion und in Geschäftsvarianten mit unterschiedlichen Bedingungen je Abonnement. Der Vergleich steht in welches Abonnement für geschäftliche Nutzung. Diese Bedingungen ändern sich regelmäßig. Lesen Sie sie vor einer Entscheidung selbst und notieren Sie das Datum.
Artikel 9 DSGVO zählt Gesundheitsdaten zu den besonderen Kategorien personenbezogener Daten. Absatz 1 verbietet die Verarbeitung. Absatz 2 nennt Ausnahmen. Welche weiteren Kategorien es gibt, lesen Sie im Artikel zu besonderen Kategorien personenbezogener Daten.
Für Gesundheitsberufe ist Absatz 2 Buchstabe h besonders wichtig: Verarbeitung, die unter anderem für medizinische Diagnosen und die Gesundheitsversorgung erforderlich ist. Absatz 3 stellt eine Bedingung. Die Daten werden durch oder unter Verantwortung einer der Schweigepflicht unterliegenden Fachperson oder durch eine andere zur Geheimhaltung verpflichtete Person verarbeitet.
Die Niederlande haben dies in Artikel 30 des niederländischen DSGVO-Durchführungsgesetzes konkretisiert. Absatz 3 hebt das Verbot für Behandelnde, Einrichtungen und Stellen der Gesundheitsversorgung auf, soweit die Verarbeitung für eine gute Behandlung oder Versorgung der betroffenen Person oder die Verwaltung der Einrichtung oder Berufspraxis nötig ist. Absatz 4 ergänzt, dass nur zur Geheimhaltung verpflichtete Personen die Daten verarbeiten dürfen.
Die Ausnahme deckt das ab, was für Behandlung oder Praxisverwaltung erforderlich ist. Sie deckt nicht alles Praktische ab. Wer eine vollständige Akte in einen Chatbot eingibt, um einen einzigen Brief schreiben zu lassen, muss erklären können, warum die gesamte Akte nötig war. Meistens ist sie das nicht.
Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, schreibt auf ihrer Seite zur Nutzung und Weitergabe von Gesundheitsdaten, dass Gesundheitsanbieter bei umfangreicher Gesundheitsdatenverarbeitung eine DSFA durchführen und einen Datenschutzbeauftragten benennen. Ein Verarbeitungsverzeichnis ist laut AP auch für kleine Gesundheitspraxen meist verpflichtend. Wie ein Eintrag aussieht, steht im Artikel zum Verarbeitungsverzeichnis.
Neben der DSGVO gilt die Schweigepflicht. Für medizinische Behandlungen steht sie in Artikel 7:457 des niederländischen Bürgerlichen Gesetzbuchs, Teil der als WGBO bezeichneten Regelung.
Absatz 1 bestimmt, dass Behandelnde sicherstellen, dass anderen als dem Patienten ohne dessen Einwilligung keine Informationen über ihn und kein Einblick in oder Abschriften aus der Akte gegeben werden. Absatz 2 sagt, wer nicht als „andere“ gilt: unmittelbar an der Durchführung des Behandlungsvertrags Beteiligte und die Vertretung der behandelnden Person, soweit die Weitergabe für deren Aufgaben erforderlich ist.
Der Gesetzestext nennt keine Softwareanbieter. Gesundheitsanbieter arbeiten seit Langem mit Anbietern von Patientenaktensystemen, die als Auftragsverarbeiter Daten sehen können. Ob ein KI-Chatbot-Anbieter ebenso in die Schweigepflicht eingebunden werden kann, hängt von Vertrag, Technik und Zweck ab. Das beurteilen Sie rechtlich je Anwendung mit Ihrem Datenschutzbeauftragten oder einem Juristen. Dieser Artikel gibt dazu kein Urteil ab.
Eines ist klar: Ein Privatkonto ohne Vertrag, bei dem der Anbieter selbst über die Eingaben entscheidet, unterscheidet sich von einem Auftragsverarbeiter, der nur auf Weisung handelt. Wie andere Berufe mit Geheimhaltungspflichten damit umgehen, lesen Sie im Artikel über Berufsgeheimnis und KI.
Artikel 7:454 desselben Gesetzbuchs verpflichtet Behandelnde, eine Akte anzulegen und darin Gesundheitsdaten sowie durchgeführte Maßnahmen aufzunehmen, soweit für gute Versorgung erforderlich. Lassen Sie einen Bericht durch KI erstellen, bleiben es Ihre Akte und Ihr Bericht.
Am 6. August 2024 veröffentlichte die AP eine Warnung zu KI-Chatbots und Datenpannen. Sie hatte mehrere Datenpannenmeldungen erhalten, weil Mitarbeitende personenbezogene Daten etwa von Patienten oder Kunden mit einem KI-Chatbot geteilt hatten. Die AP nennt ChatGPT und Copilot als Beispiele für digitale Assistenten am Arbeitsplatz.
Bei einer gemeldeten Datenpanne hatte ein Mitarbeitender einer Hausarztpraxis entgegen den Vereinbarungen medizinische Patientendaten in einen KI-Chatbot eingegeben. Die AP schreibt, medizinische Daten seien äußerst sensibel und erhielten nicht ohne Grund zusätzlichen gesetzlichen Schutz; die unbedachte Weitergabe an ein Technologieunternehmen verletze die Privatsphäre der betroffenen Menschen erheblich. Die Mitteilung nennt weder Chatbot noch Patientenzahl.
Die AP unterscheidet: Nutzt ein Mitarbeitender einen Chatbot eigenmächtig entgegen den Vereinbarungen und gibt personenbezogene Daten ein, liegt eine Datenpanne vor. Ist die Nutzung Teil der Organisationsrichtlinie, ist es keine Datenpanne, laut AP aber häufig gesetzlich unzulässig. Organisationen müssen beide Situationen verhindern.
Was Sie danach tun, steht im Artikel zur Datenpanne durch einen KI-Chatbot.
Die IGJ rief Gesundheitsanbieter am 10. Februar 2025 dazu auf, generative KI sorgfältig einzuführen. Als erste Anwendungen nennt sie automatisierte Dokumentation durch Spracherkennung, Zusammenfassungen von Patientenakten und Chatbots zur Patientenkommunikation. Laut Behörde gelten dieselben Rahmenbedingungen wie bei jeder digitalen Versorgung, ergänzt um besondere Risiken: Generative KI kann falsche oder unvollständige Informationen erzeugen, etwa mit Medikationsfehlern oder falscher Patientenbeurteilung als Folge. Gesundheitsanbieter sind laut Behörde gesetzlich für sorgfältige Einführung und Nutzung verantwortlich.
Die Veröffentlichung enthält Fragen für drei Zeitpunkte: vor der Anschaffung, bei der Einführung und nach der Inbetriebnahme. Sie weist auch darauf hin, dass eine KI-Anwendung zur Unterstützung von Diagnose oder Behandlung ein Medizinprodukt sein kann, für das eigene europäische Regeln gelten.
Der Ärzteverband KNMG führt ein KI-Dossier, aktualisiert am 9. April 2026, mit zwei Praxisdilemmata. Zu KI bei der Dokumentation von Patientengesprächen schreibt die KNMG unter anderem:
Auf die Frage, ob ein Arzt ChatGPT für Verwaltungsaufgaben nutzen darf, antwortet die KNMG, dies hänge zunächst von den Regeln der Gesundheitseinrichtung ab, große Vorsicht sei geboten und Verantwortung für Nutzung und Folgen liege beim Nutzer.
Das Nederlands Huisartsen Genootschap schreibt auf seiner Seite zu KI in der Hausarztpraxis, dass es in der hausärztlichen Versorgung noch wenig KI-Erfahrung und begrenzte wissenschaftliche Wirksamkeitsnachweise gibt. Das NHG sieht Chancen bei Triage, Gesprächsvorbereitung und sprachgesteuerter Dokumentation und arbeitet an Praxisempfehlungen.
Die folgende Tabelle hilft bei der Einordnung. Sie ersetzt weder DSFA noch rechtliches Urteil.
| Anwendung | Welche Daten | Was Sie regeln |
|---|---|---|
| Allgemeine Broschüre oder Informationstext umschreiben | Keine Patientendaten | Zulässiges Tool; medizinische Richtigkeit durch Fachperson prüfen |
| Protokolle und Arbeitsanweisungen durchsuchen | Keine Patientendaten, sofern die Frage keinen Patienten beschreibt | Vereinbarung über nicht identifizierende Fragen; Quellenangaben prüfen |
| Brief oder E-Mail an Patienten entwerfen | Name, Beschwerden, Behandlung | Geschäftsabonnement mit Auftragsverarbeitungsvertrag; nur notwendige Daten; Kontrolle vor Versand |
| Akte für Übergabe zusammenfassen | Vollständige Akte | DSFA; Schweigepflicht prüfen; möglichst im Aktensystem oder mit pseudonymisiertem Text; Auslassungen prüfen |
| Behandlungsgespräch aufnehmen und ausarbeiten lassen | Ton, sämtliche Patientenäußerungen | Einwilligung gemäß KNMG; Aufnahme nicht aufbewahren; DSFA; Bericht vor Ablage prüfen |
| Chatbot für Patientenfragen | Was Patienten eingeben | KI kenntlich machen; Antwortgrenzen; Aufsicht durch Fachperson; DSFA |
| Hilfe bei Triage oder Diagnose | Beschwerden, Messwerte, Vorgeschichte | Medizinproduktstatus und AI-Act-Einstufung prüfen; der Arzt entscheidet |
Diese Anwendung verlangt am meisten. Ton wird aufgenommen, ein Patient spricht, der das Tool nicht angefordert hat, und das Ergebnis kommt in die Akte. Was Aufnahmen und Transkription auch außerhalb des Gesundheitswesens erfordern, steht im Artikel zu KI-Protokollen und der DSGVO.
Der AI Act (KI-Verordnung) ordnet Anwendungen nach Risiko ein. Die Hochrisikoanforderungen wurden verschoben und gelten teilweise erst Ende 2027. Welche Daten gelten und was bereits wirksam ist, steht in Der AI Act erklärt.
PrivaSearch ist weder Patientenaktensystem noch Medizinprodukt. Es ist eine Suchebene für Dokumente: Es entfernt personenbezogene Daten aus dem Text, bevor ein KI-Assistent darin sucht. Namen, BSNs (niederländische Bürgerservicenummern), Adressen und andere erkannte Daten werden durch Pseudonyme ersetzt. Ein Kollege sieht anschließend Original und pseudonymisierten Text nebeneinander, ergänzt übersehene Daten und gibt frei. Erst dann ist ein Dokument durchsuchbar. Die Schritte stehen auf der Seite zur Funktionsweise.
Für das Gesundheitswesen sind zwei Einschränkungen wichtig. Die Erkennung richtet sich auf personenbeziehbare Merkmale wie Namen, Adressen, BSNs und Geburtsdaten. Gehen Sie deshalb davon aus, dass medizinische Inhalte wie Diagnosen oder Behandlungen lesbar bleiben. Eine Kombination von Details kann jemanden trotzdem erkennbar machen, besonders in kleinen Gemeinschaften. Deshalb ist die menschliche Prüfung verpflichtend. Pseudonymisierung ist keine Anonymisierung: Für Ihre Organisation bleiben es personenbezogene Daten und Gesundheitsdaten. Den Unterschied erläutert Pseudonymisieren oder anonymisieren.
Sie können in PrivaSearch suchen oder einen Assistenten verbinden: Claude, ChatGPT Business oder Mistral Vibe (früher Le Chat). Der Assistent sieht nur freigegebene Textstellen; was PrivaSearch zurückgibt, gelangt zum Anbieter dieses Assistenten. Eigene Eingaben gehen direkt dorthin. Die Einzelheiten stehen auf der Seite zu KI-Chatbots und der DSGVO.
Ob dies zur Schweigepflicht Ihrer Praxis oder Einrichtung passt, beurteilen Sie selbst mit Ihrem Datenschutzbeauftragten. PrivaSearch liefert dafür Ausgangsdokumente, darunter eine DSFA-Vorlage und einen Verzeichniseintrag, beschrieben auf der Seite zur DSGVO und zum AI Act. Es sind keine abgeschlossenen Beurteilungen. Möchten Sie es mit fiktiven Akten sehen, fragen Sie eine Demo an.
Für Texte ohne Patientendaten wie eine allgemeine Broschüre ist das möglich, wenn die Praxis es erlaubt. Bei Patientendaten ist es anders: Ein Privatkonto hat keinen Auftragsverarbeitungsvertrag und sichert die Schweigepflicht nicht ab. Die KNMG schreibt, die Nutzung hänge zuerst von den Einrichtungsregeln ab, große Vorsicht sei geboten und die Verantwortung liege beim Nutzer.
Laut Autoriteit Persoonsgegevens ja, wenn es eigenmächtig entgegen den Arbeitgebervereinbarungen geschieht. Die Aufsichtsbehörde erhielt eine solche Meldung einer Hausarztpraxis. Eine Meldung an AP und Betroffene ist dann häufig verpflichtend. Erlaubt die Organisation die Nutzung selbst, ist es keine Datenpanne, laut AP aber häufig gesetzlich unzulässig.
Das hängt von der Anwendung ab. Für die Verarbeitung behandlungsnotwendiger Gesundheitsdaten gibt es eine gesetzliche Ausnahme ohne Einwilligungserfordernis. Für Gesprächsaufnahmen mit einer KI-Anwendung verlangt die KNMG Patienteneinwilligung. Die Schweigepflicht erfordert außerdem Einwilligung für die Weitergabe an andere als unmittelbar an der Behandlung Beteiligte.
Die DSGVO mit besonderem Schutz für Gesundheitsdaten, das niederländische DSGVO-Durchführungsgesetz, die ärztliche Schweigepflicht aus dem niederländischen Bürgerlichen Gesetzbuch und der AI Act. Bei Anwendungen für Diagnose oder Behandlung können europäische Medizinproduktregeln gelten. Die Inspectie Gezondheidszorg en Jeugd überwacht Qualität und Sicherheit der Versorgung, die Autoriteit Persoonsgegevens den Umgang mit personenbezogenen Daten.
Nicht automatisch. Dass ein Assistent Teil vorhandener Software ist, sagt nichts darüber, welche Dokumente er lesen kann, wer die Antwort sieht und was gespeichert wird. Die Autoriteit Persoonsgegevens nennt Copilot neben ChatGPT in ihrer Datenpannenwarnung. Ein Gesundheitsanbieter beurteilt es vorab mit DSFA und Blick auf den Zugriff auf Akten.
KI darf einen Entwurf erstellen; die behandelnde Person bleibt für die Akte verantwortlich. Die KNMG empfiehlt, automatische Berichte auf Faktenfehler, Fehlinterpretationen und Sprecherzuordnung zu prüfen und nonverbale Äußerungen zu ergänzen. Die Aufsichtsbehörde betont, dass generative KI falsche oder unvollständige Informationen erzeugen kann. Nachlesen ist deshalb fester Bestandteil der Arbeit.
Wo eine hochgeladene Datei landet, wie lange sie bleibt, wer Zugriff hat und was Löschen bedeutet. Mit vier Vorgehensweisen für personenbezogene Akten.
Wie Schulen KI nutzen, warum Schülerdaten besonders geschützt sind, welche Anwendungen verboten oder hochriskant sind und was eine Schule regeln muss.
Was ChatGPT speichert, wer darauf zugreifen kann und wie Sie Training ausschalten. Dazu temporäre Chats, Erinnerungen und geteilte Links mit Checkliste.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →