Technik
Was ein KI-Detektor misst, warum das Ergebnis eine Wahrscheinlichkeit statt eines Beweises ist und was Sie vor Vorwürfen gegen Mitarbeitende regeln.
Nein, nicht mit Sicherheit. Ein KI-Detektor schätzt, wie wahrscheinlich ein Text von einem Sprachmodell stammt. Er kann KI-Texte übersehen und menschliche Texte markieren. Das Ergebnis ist ein Anlass, genauer hinzusehen. Als Beweis für eine Entscheidung über Schüler, Studierende oder Mitarbeitende ist es zu schwach.
Das ist der Stand am 13. Oktober 2026. Die folgenden Zahlen stammen aus Quellen, die wir heute geöffnet haben. Prüfen Sie für Ihre eigene Wahl die aktuelle Dokumentation des Tools. Dieser Artikel dient der Erklärung und ist keine Rechtsberatung.
Ein Sprachmodell wählt Wort für Wort, was wahrscheinlich folgt. Ein KI-Detektor kehrt das um: Er betrachtet die Vorhersagbarkeit eines Textes und vergleicht sie mit seinem Wissen über Menschen und Modelle. Ein vorhersehbarer, gleichmäßiger Text erhält einen hohen Wert. Was ein Sprachmodell tut, steht im Artikel Was ist ein LLM?.
Ein Detektor sieht also keine Herkunft. Er weiß nicht, wer an der Tastatur saß oder wie viel umgeschrieben wurde.
Eine Plagiatsprüfung vergleicht einen Text mit bestehenden Quellen und zeigt Übereinstimmungen. Das können Sie durch einen Vergleich mit der Quelle prüfen. Ein KI-Detektor hat keine Quelle zum Danebenlegen. Der Wert ist eine Schätzung, die Sie nicht selbst nachrechnen können.
Beide hängen zusammen: Ein strenger eingestellter Detektor übersieht weniger KI-Texte und verdächtigt mehr Menschen fälschlich.
OpenAI veröffentlichte am 31. Januar 2023 einen eigenen Klassifikator und schrieb in der Ankündigung, dass er nicht vollständig zuverlässig sei. Im eigenen Test mit englischen Texten erkannte er 26 % der KI-Texte als wahrscheinlich KI-generiert und stufte 9 % der menschlichen Texte fälschlich so ein. Bei weniger als tausend Zeichen bezeichnete OpenAI den Klassifikator als sehr unzuverlässig. Das Unternehmen schrieb, das Tool dürfe nicht das wichtigste Mittel bei einer Entscheidung sein. Oben auf derselben Seite steht inzwischen, dass der Klassifikator seit dem 20. Juli 2023 wegen geringer Genauigkeit nicht mehr verfügbar ist.
Eine Gruppe europäischer Forschender testete 2023 vierzehn Erkennungstools, darunter zwei kommerzielle Systeme. Ihre im International Journal for Educational Integrity veröffentlichte Untersuchung kommt zu dem Schluss, dass die Tools weder genau noch zuverlässig sind, Texte eher als menschlich einstufen und nach Umschreibungen noch schlechter abschneiden.
Forschende aus Stanford legten sieben häufig verwendeten Detektoren 91 Aufsätze von Personen vor, die Englisch als Zweitsprache schreiben. Laut ihrem Artikel in der Zeitschrift Patterns wurden durchschnittlich 61,22 % dieser Aufsätze fälschlich als KI-Texte eingestuft. Aufsätze amerikanischer Achtklässler bestanden die Prüfung nahezu fehlerfrei. Die Erklärung der Forschenden: Wer in einer Zweitsprache schreibt, nutzt einen vorhersehbareren Wortschatz, und Vorhersagbarkeit ist das, was ein Detektor misst.
Diese Untersuchungen stammen aus 2023 und betreffen englische Texte. Unabhängige Forschung ähnlichen Umfangs zu niederländischen Texten haben wir nicht gefunden.
Turnitin, ein von vielen Bildungseinrichtungen genutzter Anbieter, schrieb in einer eigenen Erläuterung von 2023, dass weniger als 1 % der vollständig menschlichen Dokumente fälschlich markiert werden, bei Dokumenten, in denen das Tool mindestens 20 % KI-Text erkennt. Auf Satzebene nennt das Unternehmen etwa 4 %, häufiger bei gemischten menschlichen und KI-Texten. Das sind Zahlen des Herstellers selbst, Stand 2023. Fragen Sie nach aktuellen Zahlen.
Ein Rechenbeispiel mit einer fiktiven Schule: Vierhundert Schüler reichen eine Arbeit ein und niemand nutzt KI. Bei einer Fehlerquote von 1 % werden vier Schüler zu Unrecht markiert. Bei 9 % sind es sechsunddreißig.
Eine mit dem Namen verknüpfte Beurteilung, dass jemand einen Text mit KI geschrieben hat, ist ein personenbezogenes Datum. Artikel 22 DSGVO gibt Menschen das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Es gibt Ausnahmen; dann hat die betroffene Person mindestens das Recht auf menschliches Eingreifen, Darlegung des eigenen Standpunkts und Anfechtung der Entscheidung.
Eine Note, die oberhalb eines Schwellenwerts automatisch ungültig wird, oder ein deshalb ungelesen abgelehntes Bewerbungsschreiben kommt dem nahe. Prüft ein Mensch den Fall wirklich und darf vom Wert abweichen, ist es keine ausschließlich automatisierte Entscheidung. Ob Ihre Arbeitsweise unter Artikel 22 fällt, erfordert eine rechtliche Beurteilung.
Artikel 5 DSGVO verlangt richtige personenbezogene Daten. Ein Vermerk „Arbeit mit KI geschrieben“ in einer Schüler- oder Personalakte ist eine Tatsache über eine Person. Beruht er allein auf einem Detektor, können Sie die Richtigkeit nicht nachweisen. Die betroffene Person kann nach Artikel 16 Berichtigung verlangen.
Im Hochschulbereich kann der Prüfungsausschuss bei Täuschung durch Studierende Maßnahmen treffen; das steht in Artikel 7.12b des niederländischen Hochschul- und Forschungsgesetzes. Was als Täuschung und Beweis gilt, regeln die eigenen Vorschriften der Einrichtung. Wie eine Schule darüber hinaus mit Schülerdaten und KI umgeht, steht im Artikel über KI in der Bildung.
Arbeitgeber und Arbeitnehmer müssen sich wie ein guter Arbeitgeber und Arbeitnehmer verhalten, besagt Artikel 7:611 des niederländischen Bürgerlichen Gesetzbuchs. Eine Abmahnung oder Kündigung aufgrund eines unerklärbaren Werts passt schlecht dazu. Beginnen Sie bei der Vereinbarung: Ohne KI-Richtlinie, die die zulässige Nutzung festlegt, gibt es wenig Grundlage für Vorwürfe. Den Aufbau finden Sie im Artikel über das Erstellen einer KI-Richtlinie, Fragen zu Einstellung und Beurteilung in KI im Personalwesen.
Das ist möglich. Anhang III des AI Act (KI-Verordnung) nennt als Hochrisikosysteme unter anderem Systeme zur Bewertung von Lernergebnissen, zur Überwachung und Erkennung unerlaubten Verhaltens Studierender bei Prüfungen und zur Überwachung und Bewertung von Leistung und Verhalten Beschäftigter. Ob ein bestimmter KI-Detektor darunterfällt, hängt vom vorgesehenen Zweck des Anbieters und Ihrer Nutzung ab. Die Anforderungen an diese Hochrisikosysteme gelten ab dem 2. Dezember 2027. Siehe der AI Act im Herbst 2026.
Wer eine Arbeit, ein Bewerbungsschreiben oder einen Bericht in einen Online-KI-Detektor kopiert, sendet diesen Text an ein anderes Unternehmen. Häufig steht darin ein Name. Es kann viel mehr enthalten sein: ein Reflexionsbericht über ein Praktikum, eine Erörterung der eigenen religiösen Überzeugung, ein Brief über eine Krankheitsphase. Ein Teil kann zu den besonderen Kategorien personenbezogener Daten gehören, für die strengere Regeln gelten. Welche das sind, lesen Sie im Artikel über besondere Kategorien personenbezogener Daten.
Die Autoriteit Persoonsgegevens (AP), die niederländische Datenschutzaufsichtsbehörde, schrieb in ihrer Warnung zu KI-Chatbots und Datenpannen, dass die Eingabe personenbezogener Daten entgegen organisatorischen Vereinbarungen eine Datenpanne ist und die meisten Anbieter Eingaben speichern. Diese Warnung betrifft Chatbots. Für einen kostenlosen Detektor im Internet gilt dieselbe Überlegung.
Was mit Text geschieht, den Sie in einen KI-Dienst kopieren, steht auf unserer Seite zu KI-Chatbots und der DSGVO.
Der AI Act setzt nicht auf nachträgliche Erkennung, sondern auf Kennzeichnung an der Quelle. Artikel 50 gilt seit dem 2. August 2026.
Anbieter von KI-Systemen, die synthetische Audios, Bilder, Videos oder Texte erzeugen, müssen sicherstellen, dass die Ausgaben maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind, soweit technisch machbar. Die Pflicht gilt nicht für Systeme, die nur gewöhnliche Textbearbeitung unterstützen oder Eingaben nicht wesentlich verändern. Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, haben nach dem Zeitplan der Europäischen Kommission bis zum 2. Dezember 2026 Zeit, dies zu erfüllen.
Die Kommission veröffentlichte am 10. Juni 2026 einen Verhaltenskodex zur Kennzeichnung und Ausweisung von KI-Inhalten. Die Teilnahme ist freiwillig, die Pflichten aus Artikel 50 selbst sind es nicht. Laut Kommission hatten bis Ende Juli 2026 etwa 190 Organisationen unterzeichnet. Ob die im Mai 2026 als Entwurf veröffentlichten Leitlinien der Kommission zu Artikel 50 endgültig verabschiedet wurden, konnten wir am 13. Oktober 2026 nicht prüfen.
Eine Kennzeichnung hilft bei Texten, die direkt aus einem gekennzeichneten System stammen und danach nicht bearbeitet wurden. Sie sagt wenig über abgetippte, umgeschriebene oder mit einem anderen Modell erstellte Texte. Eine fehlende Kennzeichnung beweist nicht, dass ein Mensch den Text geschrieben hat. Und die Pflicht trifft den Anbieter, nicht Schüler oder Mitarbeitende.
Für echt wirkende Bilder und Töne gilt eine eigene Offenlegungspflicht. Diese behandeln wir im Artikel über Deepfakes und das Gesetz.
| Was Sie wissen möchten | Was ein KI-Detektor kann | Was besser funktioniert |
|---|---|---|
| Hat dieser Schüler die Arbeit selbst geschrieben? | Eine Wahrscheinlichkeit ohne Quelle und Erklärung angeben | Gespräch über den Inhalt, Entwürfe und Notizen zeigen lassen, einen Teil in der Schule erstellen lassen |
| Hat ein Mitarbeitender für diesen Bericht KI genutzt? | Eine Wahrscheinlichkeit angeben; bei umgeschriebenem Text oft kein Signal | Vereinbarung zur Offenlegung der KI-Nutzung in der Richtlinie und inhaltliche Prüfung durch Kollegen |
| Wurde dieses Bewerbungsschreiben mit KI erstellt? | Eine Wahrscheinlichkeit angeben, mit mehr Fehlern bei Nichtmuttersprachlern | Prüfen, ob es relevant ist, und Fähigkeiten im Gespräch oder durch eine Aufgabe testen |
| Stammt dieser Text direkt aus einem KI-System? | Anhand des Stils schätzen | Die vom Anbieter nach dem AI Act anzubringende Kennzeichnung auslesen, sofern vorhanden |
PrivaSearch ist kein KI-Detektor. Es beurteilt weder Texte noch Menschen. Es berührt einen anderen Teil dieses Themas: Was mit personenbezogenen Daten geschieht, wenn ein Dokument in einen KI-Dienst gelangt.
PrivaSearch steht zwischen Ihren Dokumenten und dem KI-Modell. Personenbezogene Daten werden erkannt und durch Pseudonyme ersetzt; ein Kollege gibt das Ergebnis frei, bevor ein Dokument durchsuchbar wird. Ein verbundener KI-Assistent erhält pseudonymisierte Textstellen mit Seitenverweis statt Originaldateien. Die Schritte stehen auf So funktioniert PrivaSearch. Sie können Claude, ChatGPT Business und Mistral Vibe (früher Le Chat) verbinden.
Zwei Grenzen gehören dazu. Erkennung ist nie vollständig, deshalb ist die menschliche Prüfung verpflichtend. Und pseudonymisierte Daten bleiben für Ihre Organisation personenbezogene Daten. Was Sie selbst im Fenster eines verbundenen Assistenten eingeben, geht direkt an dessen Anbieter.
Wie die Maßnahmen mit den Regeln zusammenhängen, steht auf der Seite zur DSGVO und zum AI Act. Was geschieht, wenn Mitarbeitende ohne Vereinbarungen mit KI-Tools arbeiten, steht auf der Seite über die Risiken. Möchten Sie die Funktionsweise sehen, fragen Sie eine Demo an.
Nicht zuverlässig genug, um eine Entscheidung darauf zu stützen. OpenAI stellte seinen eigenen Detektor im Juli 2023 wegen geringer Genauigkeit ein. Unabhängige Forschung zu vierzehn Tools aus 2023 bezeichnete sie als weder genau noch zuverlässig. Das Ergebnis ist eine Wahrscheinlichkeit; die Fehlermarge variiert nach Tool, Sprache und Textart.
Ja. Das heißt falsch positiv. Es geschieht häufiger bei kurzen, formellen oder gleichmäßigen Texten und bei Menschen, die nicht in ihrer Muttersprache schreiben. In einer Stanford-Untersuchung wurden durchschnittlich über 61 % der Aufsätze von Personen mit Englisch als Zweitsprache fälschlich markiert. Ein hoher Wert sagt deshalb etwas über den Stil und nicht unbedingt über die Herkunft aus.
Eine Schule sollte das nicht allein auf Grundlage des Werts tun. Das Ergebnis ist eine Wahrscheinlichkeit und kein Beweis; eine folgenreiche Entscheidung über einen Schüler verlangt die Beurteilung durch einen Menschen, der den Fall selbst prüft. Ein Gespräch, Entwürfe und eine mündliche Erläuterung geben mehr Halt als ein Prozentsatz.
Nicht ohne Vereinbarungen. Der Text enthält personenbezogene Daten und geht an ein anderes Unternehmen. Dafür benötigen Sie eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag, Klarheit über Aufbewahrung und Wiederverwendung und müssen die betroffenen Menschen informieren. Wer eigenmächtig ein kostenloses Tool nutzt, umgeht diese Vereinbarungen. Das kann eine Datenpanne sein.
Seit dem 2. August 2026 müssen Anbieter generativer KI-Systeme ihre Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen, soweit technisch machbar. Für bestehende Systeme läuft eine Übergangsfrist bis zum 2. Dezember 2026. Die Pflicht trifft den Anbieter. Eine fehlende Kennzeichnung beweist nicht, dass ein Mensch den Text geschrieben hat, etwa weil Text umgeschrieben oder abgetippt wurde.
Wir haben keine unabhängige Forschung gefunden, die dies für niederländische Texte belegt. Die bekannten Studien betreffen Englisch. Fragen Sie Anbieter, die Niederländisch unterstützen wollen, nach dem zugrunde liegenden Test: welche Texte, wie viele und wie oft ein menschlicher Text fälschlich markiert wurde.
Wie Retrieval-Augmented Generation funktioniert, sich von Upload und Fine-Tuning unterscheidet, Fehler verringert und welche Datenschutzfragen Sie stellen.
Was das Model Context Protocol ist, wie sich eine Verbindung vom Datei-Upload unterscheidet, was ein Assistent erhält und welche Risiken Sie prüfen.
Was ein Sprachmodell tut, was Tokens und Kontextfenster sind, warum ein Modell Dinge erfindet und was es von Ihren Eingaben behält oder vergisst.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →