Technik
Was ein Sprachmodell tut, was Tokens und Kontextfenster sind, warum ein Modell Dinge erfindet und was es von Ihren Eingaben behält oder vergisst.
Ein LLM, ausgeschrieben Large Language Model, ist ein Computermodell, das mit enormen Textmengen trainiert wurde und deshalb vorhersagen kann, welches Wort auf eine Wortfolge folgt. Indem es dies fortlaufend wiederholt, schreibt es Sätze, Antworten und Zusammenfassungen. Es ist der Motor von Assistenten wie ChatGPT, Claude und Mistral Vibe.
Wer sich fragt, was ein LLM ist, hat meist schon eines genutzt. Die Abkürzung taucht in Angeboten und Richtlinien neben Begriffen wie generative KI, Tokens und Halluzinationen auf. Dieser Artikel erklärt diese Wörter für Menschen ohne Programmierkenntnisse und geht anschließend zur Frage über, die am Arbeitsplatz zählt: Was geschieht mit Ihren Eingaben?
Die technische Erklärung ist vereinfacht. Bei Anbietervereinbarungen und gesetzlichen Aussagen steht die Quelle, mit Prüfdatum 13. Oktober 2026. Den praktischen Überblick über Chatbots und personenbezogene Daten finden Sie unter ChatGPT, Claude, Mistral Vibe und die DSGVO.
Ein großes Sprachmodell erhält Text und berechnet, welche Fortsetzung am besten dazu passt. Dieses Stück hängt es an und beginnt erneut. Wort für Wort entsteht eine Antwort.
Anthropic beschreibt dies in seinem Glossar ebenso: Das zugrunde liegende Modell wurde darauf trainiert, anhand des vorangegangenen Textes das nächste Wort vorherzusagen.
Für gute Vorhersagen muss ein Modell viele Muster erfasst haben: Grammatik, Vertragsaufbau, übliche Fristen. Diese Muster stecken in Milliarden Zahlen, den Parametern. Niemand hat sie als Regeln hineingeschrieben.
Das Ergebnis ähnelt Verständnis. Das Modell besitzt aber keine Liste von Fakten, die es nachschlägt. Es hat ein Gespür dafür, was wahrscheinlich ist. Dieser Unterschied erklärt seine Stärken ebenso wie seine Fehler.
Generative KI ist der Sammelbegriff für KI, die neue Inhalte erzeugt: Text, Bilder, Ton, Video oder Code. Ein LLM ist die Art, die Text erzeugt. Jedes LLM ist also generative KI, aber nicht jede generative KI ist ein LLM: Ein Bildmodell arbeitet anders. Neue Modelle verarbeiten häufig auch Bilder oder Ton und heißen dann multimodal.
Training erfolgt in Schritten. Zunächst erhält das Modell eine sehr große Textsammlung und übt endlos die eine Aufgabe: die Fortsetzung vorherzusagen. Bei jedem Fehler werden die Parameter geringfügig angepasst.
Danach wird es so abgestimmt, dass es Fragen beantwortet und Anweisungen folgt. Fine-Tuning bezeichnet eine solche zusätzliche Trainingsrunde mit ergänzenden Daten, etwa zur Ausrichtung auf ein Fachgebiet oder einen Schreibstil.
Wenn Sie eine Frage stellen, wird nichts trainiert. Die Parameter stehen fest, und das Modell berechnet mit Ihrem Text eine Antwort. Danach ist es genau dasselbe Modell wie zuvor.
Das Modell lernt also nicht aus dem Gespräch, während Sie es führen. Ob das Gespräch später zum Training einer nächsten Version genutzt wird, ist eine andere Frage. Darauf kommen wir zurück.
Weil das Training zu einem bestimmten Zeitpunkt endet, weiß ein Modell nichts über spätere Ereignisse. Dieser Zeitpunkt heißt Wissensgrenze. Gibt ein Assistent dennoch eine aktuelle Antwort, hat das umgebende Produkt etwas nachgeschlagen.
Ein Modell liest keine Wörter und Buchstaben, sondern Tokens. OpenAI erklärt auf seiner Seite zu Tokens, dass ein Token ein Zeichen, ein Wortteil, ein ganzes Wort oder ein Satzzeichen sein kann. Für englischen Text nennt die Seite als Faustregel ungefähr vier Zeichen oder ein Dreiviertelwort je Token. In anderen Sprachen ist das Verhältnis anders und unterscheidet sich auch je Modell.
Das Kontextfenster umfasst den gesamten Text, den ein Modell bei einer Antwort überblicken kann. Anthropic nennt es in der Dokumentation zu Kontextfenstern einen Arbeitsspeicher, zu unterscheiden vom Trainingstext. Alles zählt mit: Produktanweisungen, das gesamte bisherige Gespräch, hinzugefügte Dokumente und die entstehende Antwort.
Die Fenster sind in den letzten Jahren stark gewachsen. Dieselbe Seite nennt, Stand Oktober 2026, je Modell bis zu eine Million Tokens. Größer ist nicht automatisch besser. Anthropic schreibt, dass Genauigkeit und Wiederfinden mit mehr Tokens im Fenster abnehmen. Dreihundert Seiten für eine Frage ergeben nicht automatisch eine bessere Antwort als die drei relevanten Seiten.
Ein Modell erstellt die Fortsetzung, die am besten zum vorherigen Text passt. Meist ist sie auch richtig. Manchmal ist es ein Satz, der wie eine Tatsache klingt, aber keine ist: ein nicht existierendes Urteil, eine leicht falsche Artikelnummer, eine Quelle mit plausiblem Titel. Das heißt Halluzination.
Anthropic schreibt im Leitfaden zur Verringerung von Halluzinationen, dass selbst die fortschrittlichsten Sprachmodelle sachlich falschen oder zum gelieferten Kontext widersprüchlichen Text erzeugen können. Es gehört zur Arbeitsweise eines Modells.
ChatGPT ist kein LLM. Es ist ein Produkt von OpenAI, das ein LLM enthält. Dasselbe gilt für Claude von Anthropic und Mistral Vibe (früher Le Chat).
Fast jede Datenschutzfrage betrifft das Produkt und den Anbieter, nicht das Modell. Dasselbe Modell kann unter verschiedenen Bedingungen angeboten werden: in einer kostenlosen App, einem geschäftlichen Arbeitsbereich oder der Software eines anderen Anbieters. Fragen Sie deshalb auch, wer das Modell unter welchen Vereinbarungen betreibt.
Ein geschlossenes Modell läuft beim Hersteller oder einer von ihm benannten Partei. Sie nutzen es über eine App oder Programmierschnittstelle. Ihre Eingaben gehen somit immer an jemand anderen.
Bei einem offenen Modell veröffentlicht der Hersteller die Parameter, oft Gewichte genannt. Wer genügend Rechenleistung hat, kann es selbst betreiben, auf eigenen Geräten oder bei einem Anbieter seiner Wahl. Mistral veröffentlicht in seiner Modellübersicht beispielsweise Modelle mit offenen Gewichten unter einer Open-Source-Lizenz neben Modellen, die nur über den eigenen Dienst verfügbar sind. Lesen Sie die Lizenz: „offen“ bedeutet nicht bei jedem Modell dasselbe.
Ein selbst betriebenes offenes Modell sendet Ihre Eingaben nicht an den Hersteller. Die Arbeit verlagert sich zu Ihnen: Sicherheit, Verwaltung und Geräte. Ein offenes Modell über den Dienst eines anderen ist für Ihre Daten nicht anders als ein geschlossenes Modell. Dann gelten die Bedingungen dieses Dienstes.
Die Antwort hat drei Ebenen.
Das Modell „weiß“, was Sie zuvor sagten, weil das Produkt das ganze Gespräch erneut mitsendet. Das ist kein Gedächtnis des Modells. Beginnen Sie ein neues Gespräch, ist das Fenster leer.
Gespräche liegen beim Anbieter, solange dessen Aufbewahrungsfrist läuft oder bis Sie sie löschen. Hat das Produkt eine Gedächtnisfunktion, speichert es auch Notizen über Sie. Für die DSGVO ist das eine gewöhnliche Verarbeitung personenbezogener Daten.
Ob Gespräche zum Training einer nächsten Modellversion genutzt werden, entscheidet der Anbieter. Es ist keine Modelleigenschaft. OpenAI schreibt auf seiner Seite Datenschutz für Unternehmen, dass es für Training unter anderem Daten aus ChatGPT-Versionen für einzelne Nutzende verwendet, Daten aus Geschäftsprodukten aber standardmäßig nicht.
Dies ist je Tarif unter ChatGPT Free, Plus, Business oder Enterprise: Welchen Tarif dürfen Sie geschäftlich nutzen? und Claude AI und die DSGVO ausgearbeitet. Die geschäftlichen Optionen stehen im Vergleich unter ChatGPT-Alternativen für die geschäftliche Nutzung.
Ein Modell speichert Trainingstext nicht als Archiv, kann sich aber Teile gemerkt haben. Der EDPB schrieb in seiner Stellungnahme zu KI-Modellen vom 18. Dezember 2024, dass Modellanonymität im Einzelfall geprüft werden muss. Unter anderem muss es sehr unwahrscheinlich sein, dass jemand durch Fragen personenbezogene Daten aus dem Modell gewinnen kann. Das ist ein Grund, Training mit Eingaben bei geschäftlicher Nutzung auszuschalten.
| Begriff | Was es ist | Warum es zählt |
|---|---|---|
| LLM (Large Language Model) | Ein mit sehr viel Text trainiertes Modell zur Textvorhersage | Der Motor jedes KI-Assistenten |
| Generative KI | KI, die neuen Text, Bilder, Ton oder Code erstellt | Die übergeordnete Kategorie eines LLM |
| Parameter oder Gewichte | Zahlen, in denen das Modell Muster speichert | Bei offenen Modellen veröffentlicht, sodass Sie sie selbst betreiben können |
| Training | Anpassung des Modells mit großen Textmengen | Hier können Ihre Eingaben landen, wenn der Anbieter dies tut |
| Nutzung (Inferenz) | Das Modell eine Antwort berechnen lassen | Verändert das Modell nicht |
| Token | Einheit, in der ein Modell Text liest und schreibt | Bestimmt Textumfang und Kosten |
| Kontextfenster | Gesamter Text, den das Modell je Antwort überblickt | Was außerhalb liegt, existiert für das Modell nicht |
| Halluzination | Plausibel klingende, aber falsche Antwort | Grund, Quellen zu verlangen und zu prüfen |
| Offenes Modell | Modell mit veröffentlichten Gewichten | Selbstbetrieb hält Eingaben bei Ihnen; die Lizenz bestimmt die Erlaubnisse |
| Modell und Produkt | Das Modell rechnet; das Produkt speichert, verbindet und setzt Bedingungen | Datenschutzvereinbarungen gehören zu Produkt und Anbieter |
Der AI Act verwendet das Wort LLM nicht. Er spricht von KI-Modellen mit allgemeinem Verwendungszweck. Artikel 3 beschreibt ein solches Modell in Nummer 63 als KI-Modell mit erheblicher allgemeiner Verwendbarkeit, das viele verschiedene Aufgaben kompetent ausführen und in unterschiedliche Systeme und Anwendungen integriert werden kann. Große Sprachmodelle fallen darunter. Der von Ihnen geöffnete Chatbot ist rechtlich ein auf einem solchen Modell aufgebautes KI-System.
Artikel 53 legt die Pflichten dem Modellanbieter auf. Er muss technische Dokumentation führen, Informationen für Einbauende bereitstellen, eine Strategie zur Urheberrechtseinhaltung haben und eine Zusammenfassung der Trainingsinhalte veröffentlichen. Für Modelle unter freier Open-Source-Lizenz besteht eine Ausnahme von den ersten beiden Pflichten, außer bei systemischem Risiko.
Die leistungsstärksten Modelle erhalten zusätzliche Pflichten. Artikel 51 ordnet Modelle mit Fähigkeiten mit hohem Wirkungsgrad als Modelle mit systemischem Risiko ein und vermutet diese oberhalb einer Schwelle der beim Training eingesetzten Rechenleistung.
Diese Regeln gelten laut den Leitlinien der Europäischen Kommission für diese Modellanbieter seit dem 2. August 2025. Die Kommission kann seit dem 2. August 2026 durchsetzen; Modelle, die schon vor dem 2. August 2025 auf dem Markt waren, müssen die Anforderungen spätestens am 2. August 2027 erfüllen.
Nutzen Sie einen Assistenten am Arbeitsplatz, sind Sie kein Modellanbieter. Die Pflichten aus Artikel 53 sind nicht Ihre. Was für Sie gilt, steht unter Der AI Act erklärt. Daneben gilt die DSGVO für alle Ihre Eingaben.
PrivaSearch ist kein LLM und kein Assistent. Es betrifft den dritten Schritt: dem Modell nur das Nötige geben, ohne Namen.
Dokumente werden innerhalb von PrivaSearch analysiert. Ein dort laufendes Sprachmodell und niederländische Muster, etwa die Prüfziffernprüfung einer BSN (niederländische Bürgerservicenummer), finden personenbezogene Daten. Bei diesem Schritt ist kein externer KI-Anbieter beteiligt. Erkannte Daten werden durch Pseudonyme ersetzt. Weil kein Modell alles erkennt, prüft ein Kollege das Ergebnis neben dem Original und gibt es frei. Erst dann ist ein Dokument durchsuchbar. Siehe So funktioniert PrivaSearch.
Danach kann ein Assistent über eine Verbindung nach dem offenen MCP-Standard suchen. Das funktioniert mit Claude, ChatGPT Business und Mistral Vibe. Der Assistent erhält keine Datei in sein Kontextfenster, sondern eine begrenzte Zahl freigegebener, pseudonymisierter Textstellen mit kurzer Quellenangabe.
Was der Assistent erhält, wird Teil des Gesprächs bei dessen Anbieter; Ihre eigenen Eingaben gehen direkt dorthin. Ein Geschäftskonto mit Auftragsverarbeitungsvertrag bleibt also nötig. Pseudonymisieren ist kein Anonymisieren: Für Ihre Organisation bleiben es personenbezogene Daten. Mehr zu den Regeln steht unter DSGVO und AI Act.
Möchten Sie sehen, was ein Modell sieht und was nicht, fragen Sie eine Demo an.
Ein LLM ist ein Computermodell, das durch die Verarbeitung sehr vieler Texte gelernt hat, wie Sprache aufgebaut ist. Es erhält Text und sagt voraus, was folgt, jeweils ein kleines Stück weiter. So schreibt es Antworten, Zusammenfassungen und Übersetzungen. Die Abkürzung steht für Large Language Model. Es ist die Technik hinter Assistenten wie ChatGPT, Claude und Mistral Vibe.
Generative KI ist die breite Kategorie: jede KI, die neue Inhalte wie Text, Bilder, Musik oder Video erstellt. Ein LLM ist der mit Sprache arbeitende Teil davon. Ein reines Bildmodell ist generative KI, aber kein LLM. In der Praxis vermischen sich die Begriffe, auch weil neue Sprachmodelle Bild und Ton verarbeiten können.
Nicht ganz. ChatGPT ist ein Produkt von OpenAI, in dem ein großes Sprachmodell die Berechnungen übernimmt. Das Produkt ergänzt Fenster, Gesprächsverlauf, Werkzeuge und Bedingungen. Das Modell wird regelmäßig durch ein neueres ersetzt, während der Name ChatGPT bleibt. Für Datenschutz zählt vor allem das Produkt: Der Tarif bestimmt, was mit Ihren Eingaben geschieht.
Das Modell selbst ändert sich durch Ihr Gespräch nicht. Innerhalb eines Gesprächs „weiß“ es, was Sie sagten, weil das ganze Gespräch immer erneut mitgesendet wird. Der Anbieter speichert Ihre Gespräche gemäß seiner Aufbewahrungsfrist. Ob sie später zum Training eines neuen Modells dienen, hängt von Anbieter und Tarif ab. Bei Geschäftstarifen geschieht das meist standardmäßig nicht.
Weil es wahrscheinlichen Text erstellt und keine Fakten nachschlägt. Meist ist die wahrscheinlichste Fortsetzung auch richtig. Manchmal entsteht eine Quelle, Zahl oder ein Zitat, das gut klingt und nicht existiert. Dieser Fehler heißt Halluzination. Sie verringern die Wahrscheinlichkeit durch Quelltext und die Bitte um Zitate. Ausschließen können Sie sie nicht.
Ja. Der AI Act nennt solche Modelle KI-Modelle mit allgemeinem Verwendungszweck. Pflichten wie technische Dokumentation und eine Zusammenfassung der Trainingsinhalte liegen beim Hersteller und gelten seit dem 2. August 2025. Wer einen Assistenten nur nutzt, hat diese Pflichten nicht. Für Nutzende gelten andere Gesetzesteile und für Eingaben die DSGVO.
Wie Retrieval-Augmented Generation funktioniert, sich von Upload und Fine-Tuning unterscheidet, Fehler verringert und welche Datenschutzfragen Sie stellen.
Was das Model Context Protocol ist, wie sich eine Verbindung vom Datei-Upload unterscheidet, was ein Assistent erhält und welche Risiken Sie prüfen.
Was ein KI-Detektor misst, warum das Ergebnis eine Wahrscheinlichkeit statt eines Beweises ist und was Sie vor Vorwürfen gegen Mitarbeitende regeln.
Wir zeigen es mit fiktiven Akten aus Ihrer Branche: Upload, Erkennung, Prüfung, Suche und die Verbindung mit Ihrem KI-Assistenten. Danach wissen Sie genau, was Ihr Team sicher nutzen kann.
Demo planen →