Techniek
Wat een taalmodel doet, wat tokens en een contextvenster zijn, waarom een model dingen verzint en wat het wel en niet onthoudt van je invoer.
Een LLM, voluit large language model, is een computermodel dat is getraind op enorme hoeveelheden tekst en daardoor kan voorspellen welk woord op een reeks woorden volgt. Door dat steeds opnieuw te doen schrijft het zinnen, antwoorden en samenvattingen. Het is de motor onder assistenten als ChatGPT, Claude en Mistral Vibe.
Wie zich afvraagt wat een LLM is, heeft er meestal al een gebruikt. De afkorting duikt op in offertes en beleidsstukken, naast termen als generatieve AI, tokens en hallucinaties. Dit artikel legt die woorden uit voor iemand die geen programmeur is, en maakt daarna de stap naar de vraag die op het werk telt: wat gebeurt er met wat je invoert?
De uitleg van de techniek is vereenvoudigd. Bij afspraken van aanbieders en bij de wet staat de bron, met als peildatum 13 oktober 2026. De praktische hoofdlijn over chatbots en persoonsgegevens staat op ChatGPT, Claude, Mistral Vibe en de AVG.
Een large language model krijgt een stuk tekst en berekent welke voortzetting daar het best bij past. Dat stukje plakt het erachter, en dan begint het opnieuw. Woord voor woord ontstaat zo een antwoord.
Anthropic beschrijft dat in zijn begrippenlijst ook zo: het onderliggende model is getraind om het volgende woord te voorspellen, gegeven de tekst die eraan voorafgaat.
Om goed te voorspellen moet een model veel patronen hebben opgepikt: grammatica, de opbouw van een contract, gebruikelijke termijnen. Die patronen zitten in miljarden getallen, de parameters. Niemand heeft ze er als regels in gezet.
Het resultaat lijkt op begrip. Maar het model heeft geen lijst met feiten die het raadpleegt. Het heeft een gevoel voor wat waarschijnlijk is. Dat verschil verklaart zowel de kracht als de fouten.
Generatieve AI is de verzamelnaam voor AI die nieuwe inhoud maakt: tekst, beeld, geluid, video of code. Een LLM is de soort die tekst maakt. Elke LLM is dus generatieve AI, maar niet alle generatieve AI is een LLM: een model dat afbeeldingen maakt, werkt anders. Nieuwe modellen verwerken vaak ook afbeeldingen of geluid, en heten dan multimodaal.
Trainen gebeurt in stappen. In de eerste stap krijgt het model een zeer grote verzameling tekst en oefent het eindeloos op die ene taak: het vervolg voorspellen. Elke keer dat het ernaast zit, worden de parameters een fractie bijgesteld.
Daarna volgt het afstellen, zodat het model vragen beantwoordt en instructies volgt. Fine-tuning is de naam voor zo'n extra trainingsronde op aanvullende gegevens, bijvoorbeeld om een model op één vakgebied of één schrijfstijl te richten.
Als jij een vraag stelt, wordt er niets getraind. De parameters staan vast, en het model rekent met jouw tekst een antwoord uit. Na afloop is het precies hetzelfde model als ervoor.
Het model leert dus niet van je gesprek terwijl je het voert. Of je gesprek later wordt gebruikt om een volgende versie te trainen, is een andere vraag. Die komt verderop.
Omdat trainen op een bepaald moment stopt, weet een model niets van wat daarna is gebeurd. Dat moment heet de kennisgrens. Geeft een assistent toch een actueel antwoord, dan heeft het product eromheen iets opgezocht.
Een model leest geen woorden en letters, het leest tokens. OpenAI legt in zijn uitleg over tokens uit dat een token een teken, een deel van een woord, een heel woord of een leesteken kan zijn. Voor Engelse tekst geeft die pagina als vuistregel dat één token ongeveer vier tekens is, of driekwart woord. In andere talen ligt die verhouding anders, en ze verschilt ook per model.
Het contextvenster is alle tekst die het model bij één antwoord kan overzien. Anthropic noemt het in zijn documentatie over contextvensters een werkgeheugen, te onderscheiden van de tekst waarop het model is getraind. Alles telt mee: de instructies van het product, het hele gesprek tot nu toe, de documenten die je hebt toegevoegd en het antwoord dat wordt geschreven.
De vensters zijn de laatste jaren sterk gegroeid. Dezelfde pagina noemt, stand oktober 2026, vensters tot een miljoen tokens, afhankelijk van het model. Groter is niet vanzelf beter. Anthropic schrijft dat nauwkeurigheid en terugvinden afnemen naarmate er meer tokens in het venster staan. Driehonderd pagina's voor één vraag geven niet vanzelf een beter antwoord dan de drie pagina's die ertoe doen.
Een model maakt de voortzetting die het best bij de voorgaande tekst past. Meestal is dat ook de juiste. Soms is het een zin die klinkt als een feit en het niet is: een uitspraak die niet bestaat, een artikelnummer dat net niet klopt, een bron met een plausibele titel. Dat heet een hallucinatie.
Anthropic schrijft in zijn handleiding over het verminderen van hallucinaties dat ook de meest geavanceerde taalmodellen tekst kunnen maken die feitelijk onjuist is of niet strookt met de aangeleverde context. Het hoort bij de manier waarop een model werkt.
ChatGPT is geen LLM. Het is een product van OpenAI waar een LLM in zit. Hetzelfde geldt voor Claude van Anthropic en voor Mistral Vibe (voorheen Le Chat).
Bijna elke privacyvraag gaat over het product en de aanbieder, niet over het model. Hetzelfde model kan onder verschillende voorwaarden worden aangeboden: in een gratis app, in een zakelijke werkruimte of binnen de software van een andere leverancier. Vraag dus ook wie het model draait en onder welke afspraken.
Een gesloten model draait bij de maker of bij een partij die hij aanwijst. Je gebruikt het via een app of een programmeerkoppeling. Je invoer gaat dus altijd naar een ander.
Bij een open model publiceert de maker de parameters, vaak gewichten genoemd. Wie de rekenkracht heeft, kan het model dan zelf draaien, op eigen apparatuur of bij een leverancier naar keuze. Mistral publiceert in zijn modeloverzicht bijvoorbeeld modellen met open gewichten onder een opensourcelicentie, naast modellen die alleen via de eigen dienst beschikbaar zijn. Lees de licentie: "open" betekent niet bij elk model hetzelfde.
Een open model dat je zelf draait, stuurt je invoer niet naar de maker. Het werk verschuift dan naar jou: beveiliging, beheer en apparatuur. En een open model dat je via de dienst van een ander gebruikt, is voor je gegevens niet anders dan een gesloten model. Dan gelden de voorwaarden van die dienst.
Het antwoord heeft drie lagen.
Het model "weet" wat je eerder zei omdat het product het hele gesprek opnieuw meestuurt. Dat is geen geheugen van het model. Begin je een nieuw gesprek, dan is het venster leeg.
Gesprekken staan opgeslagen bij de aanbieder, zolang zijn bewaartermijn loopt of tot jij ze verwijdert. Heeft het product een geheugenfunctie, dan bewaart het ook notities over jou. Voor de AVG is dit een gewone verwerking van persoonsgegevens.
Of je gesprekken worden gebruikt om een volgende versie van het model te trainen, is een keuze van de aanbieder. Het is geen eigenschap van het model. OpenAI schrijft op zijn pagina Privacy voor bedrijven dat het voor training onder meer gegevens gebruikt uit de versies van ChatGPT voor individuele gebruikers, en dat gegevens uit de zakelijke producten standaard niet worden gebruikt.
Dat staat per abonnement uitgewerkt in ChatGPT Free, Plus, Business of Enterprise: welk abonnement mag je zakelijk gebruiken? en in Claude AI en de AVG. De zakelijke opties staan naast elkaar in ChatGPT-alternatieven voor zakelijk gebruik.
Een model slaat trainingstekst niet op als een archief, maar kan stukken ervan wel hebben onthouden. De EDPB schreef in zijn opinie over AI-modellen van 18 december 2024 dat per geval moet worden beoordeeld of een model anoniem is. Daarvoor moet het onder meer zeer onwaarschijnlijk zijn dat iemand met vragen persoonsgegevens uit het model kan halen. Dat is een reden om training op invoer voor zakelijk gebruik uit te hebben staan.
| Begrip | Wat het is | Waarom het ertoe doet |
|---|---|---|
| LLM (large language model) | Een model dat tekst voorspelt, getraind op zeer veel tekst | Het is de motor onder elke AI-assistent |
| Generatieve AI | AI die nieuwe tekst, beeld, geluid of code maakt | De bredere categorie waar een LLM onder valt |
| Parameters of gewichten | De getallen waarin het model zijn patronen bewaart | Bij een open model zijn ze gepubliceerd en kun je het zelf draaien |
| Trainen | Het model bijstellen op grote hoeveelheden tekst | Hier kan je invoer in terechtkomen, als de aanbieder dat doet |
| Gebruiken (inferentie) | Het model een antwoord laten uitrekenen | Het model verandert er niet door |
| Token | De eenheid waarin een model tekst leest en schrijft | Bepaalt hoeveel tekst erin past en wat het kost |
| Contextvenster | Alle tekst die het model bij één antwoord overziet | Wat erbuiten valt, bestaat voor het model niet |
| Hallucinatie | Een antwoord dat aannemelijk klinkt en niet klopt | Reden om bronnen te vragen en te controleren |
| Open model | Een model waarvan de gewichten zijn gepubliceerd | Zelf draaien houdt je invoer bij jou; de licentie bepaalt wat mag |
| Model en product | Het model rekent; het product bewaart, koppelt en stelt voorwaarden | Privacyafspraken horen bij het product en de aanbieder |
De AI Act gebruikt het woord LLM niet. De wet spreekt van AI-modellen voor algemene doeleinden. Artikel 3 omschrijft zo'n model, in onderdeel 63, als een AI-model dat een aanzienlijke algemeenheid vertoont, een breed scala aan verschillende taken bekwaam kan uitvoeren en in allerlei systemen en toepassingen kan worden opgenomen. De grote taalmodellen vallen daaronder. De chatbot die jij opent, is voor de wet een AI-systeem dat op zo'n model is gebouwd.
Artikel 53 legt de plichten bij de aanbieder van het model. Hij moet technische documentatie bijhouden, informatie geven aan partijen die het model in hun eigen systeem inbouwen, een beleid hebben om het auteursrecht na te leven en een samenvatting publiceren van de inhoud waarop is getraind. Voor modellen onder een vrije en opensourcelicentie geldt een uitzondering op de eerste twee plichten, behalve als het model een systeemrisico heeft.
De zwaarste modellen krijgen extra plichten. Artikel 51 rekent een model tot de categorie met een systeemrisico als het capaciteiten met een grote impact heeft, en vermoedt dat boven een drempel voor de rekenkracht die bij het trainen is gebruikt.
Deze regels gelden volgens de richtsnoeren van de Europese Commissie voor aanbieders van deze modellen sinds 2 augustus 2025. De Commissie kan sinds 2 augustus 2026 handhaven, en modellen die al vóór 2 augustus 2025 op de markt waren, moeten uiterlijk 2 augustus 2027 voldoen.
Gebruik je een assistent op het werk, dan ben je geen aanbieder van een model. De plichten uit artikel 53 zijn niet de jouwe. Wat wel voor je geldt, staat in De AI Act uitgelegd. Daarnaast geldt de AVG voor alles wat je invoert.
PrivaSearch is geen LLM en geen assistent. Het gaat over de derde stap van het lijstje hierboven: het model alleen geven wat nodig is, en zonder de namen.
Documenten worden binnen PrivaSearch geanalyseerd. Een taalmodel dat binnen PrivaSearch draait en Nederlandse patronen, zoals de elfproef voor een BSN, vinden de persoonsgegevens. Bij die stap komt geen AI-aanbieder van buiten kijken. Herkende gegevens worden vervangen door pseudoniemen. Omdat geen enkel model alles herkent, controleert een collega het resultaat naast het origineel en keurt hij het goed. Pas dan is een document doorzoekbaar. Zie Hoe PrivaSearch werkt.
Daarna kan een assistent zoeken via een koppeling op de open MCP-standaard. Dat werkt met Claude, ChatGPT Business en Mistral Vibe. De assistent krijgt geen bestand in zijn contextvenster, maar een beperkt aantal vrijgegeven, gepseudonimiseerde passages met een korte bronverwijzing.
Wat de assistent terugkrijgt, wordt onderdeel van het gesprek bij de aanbieder van die assistent, en wat je zelf typt gaat er rechtstreeks heen. Een zakelijk account met een verwerkersovereenkomst blijft dus nodig. Pseudonimiseren is geen anonimiseren: voor je eigen organisatie blijven het persoonsgegevens. Meer over de regels staat op AVG en AI Act.
Wil je zien wat een model dan wel en niet te zien krijgt, vraag dan een demo aan.
Een LLM is een computermodel dat heeft geleerd hoe taal in elkaar zit door heel veel tekst te verwerken. Het krijgt een stuk tekst en voorspelt wat daarop volgt, steeds een klein stukje verder. Zo schrijft het antwoorden, samenvattingen en vertalingen. De afkorting staat voor large language model. Het is de techniek onder assistenten als ChatGPT, Claude en Mistral Vibe.
Generatieve AI is de brede categorie: alle AI die nieuwe inhoud maakt, zoals tekst, afbeeldingen, muziek of video. Een LLM is het onderdeel daarvan dat met taal werkt. Een model dat alleen afbeeldingen maakt, is wel generatieve AI maar geen LLM. In de praktijk lopen de termen door elkaar, ook omdat nieuwe taalmodellen beeld en geluid kunnen verwerken.
Niet precies. ChatGPT is een product van OpenAI waarin een large language model het rekenwerk doet. Het product voegt daar een venster, een gespreksgeschiedenis, gereedschap en voorwaarden aan toe. Het model wordt geregeld vervangen door een nieuwer, terwijl de naam ChatGPT blijft. Voor privacy telt vooral het product: het abonnement bepaalt wat er met je invoer gebeurt.
Het model zelf verandert niet door je gesprek. Binnen één gesprek "weet" het wat je zei omdat het hele gesprek steeds opnieuw wordt meegestuurd. De aanbieder bewaart je gesprekken wel, volgens zijn bewaartermijn. Of ze later worden gebruikt om een nieuw model te trainen, hangt af van de aanbieder en het abonnement. Op zakelijke abonnementen gebeurt dat meestal standaard niet.
Omdat het tekst maakt die waarschijnlijk is, en geen feiten opzoekt. Meestal is de waarschijnlijkste voortzetting ook de juiste. Soms levert het een bron, een getal of een citaat op dat goed klinkt en niet bestaat. Zo'n fout heet een hallucinatie. Je verkleint de kans door het model de brontekst te geven en om citaten te vragen. Uitsluiten kun je het niet.
Ja. De AI Act noemt zulke modellen AI-modellen voor algemene doeleinden. De plichten, zoals technische documentatie en een samenvatting van de trainingsinhoud, liggen bij de maker van het model en gelden sinds 2 augustus 2025. Wie een assistent alleen gebruikt, heeft die plichten niet. Voor gebruikers gelden andere delen van de wet, en voor wat je invoert geldt de AVG.
Hoe retrieval-augmented generation werkt, wat het verschil is met uploaden en fine-tuning, waarom het fouten vermindert en welke privacyvragen je stelt.
Wat het Model Context Protocol is, hoe een koppeling verschilt van een bestand uploaden, wat een assistent dan krijgt en op welke risico's je let.
Wat een AI-detector meet, waarom de uitslag een kans is en geen bewijs, en wat je regelt voordat je er een leerling of medewerker op aanspreekt.
We laten het zien met fictieve dossiers uit jouw branche: upload, herkenning, review, zoeken en de koppeling met je AI-assistent. Daarna weet je precies wat je team veilig kan gebruiken.
Plan een demo →