AI-instellingen ontrafeld: Temperature, Tokens, Top-P en meer (Woordenlijst 2026)

Als je enige tijd met AI-tools hebt gewerkt — zeker aan de API-kant — ben je ongetwijfeld termen tegengekomen als temperature, top-p, tokens, context window, RLHF, en nog een dozijn anderen. De meeste documentatie legt ze uit alsof je al een half begrip hebt van wat ze betekenen. Deze woordenlijst is de versie die ik zelf had willen hebben toen ik begon: duidelijke definities in gewone taal, waarom elk begrip belangrijk is, en wanneer je er in de praktijk mee te maken krijgt.

Hij is ingedeeld in vijf categorieën — sla het gedeelte op dat je nodig hebt of lees het van begin tot eind als introductie.

• 1. Tokens & context — wat AI eigenlijk leest en schrijft
• 2. De steekproefknoppen — temperature, top-p, top-k en verwante begrippen
• 3. Hoe modellen denken — architectuur en inferentie
• 4. Training & alignment — hoe een model bruikbaar wordt
• 5. Modellen aan het werk zetten — RAG, agents, tools, streaming

1. Tokens & context

Voordat je met de instellingen aan de slag gaat, moet je de basisterm kennen voor wat het model daadwerkelijk verwerkt en produceert.

Token

De basiseenheid die een taalmodel leest en schrijft. Een token is doorgaans een stuk van een paar tekens — soms een heel kort woord ("kat"), soms een fragment ("ing", "tion"), soms één teken of zelfs een byte. Als vuistregel voor Nederlands geldt: 1 token ≈ 4 tekens ≈ ¾ van een woord, dus 1.000 tokens is ongeveer 750 woorden. Prijzen worden vrijwel altijd per token berekend (invoer en uitvoer apart).

Tokenizer

De functie die tekst omzet in tokens voordat het model die te zien krijgt. Verschillende modelfamilies gebruiken verschillende tokenizers, daarom kan dezelfde alinea op verschillende platforms een licht afwijkend aantal tokens kosten.

Contextvenster (ook wel: contextlengte)

Het maximale aantal tokens dat het model tegelijk "in gedachten" kan houden — inclusief je prompt, systeeminstructies, eerdere gespreksberichten en de respons die het aan het genereren is. Moderne grensverleggende modellen bieden 200K–1M tokenvensters; oudere of goedkopere modellen bieden 8K–32K. Overschrijd je het limiet, dan valt de oudste inhoud weg of mislukt je aanroep.

Invoertokens vs. uitvoertokens

Invoertokens zijn wat je verzendt (prompt, systeembericht, geschiedenis, bijgevoegde documenten). Uitvoertokens zijn wat het model teruggeeft. Uitvoertokens zijn doorgaans 3–5× duurder dan invoertokens, omdat genereren moeilijker is dan lezen.

Max tokens (max_output_tokens)

Een limiet per aanvraag op het aantal tokens dat het model mag genereren voordat het stopt. Stel dit in om kosten en wachttijd te beheersen. Veel API's staan standaard op een paar duizend; verhoog het voor lange uitvoer, verlaag het om reacties kort te houden.

2. De steekproefknoppen

Wanneer een model het volgende token kiest, beschikt het over een kansverdelingscurve over alle mogelijke volgende tokens. De steekproefknoppen bepalen hoe die verdeling uitmondt in één keuze. Dit zijn de hendels waar de meeste mensen via de API aan draaien.

Temperature

Bepaalt de algehele willekeurigheid. Een lage temperature (0–0,3) laat het model bijna altijd het meest waarschijnlijke volgende token kiezen — deterministisch, herhalend, "veilig." Een hoge temperature (1,0+) vlakt de kansverdeling af, waardoor minder waarschijnlijke tokens ook in aanmerking komen — creatiever, verrassender, maar ook foutgevoeliger. Een goede beginstandaard voor de meeste chatdoeleinden is 0,7. Zet hem op 0,0–0,2 voor code, wiskunde of feitelijke extractie. Verhoog naar 1,0+ voor creatief schrijven of brainstormen.

Top-P (nucleussampling)

In plaats van alle tokens te overwegen, zegt top-p: "kies alleen uit de kleinste verzameling tokens waarvan de cumulatieve kans minstens P is." Bij top-p = 0,9 kiest het model uit de tokens die samen 90% van de kansmassa afdekken — de lange staart wordt genegeerd. Dit is een slimmer, dynamisch alternatief voor top-k. Gangbare standaard: 0,9 of 1,0 (uitgeschakeld).

Top-K

Overweeg alleen de K meest waarschijnlijke volgende tokens en kies daaruit. Top-k = 1 is hebzuchtige decodering (altijd het meest waarschijnlijke token kiezen); top-k = 40 houdt de 40 beste kandidaten over. Moderne API's (OpenAI, Anthropic) bieden top-k vaak niet direct aan, omdat top-p doorgaans beter werkt, maar het is standaard bij open-sourcemodellen.

Frequentiepenalty

Bestraft tokens die al eerder gegenereerd zijn in de huidige respons, naar rato van hoe vaak ze zijn verschenen. Nuttig om letterlijke herhaling te verminderen. Bereik doorgaans -2,0 tot +2,0; standaard 0.

Aanwezigheidspenalty

Vergelijkbaar met de frequentiepenalty, maar binair: bestraft tokens die überhaupt zijn verschenen, ongeacht hoe vaak. Duwt het model richting nieuwe onderwerpen of woorden. Zelfde bereik, zelfde standaard.

Stopsequenties

Tekenreeksen die de generatie onmiddellijk doen stoppen wanneer het model ze produceert. Handig voor gestructureerde uitvoer ("stop wanneer je ### genereert") of om reacties binnen een bepaald formaat te houden.

Seed

Een geheel getal dat de willekeurigheidsreeks vastlegt. Dezelfde prompt + dezelfde seed + dezelfde modelversie levert doorgaans dezelfde uitvoer op — essentieel voor reproduceerbaarheid, evaluaties en foutopsporing. Let op: de meeste providers beschrijven dit als "best-effort" — volledige determinisme over de infrastructuur heen is niet gegarandeerd.

Snelle vergelijking: temperature vs. top-p vs. top-k

Veelgemaakte fout: alle drie tegelijk aanpassen. Kies er één — doorgaans temperature voor creativiteitscontrole, of top-p voor diversiteitsafstemming — en laat de rest op de standaardwaarden staan. Meerdere penalties stapelen bovenop een lage temperature is de bron van de meeste "vreemde uitvoer"-meldingen.

3. Hoe modellen denken

Je hoeft geen ML-ingenieur te zijn om AI-tools te gebruiken, maar een paar architectuurtermen duiken constant op in productvergelijkingen.

Parameters

De getallen in het model die tijdens de training worden afgesteld. Een "70B-model" heeft er 70 miljard. Meer parameters betekent over het algemeen slimmer en duurder, maar die relatie is minder lineair geworden naarmate architecturen zijn verbeterd — een goed getraind kleiner model kan een groter maar ouder model overtreffen.

Embedding

Een vector (een lijst getallen) die de betekenis van een stuk tekst weergeeft in een hoogdimensionale ruimte. Teksten met een vergelijkbare betekenis komen dicht bij elkaar te liggen. Embeddings vormen de basis voor semantisch zoeken, RAG, deduplicatie, classificatie en aanbevelingen. Anders dan een chatmodel — embeddingmodellen zijn kleiner en gespecialiseerd.

Attention (aandacht)

Het mechanisme waarmee een model bij het genereren van elk nieuw token kan bepalen naar welke eerdere tokens het het meest moet "kijken." Dit is de kernvernieuwing van transformers. Je zult er zelden direct mee werken, maar het is de reden waarom contextvensters zo belangrijk zijn.

Transformer

De neurale netwerkarchitectuur achter vrijwel elk modern groot taalmodel sinds 2017. Wanneer iemand het heeft over "een LLM", bedoelen ze bijna altijd een transformer.

Mixture of Experts (MoE)

Een architectuur waarbij het model is opgesplitst in vele "expert"-subnetwerken, waarvan per token slechts een fractie wordt geactiveerd. Hierdoor kan een model bijvoorbeeld 400 miljard parameters bevatten maar slechts 30 miljard per token gebruiken — de kennis van een groot model bij de snelheid van een kleiner model. Meerdere grensverleggende modellen maken gebruik van MoE onder de motorkap.

Redeneermodel

Een model dat is getraind om extra rekenkracht te gebruiken voor "nadenken" — door tussenliggende redenerstappen te genereren — voordat het zijn uiteindelijke antwoord geeft. Dit verbetert de prestaties op wiskunde, code en complexe redeneeruitdagingen aanzienlijk, maar verhoogt de wachttijd en tokenkosten. Redeneermodellen vormen de dominante categorie op topniveau in 2026.

Chain-of-thought (CoT)

Zowel een prompttechniek ("denk stap voor stap") als een ingebouwd gedrag van redeneermodellen, waarbij het model tussenliggende redenerstappen genereert vóór het uiteindelijke antwoord. De redenerstappen zijn soms verborgen voor de gebruiker; bij redeneermodellen betaal je er doorgaans altijd voor als uitvoertokens, ongeacht de zichtbaarheid.

Kwantisatie

Het verlagen van de numerieke precisie van de parameters van een model (bijv. van 16-bit floats naar 4-bit integers) om het kleiner te maken en te versnellen, doorgaans met een kleine kwaliteitsafname. Populair in de open-sourcewereld; minder zichtbaar bij gebruik van gesloten API-modellen.

4. Training & alignment

Hoe een gigantische hoeveelheid tekst uitmondt in een model dat beleefd je vragen beantwoordt.

Pretraining (voorafgaande training)

De eerste en duurste fase van de training, waarbij het model algemene taalvaardigheid en wereldkennis opdoet door het volgende token te voorspellen over enorme hoeveelheden tekst. Hier komt het grootste deel van de "intelligentie" vandaan.

Fine-tuning (verfijning)

Een tweede trainingsfase die een vooraf getraind model aanpast aan een specifiekere taak of stijl, met behulp van een veel kleinere dataset. Wordt gebruikt voor domeinspecialisatie (medisch, juridisch, code) of om toon en gedrag af te stemmen op een specifiek merk.

RLHF (Reinforcement Learning from Human Feedback)

De alignmenttechniek die ruwe taalmodellen omzette in bruikbare assistenten. Mensen beoordelen modeluitvoer; een beloningsmodel wordt getraind op die beoordelingen; vervolgens wordt het taalmodel verfijnd met reinforcement learning om uitvoer te produceren die het beloningsmodel verkiest. RLHF is wat ChatGPT en Claude ertoe brengt schadelijke verzoeken te weigeren, instructies beleefd op te volgen en bij het onderwerp te blijven. RLAIF (met AI-feedback) is een verwante techniek die tegenwoordig op grote schaal wordt gebruikt.

Systeemprompt

De overkoepelende instructie die de rol, toon, beperkingen en persona van het model instelt voor een heel gesprek. Door de meeste providers behandeld als hogere prioriteit dan gebruikersberichten. Hier vertel je het model wat het is, voordat er een specifieke taak aan bod komt.

Hallucinatie

Wanneer het model een zelfverzekerd klinkend antwoord geeft dat feitelijk onjuist of verzonnen is. Veroorzaakt door een combinatie van hiaten in de trainingsdata, de neiging van het model om plausibel klinkende tekst te genereren in plaats van te controleren, en overmoedig taalgebruik. Maatregelen: lagere temperature, RAG (geef het echte bronnen), expliciete instructies als "zeg dat je het niet weet", en verifieer alles wat belangrijk is.

Prompt engineering

De praktijk van het schrijven van prompts die betrouwbaar de gewenste uitvoer opleveren. Omvat zaken als roldefinitie ("jij bent een..."), few-shot voorbeelden, chain-of-thought-triggers en instructies voor gestructureerde uitvoer. Naarmate modellen beter zijn geworden in het opvolgen van instructies, is prompt engineering verschoven van esoterische trucjes naar helder schrijven.

5. Modellen aan het werk zetten

De termen die je hoort in product- en engineeringdiscussies, niet in trainingsdiscussies.

Inferentie

Het uitvoeren van een getraind model — dat wil zeggen: uitvoer genereren voor een gegeven invoer. Onderscheiden van training. Inferentiekosten vormen de basis van API-prijzen; inferentiewachttijd is wat gebruikers voelen.

RAG (Retrieval-Augmented Generation)

Voordat het model antwoord geeft, haalt het relevante documenten op uit een aparte kennisbank (doorgaans via zoeken op embeddingovereenkomst) en voegt die als context in de prompt in. RAG stelt een klein of generiek model in staat nauwkeurig te antwoorden over je eigen documenten, actuele gebeurtenissen of alles wat buiten de trainingsdata valt. Het dominante patroon voor "AI die iets weet over mijn eigen spullen."

Tool use / function calling

Het model laten aanroepen van externe functies of API's als onderdeel van zijn respons — bijv. "zoek het weer op," "raadpleeg een database," "stuur een e-mail." Het model stuurt een gestructureerd verzoek, jouw code voert het uit en je geeft het resultaat terug. Dit is wat een LLM verandert van iets dat praat in iets dat handelt.

Agent

Een lus waarbij een model tools inzet en over meerdere stappen zelfstandig beslissingen neemt om een doel te bereiken — bijvoorbeeld het web doorbladeren, bestanden bewerken of een meerstaps-workflow uitvoeren. Moderne agents zijn in wezen "redeneermodel + tools + iteratielus." Een vaag begrip dat alles omvat van een klantenservicebot tot een autonome coding-assistent.

Multimodaal

Een model dat meer verwerkt dan alleen tekst — in de meeste gevallen afbeeldingen en tekst samen (vision), en steeds vaker ook audio en video. "Multimodaal" verwijst doorgaans naar één enkel model dat meerdere modaliteiten van nature begrijpt, niet naar een pipeline van afzonderlijke modellen.

Vision (of VLM — Vision-Language Model)

Een specifiek geval van multimodaal: het model kan afbeeldingen als invoer verwerken naast tekst. Wordt gebruikt voor OCR, het begrijpen van diagrammen, het debuggen van schermafbeeldingen, documentanalyse en alles waarbij "laten zien in plaats van vertellen" van belang is.

Streaming

Het model verstuurt zijn respons token voor token terwijl het genereert, in plaats van te wachten tot het volledige antwoord klaar is. Essentieel voor een goede chatervaring — gebruikers zien de respons ontvouwen in plaats van naar een laadspinner te staren. Op de meeste API's geïmplementeerd als server-sent events.

Time to first token (TTFT)

Hoe lang het duurt van het verzenden van een aanvraag tot het ontvangen van het eerste token van de respons. De wachttijd die de gebruiker daadwerkelijk ervaart. Redeneermodellen hebben een hogere TTFT omdat ze nadenken voordat ze spreken; niet-redeneermodellen streamen het eerste token in fracties van een seconde.

Tokens per seconde

De doorvoersnelheid zodra de generatie begonnen is. Een modern snel model kan 80–200+ tokens per seconde produceren; redeneermodellen draaien vaak langzamer omdat ze (betaalde) verborgen redenertokens genereren.

Het kortst mogelijke spiekbriefje

Als je niets anders onthoudt:

• Token = ¾ van een woord. Prijs is per token.
• Contextvenster = hoeveel tekst het model tegelijk kan zien.
• Temperature = de creativiteitsknop. Laag voor feiten/code, hoog voor ideeën.
• Top-P = een slimmer, modern alternatief voor top-k. Laat op de standaardwaarde staan tenzij je een reden hebt om het aan te passen.
• Systeemprompt = de persona en regels voor het hele gesprek.
• RAG = hoe je een model kennis laat hebben over jouw eigen gegevens.
• Redeneermodel = langzamer, duurder, maar veel slimmer bij moeilijke problemen.
• Hallucinatie = een zelfverzekerd fout antwoord. Controleer altijd.

Dat is het grootste deel van wat je dagelijks tegenkomt. De rest van deze woordenlijst is er voor wanneer een van deze termen opduikt in documentatie, een bericht online, of een modelkaart en je een snelle houvast nodig hebt.