Impostazioni AI Spiegate: Temperature, Token, Top-P e Molto Altro (Glossario 2026)

Se hai trascorso un po' di tempo con gli strumenti AI — soprattutto lato API — avrai sicuramente incontrato termini come temperature, top-p, token, finestra di contesto, RLHF e una decina d'altri. La maggior parte della documentazione li spiega dando per scontato che tu ne sappia già qualcosa. Questo glossario è la versione che avrei voluto avere quando ho iniziato: definizioni semplici, il motivo per cui ogni termine è importante e quando lo userai davvero.

È organizzato in cinque aree — scegli la sezione di cui hai bisogno o leggilo dall'inizio come introduzione.

• 1. Token e contesto — cosa legge e scrive davvero l'AI
• 2. I parametri di campionamento — temperature, top-p, top-k e compagnia
• 3. Come ragionano i modelli — architettura e inferenza
• 4. Addestramento e allineamento — come un modello diventa utile
• 5. Mettere i modelli al lavoro — RAG, agenti, strumenti, streaming

1. Token & contesto

Prima di parlare di impostazioni, è necessario capire il vocabolario di base: cosa consuma e cosa produce il modello.

Token

L'unità di base che un modello linguistico legge e scrive. Un token corrisponde di solito a un piccolo gruppo di caratteri — a volte un'intera parola breve ("gatto"), a volte un frammento ("ing", "tion"), a volte un singolo carattere o persino un byte. Come regola approssimativa per l'italiano, 1 token ≈ 4 caratteri ≈ ¾ di una parola, quindi 1.000 token corrispondono a circa 750 parole. Il prezzo è quasi sempre calcolato per token (input e output separatamente).

Tokenizer

La funzione che trasforma il testo in token prima che il modello lo elabori. Famiglie di modelli diverse usano tokenizer diversi, ed è per questo che lo stesso paragrafo può avere un conteggio di token leggermente diverso su piattaforme diverse.

Finestra di contesto (o context length)

Il numero massimo di token che il modello può tenere "in mente" contemporaneamente — inclusi il tuo prompt, le istruzioni di sistema, la conversazione precedente e la risposta che sta generando. I modelli più avanzati oggi offrono finestre da 200K a 1M di token; quelli più vecchi o economici si fermano a 8K–32K. Se superi il limite, il contenuto più vecchio viene scartato oppure la chiamata fallisce.

Token di input vs token di output

I token di input sono ciò che invii (prompt, messaggio di sistema, cronologia, documenti allegati). I token di output sono ciò che il modello genera in risposta. I token di output costano in genere 3–5 volte di più rispetto a quelli di input, perché generare testo è più impegnativo che leggerlo.

Max tokens (max_output_tokens)

Un limite per singola richiesta sul numero di token che il modello è autorizzato a generare prima di fermarsi. Impostalo per controllare costi e latenza. Molte API hanno un valore predefinito di qualche migliaio; aumentalo per output lunghi, abbassalo per mantenere le risposte concise.

2. I parametri di campionamento

Quando un modello sceglie il token successivo, dispone di una distribuzione di probabilità su tutti i possibili token successivi. I parametri di campionamento determinano come quella distribuzione diventa una scelta singola. Sono le leve che la maggior parte delle persone tocca via API.

Temperature

Controlla la casualità complessiva. Una temperature bassa (0–0.3) spinge il modello a scegliere quasi sempre il token più probabile — deterministico, ripetitivo, "sicuro". Una temperature alta (1.0+) appiattisce la distribuzione di probabilità, rendendo plausibili anche token meno probabili — più creativo, più sorprendente, più soggetto a errori. Un buon punto di partenza per la maggior parte delle chat è 0.7. Abbassala a 0.0–0.2 per codice, matematica o estrazione di dati fattuali. Alzala a 1.0+ per testi creativi o brainstorming.

Top-P (nucleus sampling)

Invece di considerare tutti i token, top-p dice: "considera solo il sottoinsieme più piccolo di token la cui probabilità cumulativa è almeno P". Con top-p = 0.9, il modello campiona dai token che insieme coprono il 90% della massa di probabilità, ignorando la coda lunga. È un'alternativa più intelligente e dinamica rispetto a top-k. Valore predefinito comune: 0.9 o 1.0 (disattivato).

Top-K

Considera solo i K token successivi più probabili e campiona tra quelli. Top-k = 1 corrisponde alla decodifica greedy (sceglie sempre il token singolo più probabile); top-k = 40 mantiene i 40 candidati migliori. Le API moderne (OpenAI, Anthropic) spesso non espongono top-k direttamente perché top-p tende a comportarsi meglio, ma è uno standard nei modelli open-source.

Frequency penalty

Penalizza i token che sono stati già generati nella risposta, in proporzione a quante volte sono comparsi. Utile per ridurre le ripetizioni letterali. L'intervallo tipico va da -2.0 a +2.0; il valore predefinito è 0.

Presence penalty

Simile alla frequency penalty, ma binaria: penalizza i token che sono comparsi almeno una volta, indipendentemente dalla frequenza. Spinge il modello a introdurre nuovi argomenti o parole. Stesso intervallo, stesso valore predefinito.

Stop sequences

Stringhe che costringono il modello a interrompere la generazione nel momento in cui le produce. Utili per output strutturati ("fermati quando generi ###") o per mantenere le risposte all'interno di un formato specifico.

Seed

Un intero che fissa il generatore di numeri casuali. Lo stesso prompt + stesso seed + stessa versione del modello producono di solito lo stesso output, il che è fondamentale per la riproducibilità, le valutazioni e il debugging. Nota: la maggior parte dei provider descrive questa funzionalità come "best-effort" — il determinismo perfetto non è garantito su infrastrutture diverse.

Confronto rapido: temperature vs top-p vs top-k

Errore comune: modificare tutti e tre contemporaneamente. Scegline uno — di solito temperature per il controllo della creatività, o top-p per la regolazione della diversità — e lascia gli altri ai valori predefiniti. Sovrapporre penalità a una temperature bassa è la causa principale della maggior parte dei report di "output strani".

3. Come ragionano i modelli

Non è necessario essere ingegneri di machine learning per usare gli strumenti AI, ma alcuni termini architetturali compaiono continuamente nei confronti tra prodotti.

Parametri

I numeri all'interno del modello che vengono ottimizzati durante l'addestramento. Un "modello da 70B" ne ha 70 miliardi. In generale, più sono e più il modello è intelligente e costoso, ma la relazione è diventata meno lineare con il migliorare delle architetture — un modello più piccolo ma ben addestrato può superare uno più grande ma più vecchio.

Embedding

Un vettore (una lista di numeri) che rappresenta il significato di un testo in uno spazio ad alta dimensionalità. I testi con significati simili finiscono vicini tra loro. Gli embedding sono alla base della ricerca semantica, del RAG, della deduplicazione, della classificazione e dei sistemi di raccomandazione. Sono diversi da un modello di chat — i modelli di embedding sono più piccoli e specializzati.

Attention

Il meccanismo che permette a un modello di decidere, durante la generazione di ogni nuovo token, a quali token precedenti "prestare attenzione". È l'innovazione centrale dei transformer. Di rado lo si tocca direttamente, ma è la ragione per cui le finestre di contesto contano così tanto.

Transformer

L'architettura di rete neurale alla base di praticamente ogni modello linguistico di grandi dimensioni dal 2017 in poi. Quando qualcuno dice "un LLM", intende quasi sempre un transformer.

Mixture of Experts (MoE)

Un'architettura in cui il modello è suddiviso in molte sottoreti "esperte" e solo una frazione di esse si attiva per ogni token. Ciò significa che un modello può avere, ad esempio, 400B parametri totali ma usarne solo 30B per token — ottenendo la conoscenza di un modello grande alla velocità di uno piccolo. Diversi modelli di frontiera usano MoE internamente.

Reasoning model

Un modello addestrato a usare potenza di calcolo extra per "ragionare" — generando passi di ragionamento interni — prima di produrre la risposta finale. Questo migliora notevolmente le prestazioni su matematica, codice e ragionamento complesso, ma aumenta la latenza e il costo in token. I reasoning model sono la categoria dominante a livello di frontiera nel 2026.

Chain-of-thought (CoT)

O una tecnica di prompting ("ragiona passo dopo passo") o un comportamento integrato nei reasoning model, in cui il modello genera un ragionamento intermedio prima della risposta finale. I passaggi di ragionamento a volte vengono nascosti all'utente; con i reasoning model si paga generalmente per essi come token di output, indipendentemente.

Quantizzazione

Riduzione della precisione numerica dei parametri di un modello (ad esempio, da float a 16 bit a interi a 4 bit) per ridurne le dimensioni e aumentarne la velocità, di solito con una piccola perdita di qualità. Molto comune nel mondo open-source; meno visibile quando si usano modelli tramite API chiuse.

4. Addestramento & allineamento

Come un'enorme raccolta di testo diventa un modello che risponde educatamente alle tue domande.

Pre-addestramento

La prima e più costosa fase di addestramento, in cui il modello acquisisce conoscenze generali del linguaggio e del mondo predicendo il token successivo su enormi quantità di testo. Da qui proviene la maggior parte dell'"intelligenza".

Fine-tuning

Una seconda fase di addestramento che adatta un modello pre-addestrato a un compito o stile più ristretto, utilizzando un dataset molto più piccolo. Usato per la specializzazione di dominio (medico, legale, coding) o per allineare tono e comportamento a un brand specifico.

RLHF (Reinforcement Learning from Human Feedback)

La tecnica di allineamento che ha trasformato i modelli linguistici grezzi in assistenti utili. Gli esseri umani valutano gli output del modello; un reward model viene addestrato su quelle valutazioni; poi il modello linguistico viene ulteriormente ottimizzato con il reinforcement learning per produrre output che il reward model preferisce. L'RLHF è ciò che fa sì che ChatGPT e Claude rifiutino richieste dannose, seguano le istruzioni con educazione e restino in argomento. RLAIF (con feedback AI) è una tecnica correlata ora usata su larga scala.

System prompt

L'istruzione di livello superiore che definisce il ruolo, il tono, i vincoli e la persona del modello per l'intera conversazione. Trattata con priorità maggiore rispetto ai messaggi dell'utente dalla maggior parte dei provider. È qui che dici al modello cosa è, prima di qualsiasi compito specifico.

Allucinazione

Quando il modello produce una risposta dall'aria convincente ma fattualmente errata o inventata. Causata da una combinazione di lacune nei dati di addestramento, dalla tendenza del modello a generare testo plausibile anziché verificare i fatti, e da formulazioni eccessivamente sicure. Mitigazioni: abbassare la temperature, usare il RAG (fornire fonti reali), istruzioni esplicite come "se non sai, dillo", e verificare sempre ciò che è importante.

Prompt engineering

La pratica di scrivere prompt che producono in modo affidabile l'output desiderato. Include tecniche come la definizione del ruolo ("sei un..."), esempi few-shot, trigger per il chain-of-thought e istruzioni per output strutturati. Man mano che i modelli sono diventati più bravi a seguire le istruzioni, il prompt engineering si è spostato dai trucchi oscuri alla scrittura chiara.

5. Mettere i modelli al lavoro

I termini che sentirai nelle discussioni di prodotto e ingegneristiche, non in quelle sull'addestramento.

Inferenza

L'atto di eseguire un modello già addestrato — ovvero generare un output dato un input. Distinta dall'addestramento. Il costo dell'inferenza è la base dei prezzi API, e la latenza dell'inferenza è ciò che l'utente percepisce.

RAG (Retrieval-Augmented Generation)

Prima di rispondere, si recuperano documenti pertinenti da una knowledge base separata (di solito tramite ricerca per similarità degli embedding) e li si inserisce nel prompt come contesto. Il RAG permette a un modello generico o di piccole dimensioni di rispondere accuratamente sui tuoi documenti privati, eventi recenti o qualsiasi cosa al di fuori dei suoi dati di addestramento. Il pattern dominante per l'"AI che conosce le mie cose".

Uso degli strumenti / function calling

Permettere al modello di invocare funzioni o API esterne come parte della sua risposta — ad esempio "controlla il meteo", "interroga un database", "invia un'email". Il modello emette una richiesta strutturata, il tuo codice la esegue e tu restituisci il risultato. È ciò che trasforma un LLM in qualcosa che può agire, non solo parlare.

Agente

Un ciclo in cui un modello usa strumenti e prende decisioni autonome su più passi per raggiungere un obiettivo — ad esempio navigare sul web, modificare file o eseguire un flusso di lavoro multi-step. Gli agenti moderni sono essenzialmente "reasoning model + strumenti + ciclo iterativo". Un termine ampio che va dal bot di assistenza clienti all'assistente di coding autonomo.

Multimodale

Un modello che gestisce più tipi di dati oltre al testo — più comunemente immagini e testo insieme (visione), e sempre più spesso anche audio e video. "Multimodale" di solito si riferisce a un singolo modello che comprende nativamente più modalità, non a una pipeline di modelli separati.

Vision (o VLM — Vision-Language Model)

Un caso specifico di multimodalità: il modello può ricevere immagini come input insieme al testo. Usato per OCR, comprensione di diagrammi, debug di screenshot, analisi di documenti e tutto ciò in cui "mostrare vale più che spiegare".

Streaming

Il modello invia la risposta token per token mentre la genera, invece di aspettare che l'intera risposta sia completata. Fondamentale per l'esperienza utente nella chat — gli utenti vedono la risposta prendere forma invece di fissare un'icona di caricamento. Implementato come server-sent events sulla maggior parte delle API.

Time to first token (TTFT)

Il tempo che intercorre tra l'invio di una richiesta e la ricezione del primo token della risposta. La latenza che l'utente percepisce davvero. I reasoning model hanno un TTFT più elevato perché "pensano" prima di parlare; i modelli non-reasoning trasmettono il primo token in frazioni di secondo.

Token al secondo

Il throughput una volta avviata la generazione. Un modello veloce moderno può produrre 80–200+ token al secondo; i reasoning model spesso sono più lenti perché generano (e pagano per) token di ragionamento nascosti.

Il cheat-sheet più breve possibile

Se non ricordi nient'altro:

• Token = ¾ di una parola. Il prezzo è per token.
• Finestra di contesto = quanto testo il modello riesce a vedere in una volta.
• Temperature = manopola della creatività. Bassa per fatti/codice, alta per idee.
• Top-P = alternativa moderna e più intelligente al top-k. Lasciala al valore predefinito a meno che tu non abbia un motivo specifico.
• System prompt = la persona e le regole per l'intera conversazione.
• RAG = come rendere un modello esperto delle tue informazioni private.
• Reasoning model = più lento, più costoso, molto più intelligente sui problemi difficili.
• Allucinazione = una risposta sbagliata data con sicurezza. Verifica sempre.

Questo copre la maggior parte di ciò che incontrerai ogni giorno. Il resto del glossario è qui per quando uno di questi termini compare in un documento, in un post sui social o in una scheda tecnica del modello e hai bisogno di un riferimento rapido.