Configurações de IA Desvendadas: Temperature, Tokens, Top-P e Mais (Glossário 2026)

Se você já passou algum tempo usando ferramentas de IA — especialmente pelo lado da API — provavelmente se deparou com termos como temperature, top-p, tokens, janela de contexto, RLHF e uma dúzia de outros. A maioria das documentações explica esses conceitos assumindo que você já sabe pelo menos metade do que significam. Este glossário é a versão que eu gostaria de ter tido quando comecei: definições em linguagem simples, por que cada termo importa e quando você vai realmente mexer nele.

Está organizado em cinco blocos — vá direto à seção que precisa ou leia do início ao fim como uma introdução ao assunto.

• 1. Tokens & contexto — o que a IA lê e escreve de verdade
• 2. Os controles de amostragem — temperature, top-p, top-k e afins
• 3. Como os modelos pensam — arquitetura e inferência
• 4. Treinamento & alinhamento — como um modelo se torna útil
• 5. Colocando modelos para trabalhar — RAG, agentes, ferramentas, streaming

1. Tokens & contexto

Antes de qualquer configuração, você precisa entender o vocabulário básico do que o modelo está consumindo e produzindo.

Token

A unidade básica que um modelo de linguagem lê e escreve. Um token geralmente é um trecho de alguns caracteres — às vezes uma palavra curta inteira ("gato"), às vezes um fragmento ("ção", "ando"), às vezes um único caractere ou até um byte. Como regra geral para o português, 1 token ≈ 4 caracteres ≈ ¾ de uma palavra, então 1.000 tokens equivalem a cerca de 750 palavras. O preço é quase sempre cobrado por token (entrada e saída separadamente).

Tokenizador

A função que converte texto em tokens antes que o modelo os processe. Famílias de modelos diferentes usam tokenizadores diferentes, por isso o mesmo parágrafo pode custar contagens de tokens levemente diferentes em plataformas distintas.

Janela de contexto (context window)

O número máximo de tokens que o modelo consegue manter "em mente" de uma vez — incluindo seu prompt, quaisquer instruções de sistema, o histórico da conversa e a resposta que está sendo gerada. Modelos modernos de ponta oferecem janelas de 200K a 1M tokens; modelos mais antigos ou econômicos ficam entre 8K e 32K. Se você ultrapassar o limite, o conteúdo mais antigo é descartado ou a chamada falha.

Tokens de entrada vs. tokens de saída

Tokens de entrada são o que você envia (prompt, mensagem de sistema, histórico, documentos anexados). Tokens de saída são o que o modelo gera em resposta. Os tokens de saída costumam custar de 3 a 5 vezes mais do que os de entrada, porque gerar texto é mais custoso do que lê-lo.

Máximo de tokens (max_output_tokens)

Um limite por requisição de quantos tokens o modelo tem permissão de gerar antes de parar. Defina esse valor para controlar custo e latência. Muitas APIs usam alguns milhares como padrão; aumente para saídas longas e diminua para manter respostas mais curtas.

2. Os controles de amostragem

Quando um modelo escolhe o próximo token, ele trabalha com uma distribuição de probabilidade sobre todos os possíveis próximos tokens. Os controles de amostragem moldam como essa distribuição se transforma em uma escolha única. Essas são as alavancas que a maioria das pessoas mexe via API.

Temperature

Controla a aleatoriedade geral. Temperature baixa (0–0,3) faz o modelo escolher quase sempre o token mais provável — determinístico, repetitivo, "seguro." Temperature alta (1,0+) achata a distribuição de probabilidade, tornando tokens menos prováveis viáveis — mais criativo, mais surpreendente, mais sujeito a erros. Um bom ponto de partida para a maioria dos casos de uso em chat é 0,7. Reduza para 0,0–0,2 em código, matemática ou extração de fatos. Aumente para 1,0+ em escrita criativa ou brainstorming.

Top-P (amostragem por núcleo)

Em vez de considerar todos os tokens, o top-p diz: "considere apenas o menor conjunto de tokens cuja probabilidade acumulada seja pelo menos P." Assim, com top-p = 0,9, o modelo amostra dentre os tokens que juntos cobrem 90% da massa de probabilidade — ignorando a cauda longa. É uma alternativa mais inteligente e dinâmica ao top-k. Valor padrão comum: 0,9 ou 1,0 (desativado).

Top-K

Considera apenas os K tokens mais prováveis para o próximo passo e amostra entre eles. Top-k = 1 é decodificação gulosa (sempre escolhe o token mais provável); top-k = 40 mantém os 40 melhores candidatos. APIs modernas (OpenAI, Anthropic) frequentemente não expõem o top-k diretamente porque o top-p tende a se comportar melhor, mas é padrão em modelos de código aberto.

Frequency penalty

Penaliza os tokens que já foram gerados na resposta até o momento, proporcionalmente à frequência com que apareceram. Útil para reduzir repetições literais. Intervalo típico: -2,0 a +2,0; padrão: 0.

Presence penalty

Semelhante ao frequency penalty, mas binário: penaliza tokens que apareceram ao menos uma vez, independentemente da contagem. Incentiva o modelo a introduzir novos tópicos ou palavras. Mesmo intervalo e padrão.

Stop sequences

Strings que forçam o modelo a interromper a geração quando as produz. Úteis para saída estruturada ("pare quando gerar ###") ou para manter respostas dentro de um formato específico.

Seed

Um número inteiro que fixa o gerador de números aleatórios. O mesmo prompt + mesmo seed + mesma versão do modelo geralmente produz a mesma saída — essencial para reprodutibilidade, avaliações e depuração. Atenção: a maioria dos provedores descreve isso como "melhor esforço" — determinismo perfeito não é garantido em toda a infraestrutura.

Comparação rápida: temperature vs. top-p vs. top-k

Erro comum: mexer nos três ao mesmo tempo. Escolha um — geralmente a temperature para controle de criatividade, ou o top-p para ajuste de diversidade — e deixe os outros no padrão. Empilhar penalidades sobre uma temperature baixa é a principal causa dos relatos de "saídas estranhas."

3. Como os modelos pensam

Você não precisa ser um engenheiro de ML para usar ferramentas de IA, mas alguns termos de arquitetura aparecem constantemente em comparações de produtos.

Parâmetros

Os números dentro do modelo que são ajustados durante o treinamento. Um "modelo de 70B" tem 70 bilhões deles. Mais parâmetros geralmente significa mais inteligente e mais caro, mas essa relação ficou menos linear à medida que as arquiteturas evoluíram — um modelo menor bem treinado pode superar um modelo maior, porém mais antigo.

Embedding

Um vetor (uma lista de números) que representa o significado de um trecho de texto em um espaço de alta dimensionalidade. Textos com significados semelhantes ficam próximos entre si. Embeddings potencializam busca semântica, RAG, deduplicação, classificação e recomendação. São diferentes de um modelo de chat — modelos de embedding são menores e especializados.

Attention (atenção)

O mecanismo que permite ao modelo decidir, ao gerar cada novo token, quais tokens anteriores "observar" com mais atenção. É a inovação central dos transformers. Raramente você vai mexer nisso diretamente, mas é por isso que as janelas de contexto importam tanto.

Transformer

A arquitetura de rede neural por trás de praticamente todos os grandes modelos de linguagem modernos desde 2017. Quando alguém diz "um LLM", quase sempre se refere a um transformer.

Mixture of Experts (MoE)

Uma arquitetura em que o modelo é dividido em muitas sub-redes "especialistas" e apenas uma fração delas é ativada para cada token. Isso significa que um modelo pode ter, digamos, 400B de parâmetros no total, mas usar apenas 30B por token — obtendo o conhecimento de um modelo grande com a velocidade de um menor. Vários modelos de ponta usam MoE internamente.

Modelo de raciocínio (reasoning model)

Um modelo treinado para gastar mais processamento "pensando" — gerando etapas internas de raciocínio — antes de produzir sua resposta final. Isso melhora drasticamente o desempenho em matemática, programação e tarefas de raciocínio complexo, mas aumenta a latência e o custo em tokens. Os modelos de raciocínio são a categoria dominante entre os modelos de ponta em 2026.

Chain-of-thought (CoT)

Tanto uma técnica de prompting ("pense passo a passo") quanto um comportamento nativo de modelos de raciocínio, em que o modelo gera etapas intermediárias antes da resposta final. As etapas de raciocínio às vezes ficam ocultas do usuário; com modelos de raciocínio você geralmente paga por elas como tokens de saída de qualquer forma.

Quantização

Reduzir a precisão numérica dos parâmetros de um modelo (por exemplo, de floats de 16 bits para inteiros de 4 bits) para diminuir seu tamanho e aumentar a velocidade, geralmente com um pequeno custo em qualidade. Muito usada no mundo do código aberto; menos visível ao usar modelos via API fechada.

4. Treinamento & alinhamento

Como uma enorme quantidade de texto se transforma em um modelo que responde às suas perguntas de forma educada.

Pré-treinamento

A primeira e mais cara etapa do treinamento, em que o modelo aprende linguagem geral e conhecimento de mundo prevendo o próximo token em enormes volumes de texto. É aqui que vem a maior parte da "inteligência."

Fine-tuning (ajuste fino)

Uma segunda etapa de treinamento que adapta um modelo pré-treinado a uma tarefa ou estilo mais específico, usando um conjunto de dados muito menor. Usado para especialização em domínio (médico, jurídico, programação) ou para alinhar o tom e o comportamento a uma marca específica.

RLHF (Reinforcement Learning from Human Feedback)

A técnica de alinhamento que transformou modelos de linguagem brutos em assistentes úteis. Humanos avaliam as saídas do modelo; um modelo de recompensa é treinado com base nessas avaliações; em seguida, o modelo de linguagem é ajustado com aprendizado por reforço para produzir saídas que o modelo de recompensa prefere. O RLHF é o que faz o ChatGPT e o Claude recusarem solicitações prejudiciais, seguirem instruções de forma educada e se manterem no assunto. O RLAIF (com feedback de IA) é uma técnica relacionada, usada hoje em larga escala.

System prompt (prompt de sistema)

A instrução de nível superior que define o papel, o tom, as restrições e a persona do modelo para toda uma conversa. Tratada com prioridade maior do que as mensagens do usuário pela maioria dos provedores. É aqui que você diz ao modelo o que ele é, antes de qualquer tarefa específica.

Alucinação

Quando o modelo produz uma resposta que soa confiante, mas é factualmente incorreta ou fabricada. Causada por uma combinação de lacunas nos dados de treinamento, a tendência do modelo de gerar texto que soa plausível em vez de verificar a informação, e formulações excessivamente confiantes. Formas de mitigar: temperature mais baixa, RAG (fornecer fontes reais), instruções explícitas de "diga que não sabe" e verificar tudo que for importante.

Engenharia de prompt

A prática de escrever prompts que produzam de forma confiável a saída que você deseja. Inclui coisas como definição de papel ("você é um..."), exemplos few-shot, gatilhos de chain-of-thought e instruções de saída estruturada. À medida que os modelos ficaram melhores em seguir instruções, a engenharia de prompt evoluiu de truques obscuros para simplesmente escrever com clareza.

5. Colocando modelos para trabalhar

Os termos que você vai ouvir em discussões de produto e engenharia, não de treinamento.

Inferência

O ato de executar um modelo treinado — ou seja, gerar saída para uma entrada fornecida. Distinto do treinamento. O custo de inferência é a base do preço das APIs, e a latência de inferência é o que os usuários sentem.

RAG (Retrieval-Augmented Generation)

Antes de responder, busca documentos relevantes em uma base de conhecimento separada (geralmente via busca por similaridade de embeddings) e os insere no prompt como contexto. O RAG permite que um modelo pequeno ou genérico responda com precisão sobre seus documentos privados, eventos atuais ou qualquer coisa fora de seus dados de treinamento. É o padrão dominante para "IA que sabe sobre as minhas coisas."

Uso de ferramentas / chamada de função

Permite que o modelo invoque funções ou APIs externas como parte de sua resposta — por exemplo, "consulte a previsão do tempo", "faça uma busca no banco de dados", "envie um e-mail." O modelo emite uma requisição estruturada, seu código a executa e você devolve o resultado. É isso que transforma um LLM em algo que pode agir, não apenas falar.

Agente

Um loop em que um modelo usa ferramentas e toma suas próprias decisões em várias etapas para atingir um objetivo — por exemplo, navegar na web, editar arquivos ou executar um fluxo de trabalho com múltiplas etapas. Agentes modernos são essencialmente "modelo de raciocínio + ferramentas + loop de iteração." Um termo amplo que abrange desde um bot de atendimento ao cliente até um assistente de programação autônomo.

Multimodal

Um modelo que lida com mais do que apenas texto — mais comumente imagens e texto juntos (visão), e cada vez mais áudio e vídeo também. "Multimodal" geralmente se refere a um único modelo que entende nativamente múltiplas modalidades, não a um pipeline de modelos separados.

Visão (ou VLM — Vision-Language Model)

Um caso específico de multimodal: o modelo pode receber imagens como entrada junto com texto. Usado para OCR, compreensão de diagramas, depuração de capturas de tela, análise de documentos e qualquer situação em que "mostrar, não contar" faz diferença.

Streaming

O modelo envia sua resposta token por token à medida que gera, em vez de esperar que toda a resposta esteja pronta. Essencial para a experiência de chat — os usuários veem a resposta se formar em vez de ficarem olhando para um ícone de carregamento. Implementado como server-sent events na maioria das APIs.

Tempo até o primeiro token (TTFT)

Quanto tempo leva desde o envio de uma requisição até o recebimento do primeiro token da resposta. É a latência que o usuário realmente sente. Modelos de raciocínio têm TTFT mais alto porque "pensam" antes de falar; modelos sem raciocínio transmitem o primeiro token em frações de segundo.

Tokens por segundo

A taxa de transferência após o início da geração. Um modelo moderno e rápido pode produzir de 80 a 200+ tokens por segundo; modelos de raciocínio costumam ser mais lentos porque geram (e pagam por) tokens de raciocínio ocultos.

O resumo mais curto possível

Se você não lembrar de mais nada:

• Token = ¾ de uma palavra. O preço é por token.
• Janela de contexto = quanto texto o modelo consegue ver de uma vez.
• Temperature = controle de criatividade. Baixa para fatos/código, alta para ideias.
• Top-P = uma alternativa mais inteligente e moderna ao top-k. Deixe no padrão a menos que tenha um motivo.
• System prompt = a persona e as regras para toda a conversa.
• RAG = como fazer um modelo conhecer suas informações privadas.
• Modelo de raciocínio = mais lento, mais caro, muito mais inteligente em problemas difíceis.
• Alucinação = uma resposta errada dita com confiança. Sempre verifique.

É isso que você vai encontrar no dia a dia. O restante deste glossário está aqui para quando um desses termos aparecer em uma documentação, um post ou um cartão de modelo e você precisar de uma referência rápida.