LLM é uma sigla que apareceu em todo material sobre inteligência artificial, mas poucas pessoas conseguem explicá-la sem cair em jargão. Para quem decide sobre IA em marketing ou em e-commerce, entender o básico não é curiosidade técnica. É o que separa um uso seguro de um erro caro: respostas inventadas, dados de clientes expostos, orçamento estourado por um custo mal calculado.
LLM significa large language model, ou modelo de linguagem de grande porte. É um modelo treinado em enorme volume de texto para prever o próximo pedaço de texto. Parece simples, e é. O que torna o resultado impressionante é a escala e a arquitetura. O que torna o resultado perigoso é a mesma simplicidade: o modelo prevê o que soa plausível, não o que é verdadeiro.
Este guia explica o que é um LLM, como ele funciona em linguagem simples, quanto custa usar um, onde ele erra, como escolher e avaliar um modelo, e quais erros de interpretação mais custam caro.
O que é um LLM e de onde ele vem
A IBM descreve os LLMs como gigantescas máquinas de previsão estatística que preveem repetidamente a próxima palavra, e é isso que permite resumir, traduzir, responder e escrever. Para situar o termo, ajuda enxergar a hierarquia, do mais amplo ao mais específico:
- Inteligência artificial: qualquer sistema que executa tarefas associadas à inteligência.
- Machine learning: a máquina aprende padrões a partir de dados, em vez de seguir regras escritas à mão.
- Deep learning: aprendizado de máquina com redes neurais de muitas camadas.
- Transformer: arquitetura de rede neural baseada em atenção, apresentada no artigo Attention Is All You Need. Dispensa recorrência, treina com mais paralelismo e superou o estado da arte em tradução na época.
- LLM: um transformer muito grande, treinado em texto. O GPT-3, descrito em Language Models are Few-Shot Learners, tinha 175 bilhões de parâmetros e executava tarefas só com instruções e exemplos no prompt, sem novo treinamento.
- IA generativa: o guarda-chuva dos modelos que criam conteúdo novo (texto, imagem, áudio, vídeo). O LLM é o ramo de texto; hoje muitos também aceitam imagens e PDFs.
Visualmente, cada termo está contido no anterior: todo LLM é um transformer, todo transformer é deep learning, e assim por diante.
Onde o LLM se encaixa
Do conceito mais amplo ao mais específico
Inteligência artificial
sistemas que executam tarefas associadas à inteligência
Machine learning
aprende padrões a partir de dados
Deep learning
redes neurais de muitas camadas
Transformer
arquitetura baseada em atenção
LLM
transformer muito grande, treinado em texto
IA generativa atravessa esses níveis: reúne os modelos que criam conteúdo novo. O LLM é o ramo de texto.
Esse vocabulário está reunido no glossário de IA para marketing, e a visão de onde a IA ajuda em cada área aparece em IA no marketing: o guia prático por área.
Como um LLM funciona, em linguagem simples
Para quem prefere ver antes de ler, o vídeo da IBM Technology resume em cerca de cinco minutos o que é um LLM, como ele é treinado e onde é aplicado. O vídeo está em inglês, com legendas automáticas disponíveis no YouTube.
Do texto ao próximo token
- Tokens. O texto é cortado em pedaços chamados tokens: uma palavra, parte de uma palavra ou pontuação. A documentação da OpenAI traz uma regra prática para o inglês: 1 token equivale a cerca de 4 caracteres ou 0,75 palavra, e isso varia por idioma e conteúdo. A documentação do Gemini dá uma ordem de grandeza semelhante.
- Embeddings. Cada token vira uma lista de números, que representa o significado em contexto. Palavras de sentido próximo ficam próximas nesse espaço numérico.
- Atenção. Para cada token, o modelo calcula quanto cada outro token do texto importa, mesmo os distantes. É o mecanismo central do transformer.
- Previsão do próximo token. O modelo atribui uma probabilidade a todos os tokens possíveis, escolhe um, anexa ao texto e repete. Um parágrafo longo é essa repetição.
O fluxo abaixo junta as quatro etapas. A última se repete: cada token escolhido volta para o texto e entra no cálculo do próximo.
Do texto ao próximo token
O ciclo que se repete a cada palavra gerada
Tokens
O texto é quebrado em pedaços: palavras, partes de palavras e pontuação.
Embeddings
Cada token vira uma lista de números que representa o sentido em contexto.
Atenção
O modelo pesa quanto cada token do texto importa para os demais.
Próximo token
Calcula a probabilidade de cada token possível, escolhe um, anexa e repete.
Na última etapa, o modelo não escolhe “a palavra certa”. Ele distribui probabilidades entre muitas opções. O gráfico mostra um exemplo ilustrativo, com valores inventados apenas para explicar a lógica, para a frase “A loja enviou o seu ___”.
Probabilidade do próximo token
Exemplo ilustrativo para “A loja enviou o seu ___”
pedido
48%
produto
21%
cupom
9%
código
7%
outros tokens
15%
É aqui que entra a temperatura, explicada mais adiante: com temperatura baixa, o modelo tende a escolher “pedido” quase sempre; com temperatura alta, opções menos prováveis aparecem com mais frequência.
Como o modelo aprende a obedecer
O pré-treinamento ajusta bilhões de parâmetros para errar menos a previsão sobre grandes volumes de texto. O resultado é um modelo base, que completa texto, mas obedece mal a pedidos. O ajuste fino e o aprendizado por reforço com feedback humano (RLHF) corrigem isso. No estudo Training language models to follow instructions with human feedback, em avaliação humana naquele conjunto de prompts, um modelo de 1,3 bilhão de parâmetros foi preferido a um de 175 bilhões, com ganhos em veracidade e menos toxicidade, embora ainda errasse. A lição é que tamanho não é tudo: o alinhamento importa.
O estudo descreve o processo em três etapas depois do pré-treinamento, resumidas a seguir a partir da figura do artigo original.
Do modelo base ao assistente
Pré-treinamento seguido das três etapas do RLHF
Pré-treinamento
Prever o próximo token em grandes volumes de texto. Resultado: modelo base.
Demonstrações
Pessoas escrevem respostas ideais para prompts; o modelo é ajustado com esses exemplos (ajuste fino supervisionado).
Modelo de recompensa
Pessoas comparam e ordenam várias respostas do modelo; um segundo modelo aprende essas preferências.
Aprendizado por reforço
O modelo é otimizado para gerar respostas que o modelo de recompensa avalia melhor.
Os conceitos que aparecem no dia a dia
- Temperatura: parâmetro de amostragem. Valores baixos geram respostas mais previsíveis e repetíveis; valores altos geram mais variação e criatividade.
- Janela de contexto: tudo o que o modelo enxerga numa chamada, incluindo a própria resposta. A documentação da Anthropic trata essa janela como a memória de trabalho do modelo, separada do que ele aprendeu no treino, e descreve o “context rot”: a precisão cai à medida que o contexto cresce. Mais contexto nem sempre é melhor.
- RAG (geração aumentada por recuperação): antes de responder, o sistema busca trechos relevantes nos documentos da empresa e os coloca no contexto. Reduz invenção e atualiza o conhecimento sem retreinar. Veja como preparar a base de conhecimento para IA.
- Ferramentas e agentes: o modelo pode chamar funções (consultar estoque, calcular, buscar na web). Um agente é um modelo em laço: decide, usa uma ferramenta, lê o resultado e decide de novo. O guia de agentes de IA aprofunda.
- Raciocínio: modelos de raciocínio geram tokens de pensamento antes da resposta final, e esses tokens também contam como saída. Pesquisa da Anthropic sobre como um modelo de linguagem “pensa” mostrou planejamento à frente e que o raciocínio declarado nem sempre corresponde ao cálculo interno.
A consequência prática do último ponto é que a explicação que o modelo dá não é prova de como ele chegou à resposta. Valide o resultado, não a justificativa.
Quanto custa usar um LLM: exemplo com contas
O uso por API é cobrado por token de entrada e de saída. Como não há um fator oficial publicado para o português, use 1,3 a 1,5 token por palavra como premissa ilustrativa e meça com o contador de tokens do fornecedor. Neste exemplo hipotético, a entrada tem 1.500 palavras e a saída 400 palavras, com 1,4 token por palavra: entrada de 1.500 × 1,4 = 2.100 tokens e saída de 400 × 1,4 = 560 tokens.
Com os preços por milhão de tokens da tabela da API da Anthropic para três faixas de modelo (dado de fornecedor; os valores mudam), o custo por chamada é:
| Faixa de modelo | Entrada (US$ por milhão) | Saída (US$ por milhão) | Conta da chamada | Custo por chamada |
|---|---|---|---|---|
| Econômica | 0,10 | 0,50 | (2.100 ÷ 1.000.000 × 0,10) + (560 ÷ 1.000.000 × 0,50) | US$ 0,00049 |
| Intermediária | 2,00 | 10,00 | (2.100 ÷ 1.000.000 × 2) + (560 ÷ 1.000.000 × 10) | US$ 0,0098 |
| Avançada | 4,00 | 20,00 | (2.100 ÷ 1.000.000 × 4) + (560 ÷ 1.000.000 × 20) | US$ 0,0196 |
Custo de mil chamadas por faixa de modelo
Na faixa intermediária, 10.000 descrições de produto por mês custariam cerca de 10.000 × US$ 0,0098 = US$ 98, antes de conversão para reais e de descontos. Dois pontos didáticos: a saída custa 5 vezes mais que a entrada nessas tabelas, e o contexto que você reenvia a cada turno de conversa é cobrado de novo.
O que o LLM faz bem e onde erra
Os LLMs são fortes em redigir e reescrever, resumir, classificar, extrair campos de texto, traduzir, gerar variações e responder dúvidas com base em documentos fornecidos. São fracos onde o dado não está no contexto ou onde se exige exatidão sem checagem.
Alucinação
A OpenAI argumenta, em Why language models hallucinate, que a alucinação persiste porque o treino e a avaliação premiam chutar em vez de admitir incerteza. Para a empresa, 100% de acurácia é inatingível, mas alucinar não é inevitável, porque o modelo pode se abster. O NIST, no perfil de IA generativa NIST AI 600-1, usa o termo “confabulação” para conteúdo errado apresentado com confiança. A discussão sobre confiabilidade está em LLMs, alucinação e confiabilidade no marketing.
Dados desatualizados, viés e privacidade
O conhecimento do modelo vem do treino, com data de corte. Sem busca ou RAG, ele não sabe o preço de hoje, o estoque ou a lei recente. O NIST também lista o viés e a homogeneização entre os riscos de IA generativa. E o Radar Tecnológico da ANPD sobre IA generativa alerta para riscos à privacidade: prompts e anexos podem conter dados pessoais, dados raspados exigem base legal, e a responsabilidade não pode recair só no usuário. Para a empresa, a regra é não colar dados pessoais de clientes em ferramentas sem contrato, base legal e configuração de retenção. O modelo de política de uso de IA traz diretrizes.
LLM, buscador, chatbot de regras e IA de imagem: qual é a diferença
| Aspecto | LLM | Buscador | Chatbot de regras | IA generativa de imagem |
|---|---|---|---|---|
| O que faz | Gera texto por previsão de tokens | Indexa e ranqueia páginas existentes | Segue fluxos pré-definidos | Gera imagens a partir de descrição |
| Saída | Texto novo e fluente | Lista de links e trechos de fontes reais | Respostas fixas e menus | Imagens novas |
| Ponto forte | Flexível; entende linguagem natural | Fonte rastreável e dado atual | Previsível, barato e auditável | Criação visual rápida |
| Ponto fraco | Pode alucinar; custo por token | Não sintetiza nem executa tarefas | Quebra fora do roteiro | Detalhes de produto e texto na imagem podem falhar |
| Dado atual | Só com busca ou RAG | Sim | Só o que foi cadastrado | Não se aplica |
| Uso típico | Atendimento aberto, textos, análise | Descobrir fontes | FAQ, status de pedido | Peças e mockups |
Os modelos não se excluem. Para fluxos críticos e previsíveis, regras seguem melhores. Para linguagem aberta, o LLM é mais flexível. A combinação costuma ser o desenho mais seguro: LLM para entender e redigir, regras para executar ações sensíveis.
Como escolher e avaliar um modelo
Benchmarks informam, mas não decidem. Medem tarefas genéricas, podem ter contaminação por dados de treino e, segundo a OpenAI, os que medem só acurácia recompensam chutar. Pontuações divulgadas por fornecedores são dado de fornecedor. O caminho mais confiável é testar com os seus próprios dados:
- Monte de 30 a 100 casos reais (perguntas de clientes, fichas de produto, e-mails), com a resposta esperada definida por alguém do negócio.
- Rode em dois ou três modelos de faixas de preço diferentes.
- Pontue correção, tom, formato e recusa adequada.
- Meça tokens e custo por tarefa, não só o preço por milhão de tokens.
- Repita o teste sempre que o fornecedor trocar a versão do modelo.
Os critérios de decisão incluem qualidade no seu idioma, custo por tarefa, latência, a janela de contexto necessária, o tratamento de dados e o contrato (LGPD), a disponibilidade de RAG e ferramentas, e um plano de fallback para humano. O NIST AI 600-1 oferece uma estrutura de governança: mapear, medir e gerenciar riscos.
Aplicações em marketing e e-commerce
- Descrições e variações de produto a partir de atributos do catálogo, com revisão humana e checagem de fatos.
- Atendimento com RAG sobre políticas de troca, frete e FAQ, com escalonamento para humano.
- Classificação e resumo de avaliações e tickets, com extração de temas.
- Rascunho de e-mails, assuntos e anúncios, com adaptação de tom por segmento.
- Padronização de feed de produtos (categorias e atributos).
- Apoio analítico: explicar relatórios e gerar consultas e fórmulas, sempre validando.
No Brasil, a pesquisa TIC Empresas 2025, do Cetic.br, com empresas de 10 ou mais pessoas ocupadas, mostra que 17% das empresas usaram IA em 2025, contra 13% em 2024. Entre as que usaram, 44% o fizeram em marketing ou vendas. O Cetic não usa o termo “IA generativa” nessa publicação, então o número não deve ser lido como o percentual de empresas que usam LLMs. Para escolher ferramentas por tarefa, veja ferramentas de IA para marketing e e-commerce.
Erros comuns ao entender e usar LLMs
Os erros abaixo são de interpretação mais do que de técnica. Cada um tem um custo real em retrabalho, risco ou orçamento.
Erros de interpretação do que o modelo é
| Erro | Por que acontece e qual o efeito | Correção |
|---|---|---|
| “LLM é um buscador que sabe tudo” | Ele responde por previsão, não consulta uma base; o efeito são fatos inventados | Usar busca ou RAG e exigir fonte |
| “Se soa seguro, está certo” | Fluência não mede verdade; treino e avaliação premiam chutar; o efeito é erro publicado | Revisão humana e permissão para responder “não sei” |
| “O modelo entende como uma pessoa” | Ele prevê tokens; a pesquisa de interpretabilidade mostra mecanismos apenas parciais; o efeito é confiança excessiva | Tratar como assistente a ser verificado |
| “A explicação dele é o raciocínio real” | O relato pode divergir do cálculo interno; o efeito é uma auditoria falsa | Validar o resultado, não a justificativa |
Erros de custo e de configuração
| Erro | Por que acontece e qual o efeito | Correção |
|---|---|---|
| “Mais contexto sempre melhora” | O contexto longo pode degradar a precisão; o efeito é pior recall e custo maior | Enviar só o relevante e resumir o histórico |
| “Custo é por palavra” | A cobrança é por token, e o português tende a gerar mais tokens por palavra; o orçamento sai errado | Medir com o contador de tokens do fornecedor |
| “O modelo sabe o que aconteceu ontem” | O conhecimento tem data de corte; preço, lei e estoque saem errados | Passar o dado no prompt ou por ferramenta |
| “O maior e mais caro é sempre o melhor” | Faixas mais baratas atendem tarefas simples; o custo é inflado sem ganho | Testar com os próprios dados em cada faixa |
Erros de governança
| Erro | Por que acontece e qual o efeito | Correção |
|---|---|---|
| “Colar dados de clientes é seguro” | Prompts e anexos podem conter dados pessoais; o efeito é risco de LGPD | Anonimizar, ter contrato e política interna |
| “A nota de benchmark prevê o meu resultado” | Tarefas, idioma e dados diferem; o efeito é a escolha errada de modelo | Avaliar com casos reais e repetir a cada troca de versão |
Checklist antes de usar um LLM na empresa
- Defina a tarefa e o que é uma resposta correta.
- Decida se o modelo precisa de dados atuais (busca ou RAG).
- Estime tokens e custo por tarefa com uma amostra real.
- Teste de 30 a 100 casos em mais de um modelo.
- Defina revisão humana para o que for publicado ou enviado ao cliente.
- Proíba dados pessoais sem contrato, base legal e retenção configurada.
- Registre a versão do modelo e reteste quando ela mudar.
- Tenha plano de passagem para humano.
Perguntas frequentes
LLM e ChatGPT são a mesma coisa?
Não. O ChatGPT é um produto que usa LLMs. O LLM é o modelo por trás do produto.
O LLM aprende com as minhas conversas?
Depende do fornecedor e do plano. Os pesos do modelo não mudam durante a conversa; só o contexto muda. Leia os termos de uso e a configuração de dados antes de enviar informação da empresa.
Por que a resposta muda a cada vez?
Porque a geração é probabilística. Uma temperatura mais baixa reduz a variação, mas não a elimina.
Dá para eliminar a alucinação?
Dá para reduzir, com RAG, instruções de abstenção e revisão humana. Zerar não é possível, segundo a própria OpenAI.
Quanto custa usar um LLM?
A cobrança é por token de entrada e de saída. No exemplo deste guia, uma chamada média na faixa intermediária custa cerca de US$ 0,01, valor hipotético que depende do fornecedor e muda com o tempo.
O LLM substitui o chatbot de regras?
Nem sempre. Para fluxos críticos e previsíveis, as regras seguem melhores. Combine os dois: LLM para linguagem aberta e regras para ações sensíveis.



