Custo de IA por conversa: modelo, horário e teto mensal

O custo de IA por conversa depende de quatro decisões: qual modelo responde cada tarefa, quanto do contexto é reaproveitado, em que horário ou fila a chamada roda e qual teto segura o gasto do mês. O modelo mais barato que passa no seu teste resolve a maior parte. Cache e preço fora do pico cortam o resto. O teto impede que um cliente ou um erro de código leve a conta para longe do combinado.

De onde sai o custo de uma conversa

As APIs de modelo cobram por token, a menor unidade de texto que o modelo lê. A página de preços da DeepSeek (em inglês) resume a conta: o gasto é o número de tokens vezes o preço. Entrada e saída têm preços separados. Na tabela da Anthropic, o token de saída do Claude Haiku 4.5 custa cinco vezes o de entrada.

Numa conversa, a entrada cresce a cada turno. Cada chamada nova costuma levar de novo as instruções do sistema e o histórico, como descreve a documentação de cache da Anthropic. Por isso a mesma pergunta custa mais no décimo turno do que no primeiro.

Antes do modelo, o escopo

O artigo do NN/g sobre escopo em recursos de IA generativa (em inglês) propõe quatro perguntas antes de desenhar qualquer recurso de IA:

Qual problema do usuário o recurso resolve.
Como resolver esse problema ajuda o negócio.
Se IA é mesmo a melhor solução.
Quão completo, limpo e estruturado é o dado que vai entrar no modelo.

A terceira pergunta também é de custo. Uma etapa com regra fixa, como mandar uma mensagem num horário marcado, pode rodar sem chamar modelo nenhum.

O mesmo artigo mostra que um recurso de escopo estreito restringe o tipo e o tamanho da entrada que aceita. Para o usuário, isso deixa o propósito mais claro. Para a conta, significa pedidos menores e tarefas parecidas entre si, que costumam caber num modelo menor.

Um modelo por tarefa

A documentação da Anthropic sobre como escolher um modelo (em inglês) descreve dois pontos de partida. No primeiro, você começa pelo modelo mais rápido e barato, testa e só sobe se faltar capacidade. No segundo, começa pelo mais capaz, ajusta as instruções e depois tenta descer. O primeiro é indicado para tarefas simples e de volume alto, e o segundo para raciocínio complexo.

Numa conversa de atendimento, as tarefas não pesam igual. Classificar a intenção da mensagem, extrair um horário e resumir o dia são trabalhos diferentes de responder uma objeção. A mesma página sugere combinar modelos: um modelo barato faz o grosso do trabalho e repassa a decisão difícil para um mais forte, e a maior parte dos tokens sai pelo preço menor.

Quem decide a troca é o teste com casos reais. A documentação pede um conjunto de casos do seu próprio uso, com as suas instruções e os seus dados, comparando acerto, qualidade e casos extremos. Ela também lembra que ajustar o parâmetro de esforço, nos modelos que têm, muitas vezes rende mais do que trocar de modelo.

Cache para o começo que se repete

As instruções do sistema e o começo do histórico se repetem em toda chamada da conversa. A tabela de preços da Anthropic (em inglês) cobra a leitura desse trecho no cache a 10% do preço normal de entrada, ou menos em alguns modelos. Gravar no cache por cinco minutos custa 1,25 vez o preço base, e por uma hora, o dobro. Pela conta da própria página, o cache de cinco minutos se paga já na primeira leitura.

O cache guarda o prefixo do pedido. Na prática, vale deixar fixo o que vem primeiro, como as instruções e o contexto do negócio, e colocar o que muda no fim.

Horário e fila: o que pode esperar

Três mecanismos trocam espera ou horário por preço:

Lote. O Batch API da OpenAI (em inglês) cobra 50% menos e entrega cada lote em até 24 horas. A tabela da Anthropic dá o mesmo desconto de 50% no processamento em lote.
Fila flexível. O modo Flex da OpenAI (em inglês) cobra preço de lote em chamada comum, em troca de resposta mais lenta e de falta ocasional de recurso. A documentação indica o modo para tarefa de baixa prioridade e assíncrona.
Fora do pico. A DeepSeek cobra metade do preço fora do horário de pico. O pico vai da 01h às 04h e das 06h às 10h UTC, em dia útil. No horário de Brasília, isso dá das 22h à 01h e das 03h às 07h.

A conta muda por fuso. Para quem atende no horário comercial de Brasília, o expediente inteiro cai fora do pico da DeepSeek. A tabela pode mudar, e a própria página recomenda conferir o preço com frequência.

O limite aqui é a paciência de quem está do outro lado. O texto de Jakob Nielsen sobre os três limites de tempo de resposta (em inglês) põe em 10 segundos o teto para manter a atenção no diálogo. Acima disso, a pessoa vai fazer outra coisa e precisa saber quando a resposta chega. Mensagem de cliente não espera um lote de 24 horas. O resumo do dia, a planilha da semana e a releitura de conversas antigas esperam. Como mostrar a espera na tela está no texto sobre estados de carregamento e vazio.

Teto mensal: o limite do provedor e o seu

O provedor já traz um limite. Na Anthropic, cada nível de uso tem um teto de gasto mensal (em inglês), e a organização pode definir um valor menor. Também dá para pôr limite por workspace, que separa projetos dentro da mesma conta. Quando o teto do nível é atingido, a API para até o primeiro dia do mês seguinte e devolve erro 429. Quando é o limite definido por você, o erro é 400, com a data em que o acesso volta.

Esse limite protege a conta, mas chega tarde demais para o produto. Corta tudo de uma vez e não sabe qual cliente gastou. Um teto por cliente, dentro da aplicação, resolve as duas coisas: avisa antes de acabar e bloqueia só quem passou do combinado.

O bloqueio também é uma tela. O guia do NN/g para chatbots de site (em inglês) recomenda um assistente que se identifica, resolve o que pode e passa para uma pessoa quando não pode. Um assistente que bateu no teto entra nesse caso, e quem mandou a mensagem precisa de um caminho até alguém da equipe.

Como ficou na Vexor

No meu produto, a Vexor, cada conversa no WhatsApp passa por um assistente de IA, e o custo por conversa ficou na casa de centavos com três decisões. O modelo é escolhido por tarefa. A janela de menor preço do provedor é usada quando o horário permite. E cada cliente tem teto mensal com aviso e bloqueio automático.

Medi cerca de R$ 0,015 por conversa no modelo intermediário. No modelo de menor preço, fora do pico, o custo ficou abaixo de um centavo.

Das três decisões, o teto é a que mais pesa para quem contrata. O aviso chega antes, e o bloqueio automático impede que o gasto passe do combinado. Sem ele, o preço do mês dependeria do volume de conversa, que muda de um mês para outro.

Onde as fontes divergem

Por onde começar. A página da Anthropic oferece o caminho de começar pelo modelo barato e subir só se faltar capacidade. A mesma página afirma que a maior parte das cargas começa pelo Claude Opus 5.5, um dos modelos mais capazes da linha (Anthropic (em inglês)).
Esperar ou não. O lote da OpenAI promete entrega em até 24 horas. O Flex cobra o mesmo preço sem lote, mas avisa que pode faltar recurso. O desconto da DeepSeek não pede espera nenhuma, só o horário certo.
Estreito ou amplo. O NN/g mostra que recurso estreito é mais fácil de entender e adotar. A documentação da Anthropic indica os modelos mais capazes justamente para trabalho longo e aberto, como agentes que rodam por horas.

O erro comum

O erro clássico é escolher o modelo pela tabela de preço e o teto pelo extrato do mês. Um modelo fraco demais para a tarefa erra, e a conversa volta como retrabalho. Um teto só no provedor corta todo mundo de uma vez, sem aviso, no meio do mês. Antes de lançar, monte o teste com conversas reais, separe o que pode esperar do que precisa de resposta na hora e defina o teto por cliente, com aviso antes do bloqueio.