Costo de IA por conversación: modelo, horario y tope mensual

El costo de IA de una conversación depende de cuatro decisiones: qué modelo atiende cada tarea, cuánto contexto se reutiliza, en qué horario o cola corre la llamada y qué tope contiene el gasto del mes. El modelo más barato que aprueba tus propias pruebas resuelve la mayor parte. La caché y el precio fuera de hora pico recortan el resto, y el tope evita que un cliente o un error de código lleve la cuenta más allá de lo acordado.

De dónde sale el costo de una conversación

Las API de modelos cobran por token, la unidad mínima de texto que lee el modelo. La página de precios de DeepSeek (en inglés) lo resume: el gasto es el número de tokens por el precio. La entrada y la salida tienen precios distintos. En la tabla de Anthropic, el token de salida de Claude Haiku 4.5 cuesta cinco veces el de entrada.

En una conversación, la entrada crece con cada turno. Cada llamada nueva suele llevar otra vez las instrucciones del sistema y el historial, como describe la documentación de caché de Anthropic. Por eso la misma pregunta cuesta más en el décimo turno que en el primero.

Antes del modelo, el alcance

El artículo de NN/g sobre el alcance de las funciones de IA generativa (en inglés) plantea cuatro preguntas antes de diseñar cualquier función de IA:

¿Qué problema del usuario resuelve la función?
¿Cómo ayuda al negocio resolverlo?
¿La IA es de verdad la mejor solución?
¿Qué tan completos, limpios y estructurados son los datos que entran al modelo?

La tercera pregunta también es de costo. Un paso con regla fija, como enviar un mensaje a una hora programada, puede correr sin llamar a ningún modelo.

El mismo artículo muestra que una función de alcance estrecho restringe el tipo y el tamaño de la entrada que acepta. Para el usuario, eso deja más claro el propósito. Para la cuenta, significa solicitudes más pequeñas y tareas parecidas entre sí, que suelen caber en un modelo menor.

Un modelo por tarea

La documentación de Anthropic sobre cómo elegir un modelo (en inglés) describe dos puntos de partida. En el primero, empiezas por el modelo más rápido y barato, lo pruebas y solo subes si falta capacidad. En el segundo, empiezas por el más capaz, ajustas las instrucciones y después intentas bajar. El primero se recomienda para tareas simples y de mucho volumen, y el segundo para razonamiento complejo.

En una conversación de atención, las tareas no pesan lo mismo. Clasificar la intención del mensaje, extraer un horario y resumir el día son trabajos distintos de responder una objeción. La misma página sugiere combinar modelos: uno barato hace el grueso del trabajo y deriva la decisión difícil a uno más fuerte, y así la mayoría de los tokens se paga al precio menor.

Lo que decide el cambio son las pruebas con casos reales. La documentación pide un conjunto de casos de tu propio uso, con tus instrucciones y tus datos, comparando acierto, calidad y casos límite. También recuerda que ajustar el parámetro de esfuerzo, en los modelos que lo tienen, muchas veces compensa más que cambiar de modelo.

Caché para el comienzo que se repite

Las instrucciones del sistema y el comienzo del historial se repiten en cada llamada de la conversación. La tabla de precios de Anthropic (en inglés) cobra la lectura de ese tramo desde la caché al 10% del precio normal de entrada, o menos en algunos modelos. Guardarlo en caché por cinco minutos cuesta 1,25 veces el precio base, y por una hora, el doble. Según la cuenta de la propia página, la caché de cinco minutos se paga desde la primera lectura.

La caché guarda el prefijo de la solicitud. En la práctica, conviene dejar fijo lo que va primero, como las instrucciones y el contexto del negocio, y poner al final lo que cambia.

Horario y cola: lo que puede esperar

Tres mecanismos cambian espera u horario por precio:

Lote. La Batch API de OpenAI (en inglés) cobra 50% menos y entrega cada lote en hasta 24 horas. La tabla de Anthropic da el mismo descuento del 50% en el procesamiento por lotes.
Cola flexible. El modo Flex de OpenAI (en inglés) cobra precio de lote en llamadas comunes, a cambio de respuestas más lentas y de falta ocasional de recursos. La documentación lo recomienda para tareas de baja prioridad y asíncronas.
Fuera de hora pico. DeepSeek cobra la mitad fuera de la hora pico. El pico va de 01:00 a 04:00 y de 06:00 a 10:00 UTC, en días hábiles. En hora de Brasilia, eso es de 22:00 a 01:00 y de 03:00 a 07:00.

La cuenta cambia según el huso horario. Para quien atiende en horario comercial de Brasilia, toda la jornada cae fuera del pico de DeepSeek. Los precios pueden cambiar, y la propia página recomienda revisarlos con frecuencia.

El límite real es la paciencia de quien está del otro lado. El texto de Jakob Nielsen sobre los tres límites del tiempo de respuesta (en inglés) fija en 10 segundos el techo para mantener la atención en el diálogo. Pasado ese tiempo, la persona se pone a hacer otra cosa y necesita saber cuándo llega la respuesta. El mensaje de un cliente no puede esperar un lote de 24 horas. El resumen del día, la hoja de cálculo de la semana y la relectura de conversaciones viejas sí pueden. Cómo mostrar la espera en pantalla está en el texto sobre estados de carga y vacío.

Tope mensual: el límite del proveedor y el tuyo

El proveedor ya trae un límite. En Anthropic, cada nivel de uso tiene un tope de gasto mensual (en inglés), y la organización puede definir uno menor. También se puede poner un límite por workspace, que separa proyectos dentro de la misma cuenta. Cuando se alcanza el tope del nivel, la API se detiene hasta el primer día del mes siguiente y devuelve un error 429. Cuando es el límite que definiste tú, el error es 400 e indica cuándo vuelve el acceso.

Ese límite protege la cuenta, pero llega demasiado tarde para el producto. Corta todo de una vez y no sabe qué cliente gastó. Un tope por cliente, dentro de la aplicación, resuelve las dos cosas: avisa antes de que se acabe y bloquea solo a quien pasó de lo acordado.

El bloqueo también es una pantalla. La guía de NN/g para chatbots de sitios web (en inglés) recomienda un asistente que se identifica, resuelve lo que puede y deriva a una persona cuando no puede. Un asistente que llegó al tope entra en ese caso, y quien mandó el mensaje necesita un camino hasta alguien del equipo.

Cómo quedó en Vexor

En mi producto, Vexor, cada conversación de WhatsApp pasa por un asistente de IA, y el costo por conversación quedó en centavos con tres decisiones. El modelo se elige por tarea. La franja de menor precio del proveedor se usa cuando el horario lo permite. Y cada cliente tiene un tope mensual con aviso y bloqueo automático.

Medí cerca de R$ 0,015 (reales brasileños) por conversación con el modelo intermedio. Con el modelo de menor precio, fuera de hora pico, el costo quedó por debajo de un centavo de real.

De las tres decisiones, el tope es la que más pesa para quien contrata. El aviso llega antes, y el bloqueo automático impide que el gasto pase de lo acordado. Sin él, el precio del mes dependería del volumen de conversaciones, que cambia de un mes a otro.

Dónde las fuentes no coinciden

Por dónde empezar. La página de Anthropic ofrece el camino de empezar por el modelo barato y subir solo si falta capacidad. La misma página afirma que la mayoría de las cargas empieza con Claude Opus 5.5, uno de los modelos más capaces de la línea (Anthropic (en inglés)).
Esperar o no. El lote de OpenAI promete entrega en hasta 24 horas. Flex cobra el mismo precio sin lote, pero advierte que pueden faltar recursos. El descuento de DeepSeek no pide ninguna espera, solo el horario correcto.
Estrecho o amplio. NN/g muestra que una función estrecha es más fácil de entender y adoptar. La documentación de Anthropic recomienda los modelos más capaces justamente para trabajo largo y abierto, como agentes que corren durante horas.

El error común

El error clásico es elegir el modelo por la tabla de precios y el tope por el extracto del mes. Un modelo demasiado débil para la tarea se equivoca, y la conversación vuelve como retrabajo. Un tope que solo existe en el proveedor corta a todos de una vez, sin aviso, en mitad del mes. Antes de lanzar, arma la prueba con conversaciones reales, separa lo que puede esperar de lo que necesita respuesta inmediata y define el tope por cliente, con aviso antes del bloqueo.