¿Cuánto cuesta tu IA? La cuenta en tokens que casi nadie hace

Tu empresa encendió una funcionalidad de IA. Funciona, a todos les gusta, y entonces llega la factura: más alta de lo esperado, y nadie puede explicar exactamente qué la hizo subir. Bienvenido al punto ciego más común de la adopción de IA: el costo, que casi nadie mide.

La buena noticia es que ese costo no es un misterio. Tiene una unidad, esa unidad se puede contar, y el simple acto de contarla cambia cómo decides. Vamos por partes.

01El medidor que nadie enciende

El software tradicional tiene un costo relativamente estable: una vez listo, ejecutarlo cuesta más o menos lo mismo, lo use quien lo use. La IA generativa es diferente — cada llamada tiene un costo variable que depende de cuánto texto entra y sale. Pagas por uso, todo el tiempo.

El problema es que casi nadie enciende el medidor por funcionalidad. Se conoce el total de la factura a fin de mes, pero no cuánto consumió cada recurso de IA: cuál funcionalidad es barata, cuál está saliendo cara, cuál se disparó después de un cambio. Sin eso, optimizar es disparar a ciegas.

02La unidad es el token

El token es el fragmento de texto que procesa un modelo de lenguaje — más o menos una palabra (a veces menos). Todo lo que entra al modelo (el prompt, el contexto, tus documentos) y todo lo que sale (la respuesta) se cuenta en tokens. Y es en tokens donde se miden el costo y el límite de la IA.

Eso cambia la forma de pensar: una funcionalidad "simple" que inyecta un documento completo de contexto en cada llamada puede costar mucho más que una funcionalidad "compleja" bien ajustada. Lo que importa no es la apariencia de la funcionalidad — es cuántos tokens mueve.

03Por qué estimar no basta

La tentación es estimar: "debe costar unos centavos por uso". El problema es que las estimaciones de tokens fallan mucho — hacia arriba y hacia abajo — porque el consumo depende de detalles invisibles: el tamaño del contexto, cuántas veces se llama al modelo por operación, si hay reintentos, si el historial de la conversación crece con cada mensaje.

Una sola operación que parece una pregunta puede, por debajo, disparar decenas de llamadas al modelo. Sin medir, lo descubres en la factura — tarde, y sin saber dónde intervenir.

04Qué cambia cuando mides

Cuando el costo en tokens es visible por funcionalidad, tres cosas se vuelven posibles. Recortas el desperdicio (ese contexto gigante que no necesitaba ir incluido). Activas el caché: reutilizar partes repetidas de los prompts recorta una porción enorme de la cuenta. Y decides con números: ¿vale la pena esa funcionalidad de IA al costo real que tiene, o un camino determinístico lo resuelve más barato?

Nada de eso es posible a ciegas. Por eso medir el token no es un capricho de ingeniero: es la diferencia entre una IA que se paga sola y una IA que sangra dinero en silencio.

05Cómo lo hacemos

En ZDZCloud, el costo de IA no es una estimación: es telemetría. Cuando construimos con nuestra fábrica de agentes, medimos el consumo token por historia, no por intuición.

Un ejemplo real: un sprint de 8 historias de nuestro producto Pet Planner consumió 385 llamadas de LLM y 3,28 millones de tokens de entrada — con 71% de cache hit. Ese 71% no apareció por suerte: apareció porque la cuenta se estaba midiendo, y lo que se mide se optimiza. Es la misma disciplina que llevamos al costo de IA de cualquier producto que construimos.

Una buena IA no es la que usa más modelo: es la que entrega el resultado al menor costo por token que este exige. Y eso empieza por algo banal y raro: encender el medidor.