¿Qué es un token en inteligencia artificial?

Un token es el trozo de texto con el que trabaja internamente un modelo de lenguaje. No es exactamente una palabra ni una letra: es una unidad intermedia (una sílaba, una palabra corta, un signo) en la que el modelo descompone lo que lee y a partir de la cual genera lo que escribe. Como regla aproximada en español, un token equivale a unos tres o cuatro caracteres.

Sirve para medir y cobrar el uso de la IA. Cada modelo tiene un precio por cada mil o millón de tokens de entrada y de salida, así que entender el concepto te ayuda a controlar el gasto y a escribir prompts que no derrochen.

Cuando envías un prompt, el modelo lo convierte en tokens, calcula la respuesta token a token y te devuelve otro conjunto de tokens. Pagas por ambos lados: lo que mandas y lo que recibes. Por eso un prompt más largo o una respuesta más extensa cuestan más, y por eso conviene ser conciso y pedir respuestas al grano cuando no necesitas verbosidad.

El texto "Hola, ¿qué tal?" se parte en varios tokens. Si le pides a la IA un resumen de diez páginas, estás enviando miles de tokens de entrada, y si además pides una respuesta muy larga, multiplicas el coste de salida.

Va de la mano del prompt: cuanto mejor acotas lo que pides, menos tokens gastas para llegar al mismo resultado.