¿Qué es una Context Window?

Una Context Window o Ventana de Contexto es la cantidad máxima de texto, tokens, o información que un modelo de IA puede procesar y considerar simultáneamente cuando entiende entrada y genera respuestas. Representa la capacidad de "memoria de trabajo" del modelo.

Las ventanas de contexto definen cuánto historial conversacional, contenido de documento, o información de fondo puede mantener conciencia una IA, impactando directamente la calidad y relevancia de respuestas en interacciones más largas.

Las ventanas de contexto funcionan como un buffer deslizante - cuando información nueva excede el tamaño de la ventana, información más antigua se "olvida" para hacer espacio. Ventanas de contexto más grandes permiten conversaciones de forma larga más coherentes y procesamiento de documentos.

Un modelo con una ventana de contexto de 4,000 tokens puede procesar aproximadamente 3,000 palabras a la vez. En una conversación larga, solo recordará los intercambios más recientes que quepan dentro de este límite, potencialmente olvidando contexto anterior.

Conectado con Tokens, Arquitectura de Modelos, Sistemas de Memoria, Modelos de Contexto Largo, y Eficiencia Computacional en IA.