¿Qué es la ventana de contexto de un modelo y por qué importa?

La ventana de contexto es la cantidad total de texto que un modelo puede tener en cuenta a la vez: tus mensajes, los archivos adjuntos, la conversación anterior y la respuesta que está escribiendo. Se mide en tokens, no en palabras, y funciona como una memoria de trabajo, distinta de lo que el modelo aprendió en el entrenamiento.

Importa por tres motivos prácticos:

• Límite. Lo que no cabe hay que recortarlo o resumirlo. Los modelos punteros actuales anuncian alrededor de 1 millón de tokens: GPT-6 y GPT-6.1 1.050.000, Gemini 4 Argon 1.048.576, Claude Opus, Sonnet y Haiku 5.5 1.000.000 (catálogo de OpenRouter).
• Coste. En la API se paga cada token de entrada, así que enviar un historial largo en cada petición encarece todas las peticiones.
• Calidad. Más contexto no es automáticamente mejor. La documentación de Anthropic señala que la precisión y la capacidad de recordar empeoran a medida que crece el número de tokens (lo llama «context rot»), por lo que conviene incluir solo lo que la tarea necesita.

Las apps de chat como claude.ai pueden gestionar la ventana por su cuenta, y esa es una de las razones por las que una conversación muy larga puede perder de vista los detalles del principio.