Diccionario IA / Ventana de contexto
⚙️ Technika
Ventana de contexto
Cuánto texto "ve" el modelo de una vez. Ventana mayor = puedes pegar documentos más largos.
La ventana de contexto es la cantidad máxima de texto (medida en tokens) que el modelo "ve" simultáneamente: tu prompt, materiales pegados, la conversación hasta el momento y su propia respuesta. Lo que no cabe, el modelo simplemente no lo conoce; de ahí el "olvido" del inicio de conversaciones largas. Las ventanas actuales alcanzan cientos de miles, y en algunos modelos incluso un millón de tokens, lo que permite meter un libro entero o un repositorio de código. En la práctica, sin embargo, la calidad del trabajo del modelo puede ser irregular en contextos muy largos; es mejor colocar la información clave al principio o al final del material.