Streaming

El streaming es el modo en que el modelo envía la respuesta en tiempo real, token a token, en lugar de esperar a generar todo antes de mostrar nada. Gracias a él, los chats "escriben" en pantalla como una persona al teclado. Más allá del efecto visual, el streaming tiene valor práctico: el usuario empieza a leer de inmediato, por lo que la latencia percibida baja, y las respuestas largas se pueden interrumpir a mitad, ahorrando tiempo y costes. En las API es una opción estándar al construir aplicaciones propias.