Gemma 4 31B en local con RTX 4090: VRAM, velocidad y análisis

fulgor@ai:~$ cat news_1 › Gemma 4 31B de Google es el modelo denso con pesos abiertos más potente que cabe por completo en una sola tarjeta RTX 4090.

fulgor@ai:~$ cat news_2 › Lo hemos ejecutado en Ollama en nuestro equipo de pruebas: genera unos 42 tokens por segundo, obtuvo un 9,5 sobre 10 en nuestras pruebas en polaco, pero ocupa casi los 24 GB de memoria de la gráfica y resulta implacable con discos lentos.

fulgor@ai:~$ cat news_3 › Es la primera entrega de nuestra serie sobre modelos abiertos en local para tu ordenador.Estado a 8 de octubre de 2026Modelo: gemma4:31b-it-qat en Ollama 0.40.1 (versión con cuantización posterior al entrenamiento, archivo de 17,65 GB + 1,2 GB del módulo de imagen).Licencia: Apache 2.0 (permite uso comercial).Velocidad: 40,7-43,4 tok/s de generación, aprox.

fulgor@ai:~$ cat news_4 › 870-1240 tok/s en lectura del prompt.Memoria gráfica: 19,2 GB según Ollama, pico de 24,0 GB en toda la GPU (nvidia-smi).Pruebas en polaco: 9,5/10 en nuestras 5 tareas de evaluación.Descarga: 40 min 41 s.

Gemma 4 31B en local con RTX 4090: VRAM, velocidad y análisis

fulgor@ai:~$ open --full Leer completo Abrir artículo en elfulgor.es