Qwen3.6-27B en local con una RTX 4090: qué cabe
Qwen3.6-27B es un modelo denso de 27B con licencia Apache 2.0. Calculamos qué cuantización cabe en 24 GB con 128K de contexto y damos los ajustes.
👁 114 lecturas
Qwen3.6-27B aparece ahora en todas partes donde alguien monta un asistente de programación en local. Pero no es un modelo nuevo: el repositorio Qwen/Qwen3.6-27B de Hugging Face se creó el 21 de abril de 2026 y el último cambio de archivos es del 24 de abril. Lleva medio año disponible, bajo su ficha cuelgan 754 cuantizaciones de la comunidad y en Ollama tiene su propia familia de etiquetas. Lo único nuevo es que cada vez más gente lo usa como ayudante de código en su equipo. No hemos medido su velocidad. Lo que sigue es un cálculo a partir de tamaños de archivo y configuración, no una medición.
Denso, no MoE
Qwen3.6-27B es de Alibaba (Qwen) y tiene licencia Apache 2.0, que permite uso comercial, modificación y redistribución. Tiene 27.000 millones de parámetros (27.800 millones en BF16) y es denso: todos están activos en cada token. Su hermano Qwen3.6-35B-A3B es un MoE con unos 3.000 millones de parámetros activos de 35.000 millones; puede ir más rápido, pero necesita más memoria para los pesos.
Lee texto, imágenes y vídeo. El contexto nativo es de 262.144 tokens y llega hasta 1,01 millones con YaRN, aunque Qwen avisa de que ampliarlo puede empeorar los resultados con textos cortos. Para el modo de razonamiento recomienda al menos 128K de contexto.
Por qué la caché KV se queda pequeña: DeltaNet
El modelo tiene 64 capas repartidas en 16 bloques. Cada bloque son tres capas Gated DeltaNet y una capa de atención estándar. DeltaNet es atención lineal: en lugar de guardar cada token, mantiene un estado de tamaño fijo. Así, solo 16 de las 64 capas tienen la caché KV que crece con el contexto. Eso es lo que hace realista meter 128K de contexto en una tarjeta de 24 GB.
Benchmarks del fabricante
Las cifras son de la ficha del modelo y no hemos visto que nadie las haya replicado de forma independiente. Para que se lean bien en el móvil, las dividimos en dos tablas.
| Benchmark | Qwen3.6-27B | Qwen3.5-27B | Qwen3.5-397B-A17B |
|---|---|---|---|
| SWE-bench Verified | 77,2 | 75,0 | 76,2 |
| Terminal-Bench 2.0 | 59,3 | 41,6 | 52,5 |
| SkillsBench Avg5 | 48,2 | 27,2 | 30,0 |
| GPQA Diamond | 87,8 | 85,5 | 88,4 |
| MMLU-Pro | 86,2 | 86,1 | 87,8 |
| Benchmark | Qwen3.6-27B | Gemma 4 31B | Claude Opus 4.5 |
|---|---|---|---|
| SWE-bench Verified | 77,2 | 52,0 | 80,9 |
| Terminal-Bench 2.0 | 59,3 | 42,9 | 59,3 |
| SkillsBench Avg5 | 48,2 | 23,6 | 45,3 |
| GPQA Diamond | 87,8 | 84,3 | 87,0 |
| MMLU-Pro | 86,2 | 85,2 | 89,5 |
Nuestra lectura: en programación con agentes, el 27B alcanza a su predecesor de 397B y empata con Claude Opus 4.5 en Terminal-Bench. Ojo, Opus 4.5 es de una generación anterior; el Opus 5.5 actual no aparece en la tabla. En conocimiento general (MMLU-Pro) apenas se mueve respecto a la 3.5. En código saca mucha ventaja a Gemma 4 31B, que analizamos en Gemma 4 31B en local con una RTX 4090.
Las cuentas de la VRAM
Esto es un cálculo nuestro, no una medición. Para los pesos usamos los tamaños reales de los GGUF de unsloth/Qwen3.6-27B-GGUF, en GB decimales. La tarjeta tiene 24 GiB, unos 25,8 GB. La caché KV: 16 capas de atención completa, 4 cabezas KV y dimensión de cabeza 256, lo que da en FP16 64 KiB por token, es decir, 2,15 GB con 32K, 8,59 GB con 128K y 17,18 GB con los 262K completos. Con q8_0 se queda en más o menos la mitad: 1,14 / 4,56 / 9,13 GB. El estado fijo de DeltaNet ocupa unos 0,15 GB. Reservamos 1,5 GB para el controlador, el escritorio de Windows y los búferes de cálculo (suposición nuestra). Quedan unos 24,3 GB útiles. Si quieres repasar cómo funcionan los niveles de cuantización, lo explicamos en cuantización GGUF.
| Variante | Archivo | Con 128K (q8_0) | Veredicto |
|---|---|---|---|
| Q3_K_M | 13,59 GB | 18,3 GB | cabe incluso con 262K completos (22,9 GB) |
| IQ4_XS | 15,44 GB | 20,2 GB | sí; contexto completo, no (24,7 GB) |
| Q4_K_M | 16,82 GB | 21,5 GB | sí; con caché FP16, no (25,6 GB) |
| UD-Q4_K_XL | 17,61 GB | 22,3 GB | sí, también con el módulo de visión (23,3 GB) |
| Q5_K_M | 19,51 GB | 24,2 GB | al límite; más seguro con 64K (21,9 GB) |
| Q6_K | 22,52 GB | 27,2 GB | solo contexto corto de 32K (23,8 GB) |
| Q8_0 | 28,60 GB | - | no cabe |
El módulo de visión (mmproj F16) añade 0,93 GB y solo hace falta para imágenes o capturas de pantalla.
Nuestra recomendación
Q4_K_M o UD-Q4_K_XL con 128K de contexto y caché KV en q8_0. Así cumples la recomendación de contexto de Qwen para el razonamiento y te sobran unos cuantos GB. Q5_K_M compensa para tareas más cortas. Elegir Q6_K es renunciar al contexto largo, o sea, al trabajo de agente sobre un repositorio entero.
Ajustes para Ollama y llama.cpp
En Ollama, la etiqueta por defecto qwen3.6:27b ocupa 18-19 GB y qwen3.6:27b-q4_K_M, 17 GB. Para contexto largo activa flash attention y la caché cuantizada, y fija la longitud con OLLAMA_CONTEXT_LENGTH. Si dudas entre herramientas, las comparamos en Ollama vs LM Studio.
OLLAMA_FLASH_ATTENTION=1
OLLAMA_KV_CACHE_TYPE=q8_0
OLLAMA_CONTEXT_LENGTH=131072
ollama run qwen3.6:27b-q4_K_MEn llama.cpp, los parámetros equivalentes son:
-c 131072 -fa on -ctk q8_0 -ctv q8_0No damos cifras de velocidad porque no las hemos medido. Si no necesitas el módulo de visión, no lo cargues y ganarás casi un giga para contexto.
Preguntas frecuentes
¿Funciona en una tarjeta de 16 GB?
Solo muy comprimido. Q3_K_M, con 13,59 GB, deja poco sitio para el contexto. UD-IQ2_M, con 10,85 GB, deja más, a costa de calidad.
¿Puedo usar la versión BF16 completa?
La variante bf16 de Ollama ocupa 56 GB. En una sola tarjeta de consumo no cabe sin cuantizar.
¿Es un modelo nuevo?
No, está disponible desde abril de 2026. Lo nuevo es su popularidad como asistente de código local.
¿Puedo usarlo con fines comerciales?
Sí. Apache 2.0 permite uso comercial, modificación y redistribución.
¿Para qué sirve el módulo de visión?
Para que el modelo lea imágenes o capturas. Suma 0,93 GB.
Más modelos para tu equipo en IA local.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →Fuentes - consultadas el 1 de noviembre de 2026
- Hugging Face: ficha de Qwen3.6-27B (consultado el 1/11/2026)
- Hugging Face API: fechas del repositorio, licencia, parámetros (consultado el 1/11/2026)
- Hugging Face: config.json (consultado el 1/11/2026)
- Hugging Face: unsloth/Qwen3.6-27B-GGUF (consultado el 1/11/2026)
- Ollama: etiquetas de qwen3.6 (consultado el 1/11/2026)
- Gigazine: Qwen3.6-27B (23/04/2026)
More on this from FULGOR
noticias·Falsos diarios locales se cuelan en ChatGPT37 webs registradas en una sola tarde se hacen pasar por prensa local y acaban citadas por ChatGPT. Qué descubrió NPR y cómo comprobar una fuente.