Modelos de decisión vs. LLM pequeños: coste, velocidad y precisión

👁 119 lecturas

En el Decision Index, los modelos de decisión responden entre 3 y más de 20 veces más rápido que los LLM pequeños, pero Claude Haiku 5.5 (low) obtiene una puntuación global superior a la de cualquiera de ellos. El coste no sigue una regla sencilla: depende del modelo concreto y de cuántos tokens de salida pagues en el LLM. Aquí reúno las mediciones de Artificial Analysis, los precios de las API y un cálculo transparente basado en tokens.

Datos actualizados a 13.10.2026. Aquí, «LLM pequeños» se refiere a las variantes más baratas de las ofertas de los proveedores (Haiku, Luna, Flash y Gemma), no a modelos con un número de parámetros confirmado. En la guía Modelos de decisión de IA explico qué es un modelo de decisión y quién encabeza la clasificación. El cálculo del ahorro por millón de clasificaciones y la calculadora de cascadas están en la guía Un modelo de decisión en lugar de un LLM. Aquí me centro en comparar los LLM pequeños con los modelos de decisión.

Primero, compara la misma tarea

Un modelo de decisión devuelve una opción y la probabilidad de cada alternativa. En el Decision Index, un modelo de lenguaje convencional recibe las mismas tareas, pero responde en un formato JSON obligatorio. Así, ambos tipos de modelo resuelven preguntas idénticas, aunque generen la respuesta de forma distinta (metodología de AA).

Por eso no conviene comparar el Decision Index de un modelo con el Intelligence Index de otro: son escalas distintas, aunque ambas aparezcan en la web de Artificial Analysis. Fíjate también en la configuración junto al nombre del LLM: para AA, Haiku 5.5 en las variantes low, medium, high, xhigh y max ocupa cinco filas distintas, con puntuaciones, costes y tiempos diferentes.

Y una cosa más: acertar la categoría no equivale a responder al cliente. Si tu proceso requiere redactar una justificación o un mensaje después de tomar la decisión, tendrás que añadir una fase de generación de texto. Comparar un clasificador aislado con una respuesta de texto completa cambia lo que se está midiendo.

Puntuación, coste y tiempo según AA

Fuente: clasificación Decision Index de AA, consultada el 13.10.2026, con la comparación de modelos de lenguaje activada. Incluye los 11 modelos de decisión de la clasificación y una selección de LLM pequeños. Las mejores cifras de cada columna están en negrita. La fila de Gemini indica que faltan datos, no que su resultado sea cero.

AA calcula el coste a partir del uso de tokens y los precios vigentes, y después convierte el coste medio por tarea en un coste por millón. Los modelos de decisión solo pagan por la entrada; los LLM pagan por la entrada y la salida. El tiempo es la mediana de las tareas del índice. Por tanto, el coste no es una tarifa para «un millón de decisiones cualesquiera», sino el cálculo para un conjunto concreto de preguntas.

Qué se desprende de la tabla:

• Haiku 5.5 (low) gana en puntuación: supera a Jev por 3,1 puntos, pero, según AA, es unas 11 veces más lento y 4,4 veces más caro.
• La categoría no garantiza un precio más bajo: Clef cuesta más que Haiku 5.5 (low) y GPT-6 Luna (low), aunque responde más rápido. Clef-Omni es más caro que Luna en la variante non-reasoning.
• Un LLM más grande no implica mejores decisiones: Gemma 4 31B con razonamiento es el más caro y lento de la comparación, y apenas supera a Luna (low) en puntuación.
• Las opciones más baratas: según AA, Decider v1.1 27B, Microsoft-Decision-1 y Jev 1.13 están en la frontera de eficiencia, es decir, ofrecen la mejor puntuación para su precio.

La precisión depende del tipo de decisión

La puntuación más alta del índice no implica una ventaja en todos sus componentes. Según el análisis de AA, los LLM destacan por sus conocimientos, mientras que los mejores modelos de decisión los igualan o superan en clasificación de seguridad y decisiones sobre el uso de herramientas.

Fuentes de las cifras, consultadas el 13.10.2026: gráficos de AA para AA-Omniscience-Decision, HLE-MultiChoice, When2Call y WildGuardTest. La última columna reúne los mejores resultados de modelos distintos, así que no describe un único sistema. En el artículo sobre la clasificación Decision Index explico cómo se ha construido el índice y qué mide cada prueba.

En la práctica, si la tarea consiste en asignar un mensaje a una categoría bien definida o en elegir el siguiente paso de un agente, un modelo de decisión es una opción seria. Si la decisión requiere conocimientos que no están en la consulta, un LLM pequeño tiene una ventaja clara. Es una orientación para elegir los datos de prueba, no una promesa de que obtendrás la misma eficacia en tu empresa.

Precios de API: una tabla y unidades distintas

Fuentes de precios, consultadas el 13.10.2026: Anthropic, OpenAI, Google y Cloudflare; los precios de los modelos de decisión son los de sus proveedores, recopilados en la guía. Las tarifas de Haiku y Luna coinciden con el coste que OpenRouter me cobró por las consultas de la prueba del 13.10. La tabla no incluye caché, descuentos por lotes ni recargos por procesamiento en la UE.

Ten en cuenta que Google indica que las tarifas de Gemini 3.8 Flash, 0,75 USD por la entrada y 3,75 USD por la salida, se aplican hasta finales de 2026. Comprueba el precio vigente antes de calcular el coste para el año siguiente. Con todos los LLM, verifica también si la entrada supera el umbral de contexto largo, a partir del cual se aplican otras tarifas.

Cuánto cuesta un millón de tareas con supuestos explícitos

Este es un escenario, no un benchmark. Supongo un millón de llamadas con 1000 tokens de entrada facturables cada una. Para los LLM comparo 50 y 500 tokens de salida facturables por tarea, incluido el razonamiento de pago. Es un consumo supuesto, no una previsión de la longitud de respuesta de ningún modelo.

Coste de 1 millón de tareas en EUR =
tokens de entrada por tarea * precio por 1 millón de tokens de entrada
+ tokens de salida por tarea * precio por 1 millón de tokens de salida

Haiku, variante con 50 tokens de salida:
1000 * 0,0893 + 50 * 0,4466 = 111,61 EUR (125 USD)

Cálculos propios a partir de las tarifas del 13.10.2026. Los modelos de decisión no generan texto, así que su coste no depende del presupuesto de salida. La negrita señala el coste más bajo de cada escenario, no el ganador en calidad.

• Con una salida corta, Haiku y Luna cuestan menos que Clef en Workers AI; con una salida más larga, la relación se invierte.
• En este cálculo, Gemini 3.8 Flash cuesta 7,5 veces más que Haiku y Luna, con ambos presupuestos de salida.
• Si necesitas tokens de salida adicionales para una justificación, el modelo de decisión no la sustituye: tendrás que añadir otra llamada a un modelo que genere texto.

Usar 1000 tokens para todos es una simplificación: cada tokenizador cuenta el mismo texto de manera distinta. En mi prueba, una consulta de cliente en polaco con preguntas tuvo entre unos 205 tokens en Mercury Decide y unos 650 en Jev, mientras que Haiku recibió una media de 782 tokens de entrada con la instrucción y el esquema JSON. Por eso, en una comparación real, registra el consumo que indica la API en lugar de estimarlo a partir de la longitud del mensaje.

Latencia: cuánto se tarda en obtener una decisión

En una clasificación importa el momento en que la aplicación puede ejecutar el paso siguiente. El primer carácter de un JSON que acaba de empezar todavía no es una decisión, así que el tiempo hasta el primer token y la velocidad de generación no sustituyen a la medición de la respuesta completa.

Mi prueba del 13.10.2026, realizada con consultas desde Polonia a través de OpenRouter y, por tanto, con latencia de red, confirma la tendencia observada por AA:

• Modelos de decisión: mediana de 310-619 ms, desde el más rápido, Clef-Omni, hasta el más lento, Mercury Decide.
• GPT-6 Luna (low): 1371 ms.
• Claude Haiku 5.5 (low): 1689 ms.
• Gemini 3.8 Flash: en una prueba independiente del 5.10.2026 mediante API, la mediana fue de 1822 ms en 30 consultas de clientes en polaco (departamento correcto en 30/30; urgencia correcta en 26/30). Era otro conjunto de pruebas y otro día, así que no añado esta cifra a la tabla de AA.

La mediana indica el centro de la distribución, no las respuestas más lentas que esperan los usuarios. En tus propias pruebas, registra también la cola de latencia, los errores y los reintentos. En la guía de costes calculo cuántas horas hacen falta para procesar un millón de decisiones una tras otra y qué efecto tienen los límites de solicitudes.

Precisión en polaco: el LLM pequeño aún va por delante

En 47 consultas de clientes en polaco con una categoría inequívoca, los modelos de decisión acertaron el departamento en 41-44 casos, mientras que Claude Haiku 5.5 (low) y GPT-6 Luna (low) lo hicieron en 45. Con una muestra tan pequeña, una diferencia de uno a tres casos está cerca del ruido, pero coincide con AA: en la clasificación sencilla, los LLM pequeños tienen una ligera ventaja, que se paga en tiempo y precio. La guía recoge los resultados completos de los 11 modelos.

Qué variante elegir

• Modelo de decisión: cuando el resultado debe ser una etiqueta o una acción y tienes miles de decisiones. Prueba los candidatos con los mismos ejemplos y utiliza las probabilidades para derivar los casos dudosos a otra fase.
• Claude Haiku 5.5: cuando necesitas combinar la decisión con texto o con conocimientos que no aparecen en la consulta. La variante low obtiene la puntuación más alta de esta comparación, pero responde más de 10 veces más despacio que los modelos de decisión más rápidos.
• GPT-6 Luna: entre las variantes comparadas, logra la mayor precisión en preguntas de conocimiento (66,0), pero en esta prueba prácticamente nunca responde «no lo sé» (0,0), así que tiende más a adivinar. Mantén separadas las filas low, non-reasoning y Decisions: son tres resultados, costes y tiempos distintos.
• Gemini 3.8 Flash: necesita una prueba propia que permita compararlo con los demás. Su tarifa permite calcular escenarios, pero no rellena el dato que falta en el Decision Index.

Preguntas frecuentes

¿Un modelo de decisión siempre es más barato que un LLM pequeño?

No. En la medición de AA, Clef cuesta 178,12 € (199,4 USD) por millón de tareas, más que Claude Haiku 5.5 (low) y GPT-6 Luna (low). Importan el modelo concreto, la longitud de la entrada y el coste de la salida.

¿Un millón de tokens equivale a un millón de tareas?

No. Una tarea consume entre varios cientos y varios miles de tokens. El coste de un millón de tareas se calcula multiplicando el precio por token por el consumo medido o supuesto de forma explícita.

¿Gemini 3.8 Flash pierde en el Decision Index?

No hay motivos para concluirlo. A 13.10.2026, Gemini 3.8 Flash no tenía puntuación en el índice. La ausencia de una medición no es una derrota.

¿GPT-6 Luna y GPT-6 Luna Decisions tienen el mismo resultado?

No. AA muestra por separado el modelo de lenguaje (low: 55,2 puntos; non-reasoning: 49,6) y la variante Decisions (48,5 puntos). Cada uno tiene su propio coste y tiempo.

¿La puntuación del índice equivale al porcentaje de decisiones correctas?

No. Es una combinación de cuatro métricas distintas. Para un caso de uso concreto, elige el componente que corresponda y prueba el modelo con datos representativos.

Declaración de intereses: conozco Jev por una evaluación anterior. En septiembre escribí un cliente API sencillo para usarlo con mis propias herramientas editoriales. TypeSafe no encargó ni pagó este artículo. Mi valoración se basa en mediciones independientes de Artificial Analysis y en mi prueba, en la que todos los modelos recibieron las mismas tareas.

Pruebas propias: 13.10.2026 (50 consultas de clientes en polaco, 11 modelos a través de OpenRouter desde Polonia) y 5.10.2026 (30 consultas de clientes en polaco, incluida Gemini 3.8 Flash mediante API). Las consultas y pruebas se hicieron en polaco; los ejemplos y resultados descritos aquí no representan una prueba en español. Los importes en euros son estimaciones convertidas desde USD, no precios locales de contratación. Conversión con el tipo de referencia del BCE del 14.10.2026: 1 EUR = 1,1195 USD. Fuente: BCE.

// sigue leyendoEnrutamiento de tickets con IA: modelo decisional en PythonGuías1.1.1.1 vs 8.8.8.8: comparamos la velocidad de 10 servidores DNSBenchmarksTechCrunch publica glosario de términos de IA con el concepto ‘opaque recurrence’ del nuevo modelo Astra de OpenAIBenchmarks

Kinetyra