FULGOR_
Herramientas de IA

basal-omni local: Ollama, llama.cpp y Mac

fulgor@ai:~$ cat news_1

› basal-omni es un modelo de decisión de Remek Kinas: no redacta textos, sino que elige una respuesta de una lista e indica su nivel de confianza.

fulgor@ai:~$ cat news_2

› Desde el 19 de octubre, las versiones más pequeñas se pueden ejecutar sin una GPU de servidor, con Ollama, llama.cpp o en un Mac.

fulgor@ai:~$ cat news_3

› Lo probé en mi RTX 4090 con la versión mini en formato GGUF y el mismo conjunto de consultas en polaco que había usado para evaluar Jev y otros modelos de decisión.

fulgor@ai:~$ cat news_4

› Aquí tienes los pasos que me funcionaron, los requisitos de hardware y los resultados.En resumen (prueba del 19-10-2026)basal-omni-1.0-mini Q8_0: archivo de 7,9 GB; Ollama ocupó 5,1 GB de memoria de la GPU.Categoría: 42 de 47 consultas en polaco; urgencia: 47 de 50; selección de herramienta: 10 de 10.Mediana de 137 ms por decisión; prueba completa (60 consultas) en 20 segundos.Ollama por sí solo no basta: para obtener respuestas con probabilidades hace falta el motor basal-serve.En Mac: versión MLX mini (8,6 GB) o GGUF Q8_0 en un Mac con 16 GB de memoria.Qué versión elegir según tu equipoTodos los archivos están en la cuenta de Remek en Hugging Face y tienen licencia Apache-2.0.

fulgor@ai:~$ open --full
Leer completo

basal-omni local: Ollama, llama.cpp y Mac

Abrir artículo en elfulgor.es