Diccionario IA / LoRA
🏗️ Modelos y entrenamiento
LoRA
Método ligero de ajuste del modelo - una pequeña "capa" en lugar de reentrenar todo.
LoRA (Low-Rank Adaptation) es una técnica económica de ajuste: en lugar de modificar miles de millones de parámetros del modelo, se entrena una pequeña "capa" que cambia su comportamiento. El resultado pesa megabytes en lugar de gigabytes y se entrena en una sola tarjeta gráfica. LoRA causó furor especialmente en la generación de imágenes - la comunidad crea miles de capas que enseñan al modelo un estilo, personaje o producto concreto. En modelos de lenguaje es una forma popular de adaptar económicamente un modelo abierto a tus propias necesidades.
Conceptos relacionados