Diccionario IA / RLHF

🏗️ Modelos y entrenamiento

RLHF (Reinforcement Learning from Human Feedback) es una etapa de entrenamiento en la que el modelo aprende de valoraciones humanas: las personas comparan diferentes respuestas del modelo, señalan las mejores, y el algoritmo ajusta el modelo para que genere más a menudo las preferidas. Precisamente RLHF y técnicas similares transformaron los "predictores de texto" en bruto en asistentes útiles que responden preguntas en lugar de continuarlas, rechazan peticiones dañinas y mantienen un tono educado. El precio a veces es que el modelo se vuelve excesivamente complaciente y da la razón al usuario.