Diccionario IA / Guardrails

🛡️ Seguridad y calidad

Los guardrails (barandillas) son protecciones que limitan el comportamiento del modelo: un conjunto de reglas, filtros y técnicas de entrenamiento que buscan prevenir contenidos dañinos, ilegales o simplemente incompatibles con el propósito de la aplicación. Por ellas el modelo se niega a escribir instrucciones de allanamiento o consejos para dañar a alguien. Las barandillas funcionan en varios niveles: en el entrenamiento (el modelo aprende a negarse), en los system prompts y en filtros externos que revisan entrada y salida. Su calibración es un compromiso eterno - demasiado laxas dejan pasar daños, demasiado estrictas rechazan peticiones inocentes.