Diccionario IA / Jailbreak

🛡️ Seguridad y calidad

El jailbreak es un intento de eludir las protecciones del modelo mediante un prompt ingeniosamente construido: juegos de rol, escenarios hipotéticos, múltiples reformulaciones - todo para que el modelo haga algo que según las reglas no debería hacer. Entre creadores de protecciones y quienes las rompen hay una carrera constante; los trucos publicados dejan de funcionar rápido, aparecen nuevos. Para empresas que implementan IA la conclusión es práctica: no hay que asumir que las barandillas del modelo son infranqueables - las restricciones críticas deben aplicarse también fuera del propio modelo.