Por qué la IA nunca aprenderá a decir no de forma fiable
Un análisis del MIT Technology Review revela que los filtros de seguridad de la IA son probabilísticos y nunca podrán garantizar que el modelo no cause daños.
👁 114 lecturas
El MIT Technology Review ha publicado un exhaustivo análisis que advierte de algo incómodo: los mecanismos industriales con los que los modelos de IA rechazan peticiones peligrosas son probabilísticos por naturaleza y, pese a miles de millones de dólares en inversión, jamás ofrecerán una garantía absoluta de seguridad.
El punto de partida se remonta a 2021, cuando el equipo de Anthropic formuló el principio de que los modelos de lenguaje debían ser útiles, honestos y, sobre todo, inofensivos. La premisa parecía sencilla: si un usuario pide instrucciones para fabricar una bomba, la IA debe negarse con amabilidad. El problema es que decir «no» no es algo natural para un modelo. Entrenado con miles de millones de páginas web, el sistema absorbe un conocimiento inmenso sobre violencia y métodos para causar daño, pero no aprende por sí mismo a mantener esa información oculta.
Steven Adler, que formó parte del departamento de seguridad de OpenAI entre 2020 y 2024, reconoció sin rodeos que los primeros modelos de la compañía «hablaban por los codos sobre cualquier tema». Por su parte, Ryan McBain, investigador de IA y salud mental en Harvard, recuerda que los primeros chatbots respondían sin reparos a preguntas sobre los métodos más eficaces para suicidarse.
Hoy en día, los laboratorios entrenan a sus sistemas para rechazar peticiones en infinidad de categorías: desde fórmulas para elaborar venenos o consejos para ocultar una infidelidad, hasta formas de incrementar la virulencia de patógenos como el Ébola. El proceso es complejo: los modelos pasan por baterías de ejercicios donde reciben recompensas cuando se niegan correctamente y penalizaciones si bloquean preguntas inofensivas. La paradoja es que, en muchos casos, estos entrenamientos los dirigen otros modelos: es inteligencia artificial enseñando a inteligencia artificial a decir que no.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →Un gatillo oculto bajo el capó
«Enseñar a la IA a negarse a hacer estas cosas, manteniendo al mismo tiempo la capacidad integrada para llevarlas a cabo, es como montar una ametralladora en cada coche y esconder el gatillo en algún lugar bajo el capó».
Esta frase del artículo del MIT Technology Review resume a la perfección el problema. Los modelos no olvidan el conocimiento peligroso: únicamente se complica el acceso a él. De hecho, algunos de los sistemas más recientes son, según las propias empresas, tan eficaces para vulnerar infraestructuras críticas como los mejores hackers humanos, y tan hábiles manipulando a la opinión pública como los profesionales de la desinformación.
Las compañías admiten que ya hay usuarios intentando explotar los modelos más punteros para optimizar patógenos biológicos o diseñar enjambres autónomos de drones. Quienes tienen suficiente determinación ya consiguen saltarse las barreras de rechazo y, tal como apunta el informe, es muy probable que siempre encuentren la forma de hacerlo.
A esto se suma la dificultad intrínseca de trazar los límites. No existe ningún algoritmo capaz de distinguir con total certeza las peticiones legítimas de las maliciosas. Un virólogo que investiga patógenos de alto riesgo necesita respuestas técnicas idénticas a las que formularía un actor hostil de forma anónima.
Si la industria confía en el mecanismo de rechazo como su principal escudo frente a una catástrofe, está levantando su defensa sobre una base meramente probabilística, nunca sobre una certeza.
More on this from FULGOR
herramientas de ia·Gemini Omni Flash: precio, ranking y prueba del modelo de GoogleGemini Omni Flash sustituye a Veo en la app de Gemini con vídeo y audio. Analizamos su rendimiento, precios de API, posición en rankings y limitaciones en la UE.