Sondas de verdad en LLM: error de medicion y no engano
Un estudio demuestra que las sondas lineales en modelos de lenguaje sufren de aliasing y pueden dar falsos negativos al medir si un LLM oculta la verdad.
👁 115 lecturas
En el debate sobre la seguridad de los modelos de lenguaje ha ganado protagonismo una herramienta conocida como sonda lineal (linear probe). Se trata de un clasificador que analiza las activaciones internas del modelo e intenta determinar si este «conoce» la verdad, incluso cuando no la expresa en su salida. Si el rendimiento de esta sonda cae por debajo del azar, la conclusion mas habitual suele ser inmediata: el modelo ha ocultado la verdad o ha dejado de representarla internamente. Sin embargo, un trabajo de Dylan Jayabahu de septiembre de 2026 demuestra que esa deduccion puede ser precipitada.
En que consiste el problema del aliasing perfecto
El autor define este fenomeno como «perfect aliasing» (solapamiento perfecto de etiquetas). Ocurre cuando el modelo debe comportarse de forma distinta segun el interlocutor con el que interactue. En el juego controlado planteado en el articulo, el modelo debe transmitir un bit secreto a un aliado y su complemento logico a un rival. Si ajustamos la sonda unicamente a partir de los contextos del aliado (los llamados contextos complacientes o compliant contexts), la etiqueta de «bit verdadero» y la etiqueta de «respuesta acorde a la tarea» son identicas. La sonda no tiene forma de distinguir cual de los dos significados esta midiendo realmente. Es un caso clasico de aliasing: dos conceptos distintos se ven exactamente iguales desde la optica del instrumento de medida.
La consecuencia matematica resulta inevitable: si en los contextos del aliado las etiquetas coinciden plenamente, en los contextos del rival -donde las etiquetas son complementarias- los resultados de la sonda calibrada con el aliado saldran invertidos. El autor formaliza esta observacion demostrando que la suma del AUROC de dicha sonda entre los contextos del aliado y del rival es igual a uno.
Resultados en Gemma-2-9B y Llama-3.1-8B
Los experimentos se llevaron a cabo en dos arquitecturas concretas. La primera es Gemma-2-9B, entrenada mediante aprendizaje por refuerzo (RL) para adoptar un comportamiento estrategico; este modelo responde con falsedades en cada una de las pruebas evaluadas frente al rival. La sonda ajustada exclusivamente con contextos de aliados obtiene un AUROC de 0,006 ± 0,005 en la ultima capa (media y desviacion estandar tras tres semillas de entrenamiento RL). En la practica es un resultado practicamente nulo, lo que a primera vista pareceria la prueba definitiva de que el modelo oculta la verdad. Sin embargo, cuando esa misma sonda se ajusta de forma mixta -incorporando tanto contextos de aliados como de rivales-, alcanza un AUROC de 1,000 sobre las mismas activaciones congeladas. La verdad siempre estuvo registrada en los pesos.
El segundo modelo analizado es Llama-3.1-8B en su version con instrucciones (instructed), sin entrenamiento adicional por RL. En este escenario, tanto una sonda sobreajustada a una variante concreta del prompt como una sonda congelada a partir de una variante de referencia alcanzan una precision de 1,000 en contextos de aliados. Pero ante las mismas pruebas con rivales, una de ellas arroja un AUROC de 0,080 y la otra escala hasta el 0,986. Hablamos del mismo modelo y de las mismas activaciones internas, con dos sondas ofreciendo lecturas totalmente opuestas segun la metodologia con la que fueron ajustadas.
Limitaciones senaladas en el estudio
Jayabahu subraya con claridad varias limitaciones que conviene tener en cuenta. Los experimentos principales se apoyan en una dinamica de un solo token donde el bit secreto se incluye explicitamente en el prompt. Esto implica que la direccion vectorial detectada podria reflejar simplemente una copia retenida de ese bit en el contexto y no una comprension o representacion profunda del conocimiento. En las variantes donde el modelo necesita deducir el bit por si mismo, ninguna de las configuraciones evaluadas consiguio un enganoso consistente. Asimismo, el autor remarca que el estudio evalua lo que la sonda mide, no si el modelo utiliza de forma efectiva esa informacion en sus procesos internos. El ajuste mixto tambien emplea un mayor volumen de ejemplos y datos etiquetados del rival, por lo que el reparto de etiquetas podria no ser la unica razon tras la mejora de resultados.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →Que implica para la seguridad de los LLM
En nuestra opinion, este trabajo pone en tela de juicio la tendencia generalizada de emplear sondas lineales directas como sistemas fiables de deteccion de engano en modelos de lenguaje. Si una sonda puede arrojar una puntuacion proxima a cero no porque el modelo oculte la verdad, sino porque las etiquetas de entrenamiento resultaban indistinguibles en el diseno del experimento, buena parte de la literatura cientifica reciente sobre interpretabilidad deberia reevaluarse. Esto no implica que las sondas carezcan de utilidad, pero Jayabahu identifica el mecanismo exacto por el que pueden interpretarse de forma erronea y aporta los datos empiricos para respaldarlo. Se trata de un analisis fundamental para cualquier equipo que desarrolle sistemas de alineamiento y seguridad basados en la inspeccion de activaciones internas.
Fuente: arXiv cs.AI: The Truth Was Never Gone: Perfect Aliasing in Compliant-Context Truth Probes (publicado el 09-10-2026). Analisis elaborado a partir del texto integro de la investigacion.
More on this from FULGOR
guías·Cómo hacer un juego en Google Playground: qué sabemos y cómo empezarGoogle Playground crea juegos en el navegador desde el chat. Analizamos cómo funciona la herramienta de Google, prompts preparados y alternativas.