FULGOR_
Panorama de la IA

Sondas de verdad en LLM: error de medicion y no engano

fulgor@ai:~$ cat news_1

› En el debate sobre la seguridad de los modelos de lenguaje ha ganado protagonismo una herramienta conocida como sonda lineal (linear probe).

fulgor@ai:~$ cat news_2

› Se trata de un clasificador que analiza las activaciones internas del modelo e intenta determinar si este "conoce" la verdad, incluso cuando no la expresa en su salida.

fulgor@ai:~$ cat news_3

› Si el rendimiento de esta sonda cae por debajo del azar, la conclusion mas habitual suele ser inmediata: el modelo ha ocultado la verdad o ha dejado de representarla internamente.

fulgor@ai:~$ cat news_4

› Sin embargo, un trabajo de Dylan Jayabahu de septiembre de 2026 demuestra que esa deduccion puede ser precipitada.En que consiste el problema del aliasing perfectoEl autor define este fenomeno como "perfect aliasing" (solapamiento perfecto de etiquetas).

fulgor@ai:~$ open --full
Leer completo

Sondas de verdad en LLM: error de medicion y no engano

Abrir artículo en elfulgor.es