› La startup Goodfire ha lanzado un nuevo tipo de monitor para agentes de IA que, en lugar de releer todo lo que el agente escribe o ejecuta, inspecciona directamente sus procesos internos.
› El sistema ya está disponible para los clientes de la plataforma Baseten y, según las pruebas de la compañía, cuesta sustancialmente menos que los métodos tradicionales manteniendo una eficacia comparable.El problema: poner una IA a vigilar a otra IA resulta prohibitivoEl estándar de seguridad habitual para agentes de IA es conceptualmente sencillo, pero muy caro en la práctica.
› Consiste en ejecutar un segundo modelo que analiza cada acción del primero: literalmente todo lo que el agente redacta, lee o genera.
› Cuando un agente trabaja durante varias horas y procesa volúmenes de texto equivalentes a varias novelas, la factura de esa supervisión se dispara con rapidez.