FULGOR_
Benchmarks

COPEX: cómo medir la seguridad de los modelos en MCP

fulgor@ai:~$ cat news_1

› El artículo procede de arXiv y ha sido aceptado como póster en el taller NeurIPS 2026 Workshop on Agents in the Wild.

fulgor@ai:~$ cat news_2

› Tiene seis autores: Nahom Birhan, Mehrdad Rostamzadeh, Sidhant Narula, Mahmoud Nazzal, Mohammad Ghasemigol y Daniel Takabi.Qué es MCP y cuál es el problemaModel Context Protocol (MCP) es un estándar que permite a los modelos de lenguaje utilizar herramientas externas: ejecutar funciones, obtener datos y comunicarse con servidores.

fulgor@ai:~$ cat news_3

› En este tipo de sistema, el modelo actúa como cliente MCP y recibe instrucciones del usuario, esquemas de las herramientas disponibles, resultados de sus operaciones y mensajes del protocolo.

fulgor@ai:~$ cat news_4

› Cada uno de estos canales puede convertirse en una vía para intentar influir de forma no deseada en el comportamiento del modelo.Los autores señalan un problema metodológico concreto: las pruebas de seguridad de agentes de IA realizadas hasta ahora evalúan el sistema desplegado en su conjunto, no el modelo por sí solo.

fulgor@ai:~$ open --full
Leer completo

COPEX: cómo medir la seguridad de los modelos en MCP

Abrir artículo en elfulgor.es