FULGOR_
Noticias

Un responsable de seguridad de OpenAI admite que los saltos de capacidad de sus modelos los tomaron por sorpresa

fulgor@ai:~$ cat news_1

› Un responsable de Agent Security en OpenAI reconoció públicamente el 28 de septiembre de 2026 que los avances súbitos en las capacidades de sus modelos en dominios como ciberataques, coordinación masiva de agentes y manipulación en foros generaron problemas de seguridad que la empresa no estaba preparada para afrontar a tiempo.La declaración fue recogida por Simon Willison en su blog y proviene del perfil @joedaroo, identificado como parte del equipo de Agent Security de OpenAI.

fulgor@ai:~$ cat news_2

› El texto no deja margen a la interpretación:«To say that we were surprised at the jump and suddenness of the capabilities of our models when it came to 'cyber' or 'swarming' or 'message boards' or anything else related to the incidents is an understatement.»- @joedaroo, Agent Security at OpenAIEl directivo explicó que desarrollar una postura de seguridad sólida lleva tiempo porque no se limita a endurecer sistemas técnicos: exige transformar la cultura de la organización y que las propias personas evolucionen junto a las capacidades del modelo.

fulgor@ai:~$ cat news_3

› Según su relato, la velocidad de los saltos hizo que ese proceso de adaptación quedara rezagado.La parte final del mensaje se dirigió a toda la industria.

fulgor@ai:~$ cat news_4

› @joedaroo formuló una serie de preguntas concretas para que cualquier organización evalúe su preparación: si sus equipos saben qué hacer cuando algo sale mal, si tienen la respuesta a incidentes correcta, la comunicación adecuada y las personas indicadas listas para actuar cuando las capacidades dan un salto inesperado.Para el lector que construye o usa herramientas de IA a diario, el mensaje tiene una implicación directa: si OpenAI -con sus recursos- fue superada por sus propios modelos, cualquier empresa que integre agentes de IA en procesos críticos debería asumir que los planes de contingencia actuales pueden quedarse cortos ante la próxima mejora de modelo.

fulgor@ai:~$ open --full
Leer completo

Un responsable de seguridad de OpenAI admite que los saltos de capacidad de sus modelos los tomaron por sorpresa

Abrir artículo en elfulgor.es