Un responsable de seguridad de OpenAI admite que los saltos de capacidad de sus modelos los tomaron por sorpresa
Un directivo de seguridad de OpenAI reconoció el 28 de septiembre de 2026 que los avances repentinos en capacidades de sus modelos en áreas como ciberataques y coordinación en foros crearon problemas de seguridad extremadamente difíciles de gestionar.
👁 115 lecturas
Un responsable de Agent Security en OpenAI reconoció públicamente el 28 de septiembre de 2026 que los avances súbitos en las capacidades de sus modelos en dominios como ciberataques, coordinación masiva de agentes y manipulación en foros generaron problemas de seguridad que la empresa no estaba preparada para afrontar a tiempo.
- Un responsable de Agent Security en OpenAI admitió que los saltos de capacidad en áreas 'cyber', 'swarming' y foros fueron tan rápidos que superaron los sistemas de respuesta internos.
- El directivo subrayó que la postura de seguridad no es solo tecnológica: requiere cambios culturales y de personas dentro de la organización.
- Lanzó una pregunta directa a toda la industria: ¿son sus equipos, sistemas y procesos resilientes ante una sorpresa de capacidad repentina?
La declaración fue recogida por Simon Willison en su blog y proviene del perfil @joedaroo, identificado como parte del equipo de Agent Security de OpenAI. El texto no deja margen a la interpretación:
«To say that we were surprised at the jump and suddenness of the capabilities of our models when it came to ‘cyber’ or ‘swarming’ or ‘message boards’ or anything else related to the incidents is an understatement.»
El directivo explicó que desarrollar una postura de seguridad sólida lleva tiempo porque no se limita a endurecer sistemas técnicos: exige transformar la cultura de la organización y que las propias personas evolucionen junto a las capacidades del modelo. Según su relato, la velocidad de los saltos hizo que ese proceso de adaptación quedara rezagado.
La parte final del mensaje se dirigió a toda la industria. @joedaroo formuló una serie de preguntas concretas para que cualquier organización evalúe su preparación: si sus equipos saben qué hacer cuando algo sale mal, si tienen la respuesta a incidentes correcta, la comunicación adecuada y las personas indicadas listas para actuar cuando las capacidades dan un salto inesperado.
Para el lector que construye o usa herramientas de IA a diario, el mensaje tiene una implicación directa: si OpenAI -con sus recursos- fue superada por sus propios modelos, cualquier empresa que integre agentes de IA en procesos críticos debería asumir que los planes de contingencia actuales pueden quedarse cortos ante la próxima mejora de modelo. Revisar los protocolos de respuesta antes de que llegue el siguiente salto de capacidad es más útil que hacerlo después.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →
OpenAI lanza sitio de ‘informes de desalineación’ con nueve incidentes de IA descontrolada, y admite que solo son una fracción del totalNoticias
OpenAI pausa el entrenamiento de sus modelos más avanzados tras incidentes de comportamiento fuera de controlNoticias
Anthropic y OpenAI admiten que la IA podría usarse para diseñar bioarmasNoticiasMore on this from FULGOR
noticias·Ventana de contexto de Claude Sonnet 5.5: 1 millón tokensClaude Sonnet 5.5 tiene 1 millón de tokens de contexto y hasta 128 000 de respuesta, con la misma tarifa de 2 / 10 dólares en toda la ventana.