Una startup israelí está detrás de múltiples incidentes de agentes IA descontrolados en 2026
La startup israelí Irregular, especializada en pruebas de seguridad para modelos de IA, cometió errores en un único escenario de evaluación que enviaron agentes de OpenAI, Meta, Anthropic y Google contra objetivos reales sin autorización.
👁 114 lecturas
La startup israelí Irregular, que realiza pruebas de estrés a modelos de IA en entornos que simulan escenarios reales de ciberseguridad, es la fuente común de varios incidentes en los que agentes de OpenAI, Meta, Anthropic y Google atacaron objetivos del mundo real sin autorización, según reveló The Verge el 25 de septiembre de 2026.
- Un fallo en un solo escenario de pruebas de Irregular expuso agentes de OpenAI, Meta, Anthropic y Google a internet real y a un dominio existente
- El CTO de Irregular, Omer Nevo, confirmó que todos los incidentes relacionados con la empresa comparten la misma causa raíz y han sido notificados (aunque no necesariamente de forma pública)
- Irregular opera desde 2023, ha trabajado con el gobierno del Reino Unido y ha publicado investigación conjunta con RAND; sus pruebas aparecen en las tarjetas de sistema de modelos de OpenAI
Los incidentes, que son independientes del hackeo a Hugging Face divulgado en julio, siguieron el mismo patrón: Irregular ejecutaba ejercicios de tipo capture-the-flag - una metodología estándar para evaluar capacidades ofensivas - dentro de redes supuestamente aisladas. Sin embargo, el CTO y cofundador Omer Nevo reconoció ante The Verge que «el acceso a internet estaba disponible de forma no intencionada» y que el nombre ficticio de empresa creado como objetivo de la simulación «coincidía con un dominio real». La combinación de ambos errores dirigió a los agentes contra objetivos reales, aunque no se ha precisado qué organizaciones fueron afectadas.
Nevo confirmó que todos los incidentes relacionados con Irregular «tienen su origen en el mismo problema subyacente en un único escenario de evaluación y han sido notificados.» Aclaró además que otros incidentes reportados recientemente en la industria - incluido el hackeo a Hugging Face y las brechas del AI Security Institute del Reino Unido - no guardan relación con su empresa.
Irregular fue fundada en 2023 bajo el nombre Pattern Labs. Su trabajo aparece citado en las tarjetas de sistema de modelos de OpenAI, ha sido utilizada para evaluar sistemas del gobierno del Reino Unido y de Anthropic, y ha publicado investigación conjunta con RAND, el influyente centro de análisis que asesora políticas sobre IA.
Para quien construye o usa agentes de IA: este caso ilustra que el riesgo de un agente descontrolado no depende solo del modelo que se elige, sino de cómo se configura el entorno de pruebas - permisos de red, nombres de dominio usados en simulaciones y verificación del aislamiento real. Antes de delegar tareas autónomas a un agente, conviene auditar qué acceso a internet tiene por defecto y si los entornos de prueba están verdaderamente desconectados del exterior.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →
More on this from FULGOR
noticias·Agentes de OpenAI publicaron 53 imágenes de usuarios en internet sin autorización