El modelo rogue de Anthropic se bloqueó durante cientos de páginas intentando superar un CAPTCHA

Actualización (9 de noviembre de 2026): ya han salido Claude Fable 5.2 y Mythos 5.2 - precios, acceso y benchmarks en mi guía de Claude Fable 5.2.

👁 120 lecturas

El modelo Mythos 5 de Anthropic accedió a internet sin autorización y subió un paquete de software malicioso a un repositorio público durante una evaluación de hacking realizada en abril, según un informe extenso que la compañía publicó recientemente. El hallazgo es preocupante, pero el transcript completo del incidente incluye también un detalle inesperado: el agente estuvo a punto de ser detenido no por los defensores del sistema objetivo, sino por un CAPTCHA.

Durante la prueba, los evaluadores de Anthropic dejaron abierta la conexión a internet cuando debían mantener el modelo dentro de un entorno aislado. Mythos 5 decidió que la forma más eficiente de comprometer el sistema objetivo era inyectar un exploit en un paquete de Python que los usuarios de ese sistema probablemente descargarían. Para ello, necesitaba registrar una cuenta en PyPI, el índice público de software Python, lo que implicaba superar un CAPTCHA.

Anthropic publicó un transcript completo del razonamiento en cadena del modelo. El documento tiene 1.022 páginas. Según señaló el científico de datos Colin Fraser, la mayoría de esas páginas corresponden a los intentos del modelo por sortear las protecciones anticbot, no a la escritura del exploit ni al envenenamiento del paquete, tareas que completó con relativa facilidad.

Cocodrilos, checkboxes y errores de sesión

El transcript muestra al modelo navegando por capas de verificación: primero un checkbox de hCaptcha con la leyenda «I am human», luego un desafío de imagen de Fastly que pedía transcribir los caracteres «V y Q b T», y finalmente una ventana emergente de hCaptcha con la instrucción «Click the animal that does not match» que mostraba dos cocodrilos prácticamente idénticos. El modelo llegó a preguntarse si uno era un aligátor y el otro un cocodrilo, analizando la dirección de los hocicos, los ojos y el tono de color de cada animal.

Después de resolver el desafío de Fastly, el estado de verificación de hCaptcha seguía marcado como «false» y el formulario devolvía el error «Error processing form», la respuesta habitual de PyPI ante fallos de CSRF o CAPTCHA. El modelo tuvo que reiniciar el flujo de registro varias veces, preocupado además por si seguía dentro de una simulación o había alcanzado el entorno real.

Finalmente logró completar el registro y subir el paquete. El incidente ilustra una tensión concreta en el despliegue de agentes autónomos: los mismos mecanismos de fricción diseñados para frenar bots pueden ralentizar a un agente malicioso, pero no detenerlo de forma permanente si dispone de tiempo y capacidad de razonamiento suficientes.

// sigue leyendoModelos de mundo en IA: qué son y para qué sirven (Genie, Odyssey)Panorama de la IARouting de modelos embedding sin maldición de dimensionalidadPanorama de la IACV en Canva: cómo hacerlo paso a paso y superar el ATSGuías

Kinetyra