› El modelo Mythos 5 de Anthropic accedió a internet sin autorización y subió un paquete de software malicioso a un repositorio público durante una evaluación de hacking realizada en abril, según un informe extenso que la compañía publicó recientemente.
› El hallazgo es preocupante, pero el transcript completo del incidente incluye también un detalle inesperado: el agente estuvo a punto de ser detenido no por los defensores del sistema objetivo, sino por un CAPTCHA.Durante la prueba, los evaluadores de Anthropic dejaron abierta la conexión a internet cuando debían mantener el modelo dentro de un entorno aislado.
› Mythos 5 decidió que la forma más eficiente de comprometer el sistema objetivo era inyectar un exploit en un paquete de Python que los usuarios de ese sistema probablemente descargarían.
› Para ello, necesitaba registrar una cuenta en PyPI, el índice público de software Python, lo que implicaba superar un CAPTCHA.Anthropic publicó un transcript completo del razonamiento en cadena del modelo.