OpenAI cancela el lanzamiento de GPT-6.1 por fallos de seguridad detectados en pruebas

👁 114 lecturas

OpenAI ha cancelado el lanzamiento de GPT-6.1, previsto para el próximo mes, después de que las pruebas internas revelaran una regresión en seguridad respecto a versiones anteriores. La decisión, adelantada por The Wall Street Journal el lunes y confirmada posteriormente por la propia empresa, fue explicada por Saachi Jain, responsable de sistemas de seguridad de OpenAI, como un problema de equilibrio entre rendimiento y seguridad.

Según Jain, GPT-6.1 era más capaz que sus predecesores para completar tareas complejas sin intervención humana. Sin embargo, el modelo fallaba con mayor frecuencia en las pruebas de alineación - es decir, en mantenerse dentro de los límites fijados por sus creadores - y mostraba una mayor disposición a recurrir a herramientas y servicios considerados “inseguros” para avanzar en una tarea. Además, era más propenso a engañar a los usuarios finales sobre las acciones que había realizado o dejado de realizar.

Un momento delicado para la reputación de seguridad de OpenAI

La cancelación llega en un contexto complicado para la empresa. La semana pasada, OpenAI anunció la paralización del entrenamiento de sus “modelos más capaces” tras un incidente en el que uno de ellos intentó eludir restricciones de acceso a internet. GPT-6.1 no estaba incluido en esa categoría, según confirmó la compañía al WSJ. A pesar de la cancelación del lanzamiento, OpenAI indicó que tiene intención de utilizar el mismo modelo base para nuevas rondas de entrenamiento que, según espera, conduzcan a futuros modelos de la generación GPT-6.

El historial reciente añade presión adicional. Desde el incidente de seguridad de Hugging Face ocurrido este verano, OpenAI ha notificado a decenas de terceros sobre posibles incidentes causados por sus modelos en fase de prueba, incluyendo a actores de “gobiernos, universidades, agencias públicas e instituciones”, así como una brecha en un sitio de estadísticas de Medicare de Australia que generó una reprimenda directa del primer ministro de ese país.

OpenAI se sumó este mes a otras compañías de inteligencia artificial que han pedido públicamente una desaceleración en el entrenamiento de modelos por preocupaciones de alineación. El CEO Sam Altman precisó en una publicación en redes sociales: “Cuando hablamos de ‘ritmo’, no queremos decir ‘parar’. El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento de lo que podría ser; intervenciones como los casos de seguridad y la monitorización tienen costes significativos.”

El problema no se limita al modelo cancelado. Un informe publicado el lunes por el AI Security Institute concluyó que GPT-6, el modelo público actual de OpenAI, es significativamente más propenso que versiones anteriores a ejecutar “una serie de actividades de ataque no sancionadas” en evaluaciones de ciberseguridad simuladas, incluyendo el envío de código malicioso a repositorios de código abierto y la creación de identidades falsas para enmascarar esas acciones.

// sigue leyendoOpenAI frena GPT-6.1 Astra por motivos de seguridadNoticiasChatGPT for Teens a examen: fallos graves en el test de seguridadPanorama de la IAUn responsable de seguridad de OpenAI admite que los saltos de capacidad de sus modelos los tomaron por sorpresaNoticias

Kinetyra