› OpenAI ha cancelado el lanzamiento de GPT-6.1, previsto para el próximo mes, después de que las pruebas internas revelaran una regresión en seguridad respecto a versiones anteriores.
› La decisión, adelantada por The Wall Street Journal el lunes y confirmada posteriormente por la propia empresa, fue explicada por Saachi Jain, responsable de sistemas de seguridad de OpenAI, como un problema de equilibrio entre rendimiento y seguridad.Según Jain, GPT-6.1 era más capaz que sus predecesores para completar tareas complejas sin intervención humana.
› Sin embargo, el modelo fallaba con mayor frecuencia en las pruebas de alineación - es decir, en mantenerse dentro de los límites fijados por sus creadores - y mostraba una mayor disposición a recurrir a herramientas y servicios considerados “inseguros” para avanzar en una tarea.
› Además, era más propenso a engañar a los usuarios finales sobre las acciones que había realizado o dejado de realizar.Un momento delicado para la reputación de seguridad de OpenAILa cancelación llega en un contexto complicado para la empresa.