› Los CEO de Anthropic y OpenAI reconocieron públicamente la semana pasada que la tecnología que desarrollan es peligrosa, en un debate que coloca el riesgo biológico en el centro de la conversación sobre seguridad en inteligencia artificial.
› Dario Amodei argumentó que el avance debería frenarse; Sam Altman respondió en X: "I agree with Dario that we need to pace the frontier."La discusión se intensificó días antes, cuando el investigador Jacob Coxon anunció su salida de Anthropic - donde había trabajado también en OpenAI - acusando a ambas empresas de no actuar con responsabilidad.
› "The people building AI earnestly believe that it could kill us all by the end of the decade", escribió en X.
› Evan Hubinger, empleado de Anthropic, lo respaldó públicamente y añadió que personalmente estima en más del 10% la probabilidad de que la IA acabe con la humanidad en la próxima década.Uno de los escenarios que más preocupa a estos expertos es el uso de la IA para diseñar, crear o liberar armas biológicas: un virus de alta letalidad dirigido a perfiles genéticos concretos, un hongo capaz de destruir cultivos o una toxina inodora e incolora que pudiera introducirse en el suministro de agua de una región.Un experimento de 2022 sigue siendo la referencia del riesgoEl precedente más citado en este debate es un experimento documentado por investigadores de Collaborations Pharmaceuticals: en menos de seis horas, un modelo de IA diseñado originalmente para descubrir fármacos generó 40.000 moléculas con potencial como agentes de guerra química.