› Cuando el investigador de IA Jacob Coxon abandonó Anthropic tras solo cuatro meses de trabajo, escribió en X algo que provocó una tormenta en el sector: "La gente que construye IA realmente cree que puede matarnos a todos antes del final de la década." No era un comentario anónimo de Twitter.
› Era la dimisión de un senior de una de las empresas de IA más prestigiosas del mundo.Lo más importante: un empleado senior de Anthropic, Evan Hubinger, dio públicamente la razón a Coxon y añadió que personalmente estima la probabilidad de ese escenario en los próximos diez años en más del 10%.
› No es un nivel de riesgo con el que normalmente se construye una tecnología y se despliega globalmente.El problema del perro y la bomba termonuclearEl profesor Toby Walsh de la Universidad de Nueva Gales del Sur, uno de los principales investigadores de IA, decidió abordar el tema analíticamente y catalogó cinco escenarios en los que una IA superinteligente podría provocar el fin de nuestra civilización.
› Los ordenó de los más nebulosos a los más concretos y, según afirma, de los menos a los más probables.Al primer escenario Walsh lo llama simplemente "nunca lo sabremos".