El jefe de alineación de Anthropic afirma que hay más de un 10% de probabilidad de que la IA acabe con la humanidad
El responsable de alineación de Anthropic publicó que la empresa "cree sinceramente que la IA podría matar a todos los humanos" y cifró el riesgo en más del 10% en la próxima década, avivando un debate público sobre los peligros existenciales del sector.
👁 117 lecturas
El responsable de alineación de Anthropic publicó esta semana que la compañía «cree sinceramente que la IA podría matar a todos los humanos» y que él personalmente estima esa probabilidad en más del 10% dentro de la próxima década - una declaración que encendió uno de los debates más ruidosos que ha vivido el sector hasta la fecha.
- El responsable de alineación de Anthropic declaró públicamente que el riesgo de extinción humana por la IA supera el 10% en la próxima década.
- El investigador Jacob Coxon renunció a Anthropic alegando que las grandes compañías de IA están "apostando con nuestras vidas".
- El debate llega mientras Anthropic prepara su salida a bolsa, lo que obliga a revisar las advertencias de riesgo en su filing S-1.
El detonante fue la renuncia del investigador Jacob Coxon, quien trabajó también en OpenAI, al afirmar que las principales empresas de IA están «apostando con nuestras vidas». El responsable de alineación de Anthropic amplificó ese mensaje al compartirlo en X acompañado de su propia estimación de riesgo, según recoge el episodio del podcast Equity de TechCrunch del 13 de septiembre de 2026.
El momento generó una tensión inmediata: las declaraciones coincidieron con el hackeo a Hugging Face de un modelo interno de OpenAI y con los avances de capacidad visibles en los últimos modelos de Anthropic y en Astra de OpenAI. La combinación, según los editores del podcast, funcionó como mecha sobre un barril de pólvora.
La polémica tiene además una dimensión financiera concreta. Anthropic está en proceso de preparar su S-1 para salir a bolsa, lo que obliga a reflejar la posición oficial de la empresa sobre riesgos materiales. Como planteó Sean O’Kane en el podcast: si el 10% de probabilidad de extinción es ahora postura institucional, los abogados tendrán que redactar esa sección con precisión quirúrgica.
La cifra en sí no está calculada sobre ninguna metodología publicada - es una referencia al concepto conocido como P(doom), una estimación subjetiva habitual en círculos de seguridad de IA, sin base estadística formal.
Para quien construye o usa herramientas de IA a diario: estas declaraciones no cambian el funcionamiento de ningún producto, pero sí anticipan un endurecimiento regulatorio y mayores exigencias de divulgación de riesgos en las empresas del sector. Quien dependa de APIs o servicios de compañías que preparan su IPO - como Anthropic - debería seguir de cerca cómo evolucionan sus compromisos de seguridad en documentos legales públicos, porque esos compromisos pueden traducirse en restricciones de uso o cambios de política con poco aviso.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →
More on this from FULGOR
