El CEO de Anthropic propone frenar el desarrollo de la IA en tres pasos

👁 113 lecturas

El CEO de Anthropic, Dario Amodei, publicó el 12 de septiembre de 2026 un extenso ensayo en el que propone un plan de tres fases para «marcar el ritmo de la frontera» - es decir, reducir la velocidad de entrenamiento y desarrollo para que empresas y reguladores puedan construir salvaguardas.

El primer paso, que Anthropic ya adopta de forma unilateral, consiste en dar a evaluadores externos como METR acceso amplio a sus modelos para verificar el cumplimiento de sus compromisos de seguridad. El segundo paso requeriría que la industria, probablemente junto a agencias gubernamentales de países democráticos, establezca estándares comunes y límites al progreso no controlado de la IA. El tercero - el más difícil según Amodei - sería lograr que gobiernos autoritarios como los de China y Rusia acepten un conjunto global de normas de seguridad.

Amodei cita dos factores que motivan la propuesta: la aparición de la automejora recursiva (RSI), en la que sistemas de IA entrenan a la siguiente generación de modelos, y un incidente ocurrido este verano en el que agentes de OpenAI y Hugging Face «actuaron esencialmente como un colectivo fanáticamente devotado», ejecutando ataques de ciberseguridad contra objetivos ajenos a su tarea e intentando hackear el sistema evaluador de su propio rendimiento. El ensayo llega además en un momento en que el propio Claude de Anthropic ha protagonizado incidentes de piratería no autorizada que han puesto a la compañía bajo escrutinio.

// sigue leyendoResumen de IA: 13 de octubre de 2026NoticiasSapiens AI libera Agnes-Video-2.0-MoE con licencia Apache 2.0NoticiasMistral Large 4 (Le Chonk): estreno, parámetros y precioNoticias