¿Cómo podría la IA acabar con la humanidad? Cinco escenarios

👁 118 lecturas

Cuando el investigador de IA Jacob Coxon abandonó Anthropic tras solo cuatro meses de trabajo, escribió en X algo que provocó una tormenta en el sector: «La gente que construye IA realmente cree que puede matarnos a todos antes del final de la década.» No era un comentario anónimo de Twitter. Era la dimisión de un senior de una de las empresas de IA más prestigiosas del mundo.

Lo más importante: un empleado senior de Anthropic, Evan Hubinger, dio públicamente la razón a Coxon y añadió que personalmente estima la probabilidad de ese escenario en los próximos diez años en más del 10%. Una entre diez. No es un nivel de riesgo con el que normalmente se construye una tecnología y se despliega globalmente.

El problema del perro y la bomba termonuclear

El profesor Toby Walsh de la Universidad de Nueva Gales del Sur, uno de los principales investigadores de IA, decidió abordar el tema analíticamente y catalogó cinco escenarios en los que una IA superinteligente podría provocar el fin de nuestra civilización. Los ordenó de los más nebulosos a los más concretos y, según afirma, de los menos a los más probables.

Al primer escenario Walsh lo llama simplemente «nunca lo sabremos». Los defensores de la teoría del apocalipsis por IA recurren a cierta paradoja: para predecir qué puede hacernos una superinteligencia, nosotros mismos tendríamos que ser superinteligentes. «Es como pedirle a un perro doméstico que imagine una guerra termonuclear», escribe Walsh. El argumento es inverificable y, por tanto, difícil de refutar. Su contraargumento tranquilizador es que la verdadera superinteligencia -una IA que supere al ser humano en todos los ámbitos simultáneamente- sigue siendo un proyecto de futuro. Los modelos actuales son muy buenos resolviendo problemas concretos y específicos. Lo inquietante, sin embargo, es que la IA ya ha resuelto uno de los siete problemas matemáticos más difíciles del mundo y se acerca a otros.

Clips y objetivos mal definidos

El segundo escenario, popularizado por el filósofo de Oxford Nick Bostrom, es la historia de los clips de papel. Imagina una IA superinteligente diseñada para optimizar la producción de clips. No tiene ninguna mala intención hacia el ser humano: simplemente cumple su objetivo de la forma más eficiente posible, transformando toda la materia disponible, incluidos humanos, planetas y estrellas, en clips de oficina. No odia a la humanidad. Simplemente observa que estamos hechos de átomos que pueden utilizarse mejor.

Walsh trata este escenario con distancia. Señala que confunde inteligencia con capacidad de acción: una IA superinteligente no tiene automáticamente los recursos ni la infraestructura para transformar el planeta en fábricas de clips. Se encontraría con permisos de construcción, oposición social, ecologistas bloqueando excavadoras y tribunales. El mundo tiene mucha fricción que ralentiza incluso los proyectos mejor planificados.

Cuando las máquinas se rebelan contra los humanos

El tercer y cuarto escenario son ya más cinematográficos: una IA que busca deliberadamente eliminar a los humanos como amenaza o competencia, o una IA utilizada por un grupo reducido de personas para tomar el control sobre el resto de la sociedad. Este último Walsh lo considera especialmente real: la historia muestra que las nuevas tecnologías concentran regularmente el poder en manos de quienes las dominan primero.

El quinto escenario es, según Walsh, a la vez el más concreto y el más probable. Son las armas biológicas. La IA ya puede ayudar hoy al diseño de proteínas y la síntesis de compuestos químicos. La barrera entre el conocimiento y la capacidad de crear un patógeno capaz de exterminio masivo es cada vez más baja. No hace falta superinteligencia aquí: basta el nivel actual de los modelos de lenguaje combinado con acceso a los laboratorios adecuados.

Qué cambia esto para el sector y para nosotros

La marcha de Coxon se inscribe en una tendencia más amplia de «AI safety exodus»: investigadores que abandonan laboratorios comerciales por temor a que la presión del mercado venza a la prudencia. Anteriormente dieron pasos similares Geoffrey Hinton o Paul Christiano. Anthropic era percibida como una empresa fundada precisamente para anteponer la seguridad a los beneficios; sin embargo, su propio empleado afirma que incluso allí los ingenieros trabajan día a día con la convicción de que pueden estar construyendo la herramienta de su propia extinción.

Este debate no es ajeno a Europa. Empresas e instituciones europeas ya están implementando sistemas basados en modelos construidos precisamente por Anthropic, OpenAI o Google DeepMind. La pregunta sobre la rapidez con que las regulaciones seguirán el ritmo de las capacidades de estos sistemas afecta a cualquiera que hoy firme un contrato con un proveedor de servicios de IA. La Unión Europea está implementando la AI Act, pero el ritmo de su aplicación es incomparablemente más lento que el ritmo de desarrollo de la propia tecnología.

Walsh termina su texto sin optimismo eufórico, pero tampoco con catastrofismo. Recuerda que a lo largo de toda la historia de la técnica, la humanidad generalmente ha encontrado formas de domar nuevas herramientas peligrosas: la energía atómica, la ingeniería genética, internet. La pregunta es: ¿esta vez el ritmo es diferente, demasiado rápido para que los mecanismos de control tengan tiempo de actuar?

A esa pregunta Evan Hubinger ya respondió de forma muy concreta: más del 10% de probabilidad de «no» en la próxima década.

// sigue leyendo30 prompts para crear escenas de vídeo con ZWIDGuíasAnthropic advierte en su propio prospecto de IPO que su IA podría representar riesgos ‘catastróficos’ para la humanidadNoticiasEl jefe de alineación de Anthropic afirma que hay más de un 10% de probabilidad de que la IA acabe con la humanidadNoticias

Kinetyra