Frenar la IA: por qué nadie puede pisar el freno de verdad

El 28 de septiembre OpenAI detuvo su nuevo modelo porque no respetaba los límites de seguridad. El 29 de septiembre presentó más de 20 novedades, incluidos agentes que trabajan las 24 horas del día. No es hipocresía, son matemáticas puras. Frenar el avance de la inteligencia artificial de la forma en que lo plantean los líderes de los laboratorios es casi inviable a nivel económico. En lugar de esperar a que alguien pise el freno por voluntad propia, conviene centrarse en las medidas que realmente pueden surtir efecto.

El avance vertiginoso de la inteligencia artificial acelera hoy más que nunca y todos en la cabina de mando coinciden en que habría que aflojar el ritmo. Sin embargo, la fuerza que mueve esta maquinaria no tiene nada de poético: la empujan unos 740 000 millones de dólares planeados para un solo año (unos 661 837 millones de euros al cambio oficial de referencia del BCE del 12/10/2026, fuente: https://www.ecb.europa.eu/stats/eurofxref/eurofxref-daily.xml), en gran parte financiados con deuda.

El martes por la tarde cubrí en directo el DevDay, la conferencia anual de OpenAI. Sam Altman abrió la presentación con la cifra de 1200 millones de usuarios semanales en ChatGPT, y acto seguido llegó la avalancha: los agentes Dots con ordenador propio en la nube, GPT-6.1 Sol a un quinto del precio de Astra, el modo Ultrafast y el plan Pro 500 por 500 dólares al mes (unos 447,19 euros calculados con la tasa del BCE ya citada). Según CNBC, unas 2500 personas en la sala contemplaron más de 20 productos y funciones, mientras fuera protestaban manifestantes con pancartas contra el avance descontrolado de la tecnología. Ese mismo día, la directora financiera de OpenAI, Sarah Friar, declaró a CNBC: «Cuando tengamos que regular el ritmo en la frontera de las capacidades, lo haremos. Es justo lo que estamos demostrando». Pocas horas antes, la misma cadena confirmaba que la compañía mantiene conversaciones preliminares con inversores para levantar otros 30 000 millones de dólares (unos 26 831 millones de euros).

No señalo esto para poner en evidencia a Friar. Lo menciono porque en esa sola declaración se resume todo el dilema. Todo el mundo quiere un freno, pero nadie puede pisarlo.

Todos a favor, nadie reduce la marcha

Nunca antes habían pedido frenar de forma tan unánime las mismas personas que construyen estos modelos. El 28 de julio, más de mil empleados de OpenAI, Anthropic, Google y Meta firmaron la carta «Pacing the Frontier», solicitando al gobierno de EE. UU. herramientas para «regular deliberadamente el ritmo» del desarrollo de la IA. Entre los firmantes figuraba Jakub Pachocki, científico jefe de OpenAI. El 6 de septiembre publicó el ensayo «Una mente alienígena», donde argumentaba que ningún laboratorio ha resuelto los problemas de alineamiento y supervisión como para seguir escalando a máxima velocidad, y que espera e incluso desea que las desaceleraciones voluntarias se vuelvan habituales.

La postura de Pachocki recuerda a otros científicos que alertaron desde dentro sobre tecnologías que ellos mismos impulsaron. Józef Rotblat abandonó a finales de 1944 el Proyecto Manhattan cuando quedó claro que Alemania no construiría la bomba atómica, marchándose por motivos éticos (décadas más tarde recibiría el Premio Nobel de la Paz junto al movimiento Pugwash). La diferencia entre ambos gestos define nuestra era: Rotblat se marchó del laboratorio; Pachocki se queda dentro y escribe ensayos reflexivos. No es un reproche. En 2026 ya no es posible tirar del freno bajándose del tren, porque el tren seguirá su marcha sin ti.

El 12 de septiembre, Dario Amodei publicó el ensayo «We Must Pace the Frontier» con un plan en tres fases: evaluadores independientes integrados de forma permanente en los laboratorios, coordinación entre empresas de países democráticos y, finalmente, un acuerdo global. En cuestión de horas, lo respaldaron Sam Altman, Elon Musk y Demis Hassabis. Musk se limitó a tres palabras: «Dario tiene razón».

Y después no cambió absolutamente nada. Los cuatro gigantes estadounidenses siguen levantando centros de datos, OpenAI continúa captando capital y presentando agentes incansables. Sería fácil tildar esto de simple cinismo corporativo, pero creo que esa lectura es errónea. La frase más lúcida de este debate la redactaron los propios implicados en su carta de julio: reconocieron que cada compañía y cada nación operan bajo una «presión competitiva intensa para no frenar de forma unilateral». No es una excusa banal, es la descripción exacta de la trampa en la que están atrapados.

Cada uno de ellos toma de forma individual la decisión racional de no frenar. Juntos avanzan hacia un destino al que ninguno desea llegar.

Piotr Olszewski

El combustible que acelera la máquina

Hablemos de dinero, pues el capital es lo que mantiene el pie pegado al acelerador. Según datos recopilados por CNBC a finales de julio, Amazon proyectó para 2026 unos 200 000 millones de dólares en gasto de capital (unos 178 875 millones de euros), Alphabet hasta 205 000 millones (unos 183 347 millones de euros), Microsoft cerca de 190 000 millones incluyendo arrendamientos (unos 169 931 millones de euros) y Meta hasta 145 000 millones (unos 129 684 millones de euros). Sumando los rangos máximos, el total ronda los 740 000 millones de dólares en un solo año (unos 661 837 millones de euros). La inmensa mayoría de esa inversión va directa a centros de datos y chips para IA.

Más relevante que la cifra en sí es de dónde procede. La deuda a largo plazo de Amazon creció en el primer trimestre un 81 %, situándose en 119 000 millones de dólares (unos 106 431 millones de euros). La deuda de Alphabet aumentó un 111 % en el primer semestre hasta los 98 000 millones (unos 87 649 millones de euros), y la compañía registró en el segundo trimestre su primer flujo de caja negativo tras años de considerarse una máquina impecable de generar liquidez. Cuando en julio elevó su previsión de gasto, sus acciones cayeron arrastrando a Amazon, Meta y Microsoft. Los gigantes tecnológicos actuales disponen de recursos enormes, pero financian esta infraestructura a crédito con la esperanza de que los ingresos del futuro cubran las obligaciones presentes.

Traslademos esto a la idea de pisar el freno. Un centro de datos construido a crédito que permanece inactivo mientras el laboratorio «adecua el ritmo» genera intereses sin aportar ingresos. Un chip sin usar pierde valor al mismo ritmo que uno en marcha, porque dentro de dos años habrá alternativas más veloces en el mercado. Justificar un trimestre de desaceleración voluntaria ante inversores que ya penalizan cualquier desembolso sin retorno rápido es algo que difícilmente soportaría ningún consejo de administración.

La posición de OpenAI es aún más delicada. En marzo levantó 122 000 millones de dólares (unos 109 114 millones de euros) con una valoración de 852 000 millones de dólares (unos 762 007 millones de euros). Según CNBC, en junio registró de forma confidencial su folleto de emisión de cara a una salida a bolsa prevista para el próximo año. Una entidad que prepara su debut bursátil no puede asegurar en su documentación que planea crecer a menor ritmo de su potencial técnico; solo puede prometer que lo hará de forma responsable. Y eso fue con precisión lo que Friar comunicó en el DevDay.

Pactar una pausa: el riesgo de colusión

En 1950, los matemáticos Merrill Flood y Melvin Dresher plantearon el dilema del prisionero: dos partes logran el mejor resultado si cooperan, pero cada una gana individualmente si traiciona a la otra, provocando que ambas elijan competir y salgan perjudicadas. La salida teórica consiste en pactar. Amodei plantea justamente eso en la segunda fase de su propuesta, admitiendo que requeriría el visto bueno estatal mediante una «exención estricta» de las leyes antimonopolio para permitir conversaciones sobre el ritmo de desarrollo entre competidores.

La realidad se le adelantó. El 18 de septiembre, cuatro usuarios suscritos a ChatGPT, Claude, Gemini y Grok presentaron una demanda colectiva ante un tribunal federal de California contra OpenAI, Anthropic, Google y SpaceXAI. Los demandantes acusan a las firmas de pactar ilegalmente: si todas acuerdan frenar en público, los clientes pagan la misma tarifa por una innovación ralentizada. Como pruebas señalan el ensayo de Amodei, las respuestas de Altman, Musk y Hassabis y la carta de los empleados. La demanda subraya que no se oponen a que cada entidad reduzca la velocidad por seguridad propia, pero rechazan una contención concertada que sustituya la responsabilidad particular.

Con independencia del desenlace judicial, la demanda ha mostrado con claridad los límites legales. El senador republicano Josh Hawley señaló en sede parlamentaria que no contempla conceder excepciones a las normativas de competencia a las compañías con mayor poder del mercado tecnológico. La paradoja es evidente: frenar en solitario implica perder la carrera comercial; pactar el freno implica afrontar acusaciones de cartelización ante la justicia. Ante esa disyuntiva, la opción habitual es continuar acelerando mientras se apela a la responsabilidad.

A esto se suma el tablero político internacional. El 22 de septiembre, en la Asamblea General de la ONU, Donald Trump declaró que EE. UU. rechaza planes supranacionales destinados a frenar la IA y aseguró que no entorpecerá el crecimiento de esta tecnología. El 29 de septiembre, mientras OpenAI realizaba su presentación en San Francisco, directivos como Amodei, Musk, Zuckerberg, Huang y Greg Brockman almorzaban en la Casa Blanca. Tras la reunión, Trump aludió a la necesidad de «autorregulación», un concepto difícil de coordinar bajo la legislación antimonopolio vigente.

Por último figura la competencia con China. Amodei admite con franqueza que si los países occidentales reducen el paso más allá de su margen de ventaja competitiva, corren el riesgo de ser superados por proyectos estatales chinos. De ese modo, hasta los mayores defensores de moderar la velocidad encuentran barreras geopolíticas, relegando una moratoria mundial integral a un escenario poco viable a corto plazo.

Límites técnicos frente a frenos globales

Frente a este panorama surge una objeción válida: en la práctica sí se han aplicado pausas. OpenAI detuvo el lanzamiento de GPT-6.1 Astra. En agosto pausó su entrenamiento a gran escala más relevante, y en septiembre suspendió entrenamientos adicionales tras detectar que un agente ejecutó una consulta DNS indebida, esperando a corregir la vulnerabilidad. Meta retrasó varios meses el estreno del agente Muse, y Mark Zuckerberg argumentó que cada empresa tiene la responsabilidad de avanzar al ritmo necesario para garantizar la seguridad sin necesidad de esperar al resto.

Sin embargo, estos frenos responden a una lógica muy diferente de las moratorias generales. Actúan ante problemas técnicos concretos: un modelo que no respeta directrices de seguridad, una fuga en un entorno aislado o resultados deficientes en tests internos. Ninguna compañía detuvo sus procesos por considerar que la innovación avanzaba demasiado deprisa en términos abstractos; se detuvieron en un control de paso porque una comprobación falló. Un freno de emergencia en un tren no busca bajar la velocidad de crucero de la red, sino detener el convoy si detecta una puerta mal cerrada.

En 1865, el parlamento británico promulgó la conocida como Locomotive Act, que restringía los vehículos a motor a 4 millas por hora en vías interurbanas y obligaba a que una persona a pie precediera al vehículo ondeando una bandera roja. Aquellas medidas terminaron pasando a la historia como el intento ineficaz de detener el progreso en lugar de ordenarlo técnicamente. Las peticiones actuales de frenazos voluntarios evocan esa bandera roja ante un avance que ya opera a otra escala.

Esa dinámica se refleja en nuestras propias mediciones. GPT-6.1 Sol, presentado en el DevDay tras detenerse Astra, obtuvo en nuestra prueba de redacción (evaluada originalmente en polaco) 85,8 puntos, una cifra prácticamente calcada a la de GPT-6 Sol. Se contuvo el modelo situado en la frontera extrema de capacidad técnica, mientras que el producto comercial que llegó a los usuarios resultó ser más asequible, pero sin mejoras palpables en rendimiento respecto a su predecesor en dicha prueba en polaco. Poner el freno sobre el modelo frontera y dar gas al empaquetado del producto no es una anomalía: describe con precisión cómo se manifiesta una ralentización real en este sector.

Mecanismos que sí pueden funcionar

El camino más pragmático consiste en abandonar la idea de un botón de pausa voluntario contrario a la lógica empresarial, implementando en su lugar dinámicas donde pausar ante riesgos específicos resulte conveniente para cada entidad por separado, sin requerir pactos entre rivales ni consensos diplomáticos complejos.

El primer paso son los puntos de control obligatorios en lugar de límites abstractos de velocidad. Si un sistema demuestra capacidades potencialmente críticas (como saltarse entornos de aislamiento estándar), debe acreditar certificaciones concretas mediante auditorías de entrenamiento y pruebas estandarizadas. Este principio es el que contuvo a GPT-6.1 Astra, con la diferencia de que hoy se gestiona con criterios exclusivamente internos. La aviación comercial no exige que los aviones vuelen más lento; exige certificar rigurosamente cada componente. Un punto de control no detiene el progreso, sino que define qué condiciones mínimas exige el despliegue.

Para que ese control sea efectivo, se requiere una segunda pieza: auditores externos integrados físicamente en las organizaciones con acceso real a las herramientas y potestad para publicar evaluaciones. Anthropic adoptó este compromiso de manera unilateral, y Altman señaló que OpenAI avanzará en esa línea sin aguardar mandatos legislativos. Al aplicarse de forma interna no vulnera las normativas de competencia, y su coste apenas supone una fracción ínfima de la inversión destinada a hardware. La banca aplica esquemas similares donde los inspectores operan en las propias entidades respaldados por facultades normativas.

El tercer elemento reside en la responsabilidad civil efectiva por daños. Si un agente desborda los servidores de una entidad pública o accede indebidamente a sistemas protegidos y la firma desarrolladora asume los costes indemnizatorios (reflejados a su vez en las primas aseguradoras), el incentivo para frenar desarrollos inestables se vuelve automático y puramente económico. Pocos factores disciplinan tanto las decisiones de un comité de dirección como la evaluación de riesgos de una aseguradora.

El papel que juega el mercado europeo

El cuarto mecanismo depende de la demanda y la normativa en nuestro entorno. En Europa no se determina el ritmo inversor de los laboratorios estadounidenses: los programas comunitarios para fábricas de IA gestionan presupuestos superiores a 30 000 millones de euros, una cifra notable pero lejana frente a las inversiones combinadas de las grandes tecnológicas norteamericanas.

Sin embargo, el mercado europeo cuenta con 450 millones de consumidores y un marco regulatorio definido. Con la aplicación de la AI Act, la Comisión Europea cuenta con potestades sancionadoras sobre proveedores de modelos de uso general con riesgo sistémico que incumplan la normativa, con multas que pueden alcanzar hasta el 3 % de la facturación global o 15 millones de euros, además de exigirles auditorías de riesgo y comunicación obligatoria de incidentes graves. Se trata de un filtro situado en el acceso al mercado que condiciona el despliegue comercial.

Existe además una palanca cotidiana en manos de las organizaciones usuarias: las condiciones contractuales. Al adquirir servicios basados en agentes de IA, cualquier empresa puede estipular por contrato la notificación de incidencias, accesos a registros de actividad y principios de privilegio mínimo. Las compañías tecnológicas que pretendan operar en Europa deberán asumir estas condiciones para retener a sus clientes.

Estos mecanismos no van a congelar el avance de la tecnología durante años como piden algunos manifiestos. Su función real es otra: retrasar la salida de sistemas insuficientemente evaluados y forzar que los productos comerciales ofrezcan mayores garantías de estabilidad. Pachocki afirmaba que acelerar a cualquier precio resulta imprudente cuando se asume lo que está en juego. La cuestión es que los participantes de la industria ya comprenden los riesgos; lo que necesitan son incentivos que les permitan modular la velocidad sin quedar fuera de juego en el mercado.