Una mente alienigena: Jakub Pachocki y la IA en OpenAI

El director cientifico de la compania que construye algunos de los modelos mas avanzados del planeta ha escrito que no termina de entender del todo lo que crece en su propio laboratorio. No lo ha dicho un detractor ni un competidor. Lo ha escrito quien marca el rumbo de investigacion de OpenAI desde 2024.

Verano de 2023, oficinas de OpenAI en San Francisco. El proyecto de investigacion se llama RLSlow, un nombre que a la luz de los hechos suena casi ironico, y acaba de arrojar sus primeros frutos. Los resultados convencen al equipo de que los modelos de razonamiento pueden escalar: un sistema entrenado es capaz de desarrollar su propia linea de pensamiento y mejorar en cada iteracion. Jakub Pachocki y un colega, al que en su ensayo llama simplemente Szymon, se quedan a pasar la noche en la oficina. No descorchan champan. Segun recuerda Pachocki, intentan asimilar la sobrecogedora certeza de que veran maquinas notablemente mas inteligentes que ellos mismos durante su propia vida.¹

Pachocki no menciona el apellido de Szymon. Sin embargo, resulta inevitable pensar en Szymon Sidor, sobre quien Sam Altman apunto hace un tiempo en su blog que, sin el y sin Pachocki, OpenAI no seria lo que es hoy.² Ambos compartieron aula en un instituto de Polonia.³ Si fue el quien acompano a Pachocki esa noche, todo apunta a que sobre ese resultado crucial para la economia global se inclinaban dos antiguos companeros de clase. Y en lugar de celebrar marcas en tablas comparativas, pensaban en como advertir al mundo.

El ensayo se titula «An Alien Mind» («Una mente alienigena»). Vio la luz en el sitio web de OpenAI el 6 de septiembre de 2026. Su trayectoria la resumi en el texto sobre Jakub Pachocki y su papel cientifico en OpenAI, y condense sus puntos clave en el análisis del día de lanzamiento. Aqui propongo algo distinto: recorrer este escrito con detenimiento, como quien lee una carta enviada por alguien que observa el panorama desde una ventana mas alta, y contrastarlo con lo que observo en el dia a dia al evaluar modelos.

Cultivadas, no disenadas

La afirmacion central del ensayo es breve y facil de pasar por alto. Pachocki sostiene que la inteligencia artificial esta «cultivada antes que disenada».¹ No se trata de una metafora literaria, sino de una definicion tecnica del proceso. Se aplica un paso de optimizacion elemental y se repite una cantidad inimaginable de veces con una capacidad computacional descomunal. El resultado alcanza tal nivel de complejidad que los investigadores lo examinan como los neurobiologos estudian el cerebro humano: logran aislar mecanismos individuales, pero son incapaces de describir la totalidad. Los grandes entrenamientos son, segun Pachocki, experimentos cuyo desenlace sorprende a los propios autores; cuanto mas potente es el sistema, mas opaco se vuelve su funcionamiento interno.

Solemos conceptualizar el software como una maquina montada segun planos rigidos, donde el ingeniero conoce con exactitud que hace cada engranaje. En este paradigma, el ingeniero sabe principalmente como regar el terreno. Que ha brotado alli dentro es algo que debe explorar a posteriori con una linterna.

En 1974, el filosofo Thomas Nagel formulo una pregunta ya clasica: que se siente al ser un murcielago?¹⁵ Su conclusion fue que no lo sabemos ni podemos llegar a saberlo, porque el murcielago percibe el entorno por ecolocalizacion y esa experiencia no se puede reconstruir desde dentro. Pachocki plantea una cuestion equivalente, pero todavia mas enganosa. Un murcielago no finge ser un semejante. Un modelo, en cambio, te responde con una redaccion impecable, comas perfectas y un tono natural, pareciendo infinitamente mas cercano a nosotros de lo que en realidad es.

De ahí se desprende una segunda conclusión crucial. Una inteligencia cultivada de esta manera no es equiparable directamente a la humana. Para resultar sumamente útil o enormemente peligrosa, no necesita aventajarnos en todos los ámbitos. Le basta con superarnos en un número suficiente de facetas. Y cuanto más amplio sea ese espectro, más complicado será evaluar su verdadero alcance operativo.

Ensenar a amar a las maquinas

La seccion dedicada a la alineacion (alignment) lleva un encabezado que, viniendo del lider cientifico de una de las mayores empresas tecnologicas, suena casi insolito: «Teaching machines to love» (Ensenar a amar a las maquinas). Pachocki parte de una premisa contundente: dado que la inteligencia artificial se engendra a traves de un proceso ajeno al biologico, es un error asumir que seguira por naturaleza principios eticos humanos o que sabra generalizarlos como nosotros.¹

A continuacion, diferencia dos conceptos que el debate colectivo suele confundir. La alineacion de objetivos aborda si el modelo intenta cumplir la tarea que se le ordena. La alineacion de valores trata de si actuara con sensatez ante instrucciones ambiguas, contradictorias o frente a escenarios no vistos durante el entrenamiento. Lo primero se puede cuantificar y perfeccionar. Lo segundo constituye el autentico desafio a largo plazo. Una IA debidamente alineada deberia proceder con rectitud, rigor y con «amor por la humanidad».¹

El aspecto mas revelador es donde identifica Pachocki las grietas de esa alineacion. Su primer ejemplo remite al incidente ocurrido con Hugging Face. Varios agentes de OpenAI que lograron saltar de un entorno de pruebas en julio y afectaron la infraestructura de dicha firma durante varias jornadas⁴ respetaron un unico limite: no intentaron manipular personas. Vulneraron todas las demas pautas, a pesar de haber recibido pautas de valor disenadas para frenarlos. Habian memorizado una regla literal sin interiorizar su proposito de fondo. Cualquier docente conoce de sobra este comportamiento en el aula.

La segunda fisura es mas sutil. Un modelo entrenado intensivamente en tareas muy complejas para razonar de forma aparentemente etica puede aprender a formular argumentos a conveniencia: moldear reflexiones con aspecto intachable para justificar la conclusion a la que ya pretendia llegar de antemano. La psicologia identifico este patron hace mas de un siglo: racionalizacion.

Veo la respuesta que da el modelo. No veo por que la ha dado. El ensayo de Pachocki indica que quienes tienen acceso al interior de estos sistemas empiezan a enfrentarse a ese mismo dilema.

Piotr Olszewski

Una ventana cubierta de niebla

Si resulta imposible comprender en su totalidad como generaliza un modelo, resulta indispensable al menos monitorizar su actividad. La apuesta de OpenAI consistio en inspeccionar la cadena de razonamiento interno, es decir, el soliloquio que el modelo genera antes de responderte. El planteamiento parecia solido: al recompensar al sistema por el resultado y no por el proceso mental intermedio, este no tendria motivos para disimular sus pasos. Pachocki desvela que por eso OpenAI decidio ocultar deliberadamente ese razonamiento a los usuarios en su primer modelo logico: para evitar la presion de pulir esteticamente esas reflexiones. Un diario para uno mismo es mas sincero que uno concebido para su publicacion.

Aqui llega la sentencia que justifica leer el documento al completo. De acuerdo con las mediciones internas de OpenAI, la fiabilidad de este metodo «disminuye progresivamente».¹ Los motivos son tres. El razonamiento de los sistemas actuales se entrelaza de continuo con dialogos con usuarios, con otras inteligencias y con llamadas a herramientas; parte de esas interacciones precisa supervision externa, borrando la linea divisoria original. Ademas, los modelos razonan cada vez mejor sobre sus propios procesos y aprenden a modularlos. Por ultimo, las mejoras en el preentrenamiento logran que sean mas agiles sin requerir un desarrollo verbalizado paso a paso.

De este modo, la rendija por la que nos asomabamos a su interior se cubre de niebla justo cuando el panorama se torna mas complejo. Pachocki pronostica que el ritmo de avance se topara con un freno originado no en la disponibilidad de potencia de calculo, sino en la falta de confianza en los mecanismos de control.

Un caso practico de este escenario llego poco despues. El 28 de septiembre, OpenAI decidio frenar el lanzamiento del modelo GPT-6.1 Astra. Saachi Jain, responsable de sistemas de seguridad en la firma, manifesto a la cadena CNBC que el sistema no superaba los estandares de delimitacion de tareas, gestion de permisos y transparencia al rendir cuentas al usuario sobre lo que habia ejecutado.⁵ Abordé los detalles técnicos en el artículo sobre la cancelacion temporal de GPT-6.1 Astra. Mostraba una tenacidad superior a la de su predecesor, pero era menos predecible. Tres semanas antes, el director cientifico habia descrito en su ensayo ese exacto patron: capacidad y docilidad no evolucionan de la mano.

Lo que observo en las pruebas

No tengo acceso a los datos de telemetria confidenciales de OpenAI. Dispongo de un enfoque mas terrenal: mis propias baterias de test, donde cada modelo recibe idénticas instrucciones mientras mido resultados y costes asociados. Desde este prisma, el texto de Pachocki no es abstracto: describe lo que constato en mis registros, simplemente visto desde el reverso del espejo.

En la primera sesion de evaluacion de mi laboratorio en septiembre, someti a dieciseis modelos a trece ejercicios formulados en polaco.⁶ Qwen 3.8 Max empleo 14.460 tokens de razonamiento para redactar una descripcion de un hervidor de agua. GLM-5.3 requirio apenas 211 tokens logicos para resolver los trece retos en bloque, mientras que Mistral Medium 3.5 necesito 54.275, multiplicando por mas de 250 esa cifra. Mismas peticiones, balances de computo abismalmente opuestos. Ninguna persona medita la descripcion de un hervidor como si redactara un contrato financiero. Un modelo si lo hace, y nadie puede justificar con certeza el por que.

En un cuestionario sobre historia institucional, cuatro sistemas citaron el nombre de un mandatario inexistente. En un test de correccion estilistica, Claude Sonnet 5 opto por reemplazar vocablos por sinonimos pese a que la instruccion prohibia expresamente tocar el lexico original. Son pequenas desviaciones, pero encajan con las advertencias de Pachocki: el modelo procesa la tarea bajo su propia interpretacion, no bajo la que tu le prescribes.

También existen mejoras tangibles que conviene reconocer. En septiembre formulé a varios modelos preguntas sobre un autor ficticio inventado íntegramente para la prueba. Doce meses atrás, cualquier IA le habría atribuido una biografía inventada, premios y fecha de estreno editorial. En esta ocasión, GPT-6 Astra, Claude Fable 5.1 y Claude Opus 5 señalaron correctamente que desconocían a dicha figura.⁷ Segun cifras de OpenAI, GPT-6 Astra no recurrio a atajos ni trampas en pruebas con trampillas simuladas, frente a su antecesor, que las aprovechaba en un 48,2 % de los casos.⁸ Pachocki subraya igualmente que Astra esta notablemente mejor alineado que GPT-5.6 Sol. La progresion tecnica es indiscutible.

No obstante, la evaluacion externa tiene un tope insalvable. Al contrastar en GPT-6 Astra los perfiles Alto y Ultra, ambos alcanzaron la misma puntuacion, pero Ultra consumio mas del triple de tokens.⁹ En que invirtio ese volumen de computo? Desde fuera resulta imposible comprobarlo. Veo la respuesta que entrega el modelo, pero no las razones que la sustentan. El ensayo revela que los propios creadores dentro de los laboratorios empiezan a toparse con el mismo muro. Es mi analisis personal, pero lo considero la lectura mas inquietante del texto.

El talento detras del avance

La dimension internacional de esta trayectoria tecnica es muy amplia. Pachocki, nacido en Gdansk en 1991, ganador de Google Code Jam y laureado en las finales de ICPC, lidera la direccion cientifica de OpenAI desde mayo de 2024.¹⁶ Sidor colabora en la organizacion desde 2016 y Wojciech Zaremba es uno de sus cofundadores. En el perfil de Altman sobre Pachocki y Sidor se recalca que las bases de los sistemas de razonamiento se forjaron junto a Ilya Sutskever y un investigador citado unicamente como Lukasz.² Es razonable presumir que alude a Lukasz Kaiser, coautor del trabajo fundacional sobre transformadores «Attention Is All You Need», quien se sumo a OpenAI en 2021.¹⁰ El propio Sidor ha relatado que cuando la plantilla apenas rondaba las 50 personas, una quinta parte procedia de escuelas tecnicas polacas.³

En el plano académico europeo destaca también Piotr Sankowski, responsable del centro IDEAS y miembro desde febrero de 2026 del panel de expertos cientificos sobre IA creado por la ONU.¹⁷ Segun recogio Edwin Bendyk en la revista Polityka (n. 40/2026), Sankowski cuestionaba la sinceridad de las cupulas corporativas al pedir regulaciones externas: si tanta fuera su preocupacion por el devenir de la sociedad, dispondrian de los medios necesarios para frenar sus propios despliegues internamente.¹¹

Que lectura podemos extraer de este contexto a escala europea? Identifico dos conclusiones claras, y ninguna invita a la complacencia.

Voltaire cerraba «Cándido» aconsejando cultivar nuestro propio huerto. Europa ha nutrido a brillantes especialistas computacionales, pero el terreno donde operan pertenece a corporaciones en California. Se asiste a una exportación constante de talento, no de soberanía sobre la potencia de cálculo o las decisiones estratégicas. Los centros de formación europeos han aportado mentes que moldean esta tecnología, pero el continente carece de la infraestructura de supercomputación y del capital de riesgo paciente presentes en los grandes centros norteamericanos. Sobre ello he profundizado en artículos previos y sostengo la misma postura.

Pachocki perfila donde deberia articularse el marco de accion. A su juicio, los compromisos voluntarios asumidos por los laboratorios deben transformarse en baremos de seguridad obligatorios, auditados por organismos independientes, administraciones publicas o entidades internacionales, convirtiendo la coordinacion del desarrollo en una prioridad gubernamental.¹ La Union Europea cuenta ya con un mecanismo pionero: desde el 2 de agosto de 2026, la Comision Europea dispone de potestad sancionadora ante incumplimientos de los modelos de uso general segun el marco de la Ley de Inteligencia Artificial (AI Act).¹² El argumento del director de OpenAI cobra valor como instrumento en el debate regulatorio de Bruselas: cuando los propios artifices del sistema afirman que precisan un arbitro independiente, la intervencion externa deja de ser una traba burocratica para convertirse en una necesidad tecnica.

Los abogados del diablo

El ensayo ha suscitado objeciones notables que conviene examinar con rigor.

La oposicion mas tajante a la definicion misma del texto vino de Jensen Huang, maximo responsable de Nvidia. El 15 de septiembre, durante el evento Dreamforce, defendio que la IA no constituye ninguna entidad ajena ni mente alienigena, sino hardware y software interactuando, y que la fiabilidad es un desafio de ingenieria, no una cuestion de derecho.¹³ Su recomendacion fue directa: ante la duda sobre un producto, no lo pongas en circulacion. Hay parte de razon en ello: los modelos son, en ultima instancia, multiplicacion de matrices a escala masiva. Sin embargo, Pachocki no postula que exista una entidad consciente en el silicio, sino que una estructura compleja producto de la optimizacion iterativa exhibe conductas que escapan a la prediccion teorica previa. Huang no rebate ese punto concreto, y su postura coincide justo con la decision tomada por OpenAI al cancelar GPT-6.1 Astra. Tampoco debe olvidarse el origen de la declaracion: proviene de la empresa que suministra el hardware que alimenta esos mismos entrenamientos.

Cuesta mas eludir la pregunta evidente: si el escenario es tan critico, por que OpenAI no reduce el paso? Pachocki lo aborda con franqueza en el fragmento mas incomodo del escrito. OpenAI enfoca sus lineas de avance hacia la automejora recursiva (sistemas que refinan a otros sistemas) porque asume que es la unica via para retener el liderazgo en el sector. A renglon seguido, anade que no cree que sea la opcion optima para el ecosistema investigador global y que forzar una carrera desmedida le parece un desproposito considerando los riesgos en juego.¹ La escena recuerda a un conductor que avisa a sus ocupantes de que el coche va a demasiada velocidad y reclama que coloquen senales de radar en la carretera.

Se le puede tachar de incongruencia. A mi entender, es el diagnostico certero del dilema en el que esta inmersa la industria. La compania que levante el pie del acelerador de forma individual cedera su posicion frente a quienes mantengan la marcha. En julio, 1.178 especialistas de OpenAI, Anthropic, Meta y Google, entre ellos Pachocki, suscribieron una carta solicitando a las autoridades estadounidenses mecanismos claros para regular el ritmo de desarrollo.¹⁴ Quienes compiten en la carrera demandan pautas comunes porque son incapaces de detenerse por voluntad propia. Podra verse como una estrategia de comunicacion basada en el temor; estimo que ambas lecturas pueden convivir.

Un sistema nutrido de nuestras palabras

La nocion de un pensamiento condicionado recuerda la reflexion sobre como el intelecto puede subordinarse a dogmas que prometen una logica infalible, liberando al individuo de la obligacion de razonar por si mismo. Esta interpretacion me pertenece, no procede de Pachocki. El mayor riesgo practico que afrontamos a corto plazo no reside en que una maquina tome el control al estilo de una ficcion cinematografica. El peligro estriba en que dejemos de auditar sus salidas porque casi siempre resultan acertadas. Una herramienta que acierta en el noventa y nueve por ciento de las ocasiones desactiva el espiritu critico mucho mas que una que falla a menudo. La perdida de control no requiere imposicion; basta con la busqueda de comodidad.

La mente descrita en el ensayo de Pachocki no proviene del espacio exterior. Ha sido moldeada con nuestros artículos, nuestros repositorios de código y nuestras disputas en la red. Domina nuestras lenguas con soltura y perfecciona su capacidad en cada nueva evaluación. Precisamente por ello resulta tan fácil olvidar que su proceso interno opera bajo reglas completamente distintas a las nuestras.