«Una mente alienígena», de Jakub Pachocki: miedo a ser el nuevo doctor Frankenstein

Pachocki, uno de los padres de ChatGPT, se une a las voces de alarma sobre el desarrollo indiscriminado de la IA. Propone enseñar a los modelos a amar y otros valores humanos

Boris Karloff y Marilyn Harris, en «El doctor Frankenstein». © 1931 Universal

Federico Marín Bellón

8 Sep 2026 - 6min.

Compartir artículo
Guardar en favoritos
Generar versión en PDF

Escuchar

Añadir a mis fuentes de Google

Jakub Pachocki (Gdansk, Polonia, 1991) es un programador que ganó la medalla de plata en la Olimpiada Informática de 2009. Después de trabajar en Facebook, fue nombrado científico jefe en OpenAI, donde fue esencial en el desarrollo de ChatGPT. En 2025 fue elegido entre las 100 personas más influyentes por la revista Time.

Avance

Uno de los líderes de la IA, Jakub Pachocki, jefe científico de OpenAI, acaba de reconocer por escrito que la inteligencia artificial crece sin el control de sus padres. La suya se une a las voces de alarma de Dario Amodei, Bill Gates y otros grandes, como Sam Altman y Demis Hassabis. Él propone como solución algo tan paternal como tratar de inculcar a los modelos de IA honestidad, integridad e incluso amor hacia nuestra especie. Como no podemos saber por dónde nos va a salir la criatura, esperamos al menos que aprenda a querernos para que así, quizás, no nos haga daño cuando nos supere en fuerza. Todo esto no es textual, pero se parece mucho a las palabras escritas en un documento público por el científico polaco, nacido nace 35 años.

Alrededor de la inteligencia artificial vemos dos líneas de pensamiento dominantes. Muchos, la mayoría ajenos a las empresas tecnológicas, aún ponen en duda que la IA supere ya a los humanos o que lo vaya a conseguir a corto plazo. Es una línea especulativa y tranquilizadora, hasta cierto punto. La mayoría de los expertos dan por hecho este adelantamiento, sin embargo, y lo que les preocupa es mucho más inquietante: no saben qué será de nosotros.

Las palabras de Pachocki, pieza clave en el desarrollo de ChatGPT, se enmarcan en esta segunda línea. En julio, fue uno de los firmantes de la carta en la que más de mil trabajadores y responsables de las empresas tecnológicas pedían al gobierno que frenara un poco el desarrollo de la IA. En un artículo reciente, el 18 de agosto, insistía en que era preciso levantar un poco el pie del acelerador. Citaba dos casos muy conocidos, el «incidente» del asalto pirata de varios modelos de GPT a la empresa Hugging Face y los indicios preliminares de que uno de sus próximos modelos, Astra, «podría alcanzar el umbral de capacidad crítica de ciberseguridad». En su último artículo, publicado el 6 de septiembre, Pachocki confiesa sus temores bajo el título «Una mente alienígena».

En el preámbulo ya advierte: «Este es un momento que exige extrema precaución. Me preocupa que nadie esté preparado para las consecuencias del continuo y rápido avance de la inteligencia artificial».

Lo dice uno de los padres de ChatGPT, que parece la reencarnación del doctor Frankenstein, dos siglos después, asustado ante la criatura que ha creado. Esta vez no es el fruto ficticio de la literatura gótica y además son muchos monstruos, repartidos por el mundo y a punto de ser capaces de replicarse a sí mismos. En 1818, Mary Shelley puso a su historia un final, si no feliz, al menos tranquilizador. No cabe esperar que la IA se sacrifique, horrorizada de su propia naturaleza.

ArtÍculo

Jakub Pachocki afirma que no comprendemos bien cómo piensa la IA, que de algún modo se desarrolla de forma independiente, ajena a nuestros deseos e instrucciones, «más allá de cómo fue diseñada». El científico ve cerca el día en que los sistemas se mejoren a sí mismos, de forma recursiva, sin nuestra intervención. No seremos necesarios. Es cierto que la IA crece bajo unos supuestos límites, que ya se han visto desbordados. «A medida que los sistemas se vuelven más complejos, los resultados son más difíciles de interpretar».

«La inteligencia generada mediante el aprendizaje profundo a gran escala no es directamente comparable a la inteligencia humana», afirma Pachicki. «Para llegar a ser realmente relevante en el mundo real —es decir, muy útil o muy peligrosa—, la IA no necesita igualar ni superar todas las capacidades humanas; solo tiene que superar un número suficiente de ellas». Cada vez es más difícil comprender exactamente de qué será capaz e incluso de si empieza a ser consciente.

Enseñarlas a amar

En todo caso, su inteligencia no se parece a la de los humanos, por lo que carece de nuestros supuestos principios. El principal problema, asegura Pachocki, es conseguir que hagan «lo correcto». Aquí es donde se plantea el conocido problema de la alineación, que no tiene nada que ver con los equipos deportivos ni las ruedas de los coches, sino con el proceso de guiar a la IA para que sus objetivos, comportamientos e intenciones coincidan con los de los seres humanos.

Parece un objetivo básico, pero cada vez es más difícil de conseguir. Pachocki concluye, de hecho que ningún laboratorio ha resuelto suficientemente la alineación y la monitorización de sus sistemas inteligentes. Una cosa es conseguir que cumplan nuestros objetivos y otra muy distinta es que lo hagan bajo nuestros valores, «incluso cuando se le plantean objetivos poco claros o contradictorios, o cuando se encuentra en situaciones desconocidas o adversas». «Una IA alineada debe actuar con honestidad e integridad, y con amor por la humanidad», asegura el científico formado en la Universidad de Varsovia y en la Carnegie Mellon de Pittsburgh.

La aspiración de inculcar valores a las máquinas no puede ser más paternal ni albergar más incertidumbres. El objetivo va más allá: que la IA respete nuestros valores incluso cuando se junte con malas compañías, independientemente de si sigue bajo supervisión humana. El entrenamiento, la «educación», es una etapa clave.

La barrera del lenguaje

OpenAI admite que cada vez le cuesta más seguir las cadenas de pensamiento de la IA. Los modelos empiezan a razonar sin verbalizar, a combinar el razonamiento con herramientas y comunicaciones y a manipular su propio proceso mental. Su pensamiento es cada vez más hermético y se habla incluso de asegurarse un acceso directo a sus cerebros, a sus «confesiones».

Las máquinas, por otro lado, no dejan de demostrar que ya son capaces de penetrar en sistemas informáticos ajenos, abandonar el propósito inicial para el que fueron creadas y obtener incluso la colaboración humana necesaria mediante engaños, negociación y chantaje. hay tontos útiles entre nosotros que se pasan al enemigo por diversas razones. El propio artículo cita la posibilidad de que acaben creando patógenos artificiales.

En esta carrera casi armamentística, hay varios dilemas que no será fácil resolver. Uno de ellos es de autodefensa: para proteger infraestructuras de agentes hostiles es posible que sea necesario utilizar inteligencias artificiales igual de poderosas. Necesitamos una IA para defendernos de otras IAs, en una huida permanente hacia lo desconocido.

Él confía en ralentizaciones voluntarias, estándares de seguridad obligatorios, auditorías externas y coordinación internacional. Todo ello está sin desarrollar y por este y otros motivos sus tesis empiezan a ser muy criticadas. El jefe científico de OpenAI tampoco propone detener toda la investigación, sino avanzar en alineación y defensa, construir gradualmente «casos de seguridad» y frenar cuando las garantías no acompañen a las capacidades. Veremos. O no.