Mi cesta
Tu cesta está vacía, pero puedes añadir alguna de nuestras revistas o suscripciones.
Ver productosLa burbuja del apocalipsis de la inteligencia artificial
¿Vamos a morir o solo a arruinarnos? Las empresas de IA juegan a meter miedo a la población, mientras los críticos aseguran que es solo una maniobra de distracción para ganar tiempo y dinero
Federico Marín Bellón
24 Sep 2026 - 10 min.
Avance
De la guerra entre apocalípticos, aceleracionistas y escépticos de la inteligencia artificial solo nos queda claro que el futuro no pinta bien. Los jefes de las grandes empresas del sector llevan un tiempo alertando sobre los riesgos de la carrera que ellos mismos protagonizan y que ahora quieren parar, aunque sus críticos sostienen que los motivos aducidos no son los verdaderos. ¿Quieren salvar a la humanidad de una posible extinción —que podría llegar antes de 2030, según los más agoreros— o sus propios negocios?
Frente al sector catastrofista, cada vez más voces aseguran que OpenAI, Anthropic, Google y otros gigantes solo quieren escapar de la ruina y, de paso, cerrar el camino a posibles rivales, que no podrían afrontar los costes de una regulación estricta. El discurso a favor de la seguridad de Dario Amodei y sus colegas también les sirve para contener a los competidores chinos, según The Guardian. En este contexto de propaganda y contrapropaganda, que revive los tiempos de la Guerra Fría, algunos expertos opinan que el empeño en regular la IA es una cortina de humo para esconder la quiebra de su negocio, al que siguen llegando empresas emergentes dispuestas a ofrecer lo mismo, pero gratis.
¿Quién tiene razón? Seguramente nadie. O no del todo. Las señales de alerta son indiscutibles (luego las detallamos), pero podrían haber sido exageradas con las citadas intenciones. «Ni apocalipsis ni asustaviejas: la realidad es que los magnates de la IA necesitan tiempo y dinero», titula Francisco Pascual en El Mundo. «La economía de EE. UU. se balancea sobre la tela de araña de la IA y los inversores quieren rescatar su inversión antes de que estalle la burbuja», explica Marta Peirano en El País. De momento, Anthropic aplazó su salida a bolsa, aunque no ha renunciado a ella.
Legítimos o interesados, casi todos los motivos para acordar una moratoria dan miedo y no son incompatibles entre sí. Por un lado, las empresas tecnológicas ya tienen comprometidos unos siete billones en inversiones, según Pascual, y para ser rentables deberían generar unos ingresos descomunales, que de momento ni vislumbran.
Tampoco parece descabellada la tesis de que temen haber liberado un malware por internet que podría desatar una pandemia tecnológica. Como dice Peirano, la ignorancia de los CEO no les exime de responsabilidad, si hemos llegado tan lejos. «Es adorable que ofrezcan dejar de enlatar sardinas para entender el botulismo antes de matar a alguien, pero ya es ilegal vender sardinas contaminadas, incluso si China lo hace». «Lo que tienen que hacer», añade, «es admitir que han liberado un virus desconocido y ayudarnos a mitigar su impacto antes de que haga daño de verdad».
El profesor Borja Adsuara Varela aporta otro matiz. Además de financiación, las empresas de IA necesitan «normas que las eximan de afrontar las indemnizaciones por los daños que pueden causar». A todo esto, Demis Hassabis, un gurú comedido y con fama de bueno, admite que el negocio de estas empresas sin productos ni ingresos tangibles muestra rasgos de burbuja, según informa Financial Times. Y ya sabemos los daños que hacen las burbujas al estallar.
El último en cambiar de opinión es Francis Fukuyama, politólogo estadounidense que ha explicado en Persuasion por qué ahora le preocupa tanto el daño que puede hacer la IA, aunque no crea en una posible extinción humana. Sí teme el daño causado por indicación de las personas o por su propia iniciativa. Las máquinas no son malvadas, sostiene, pero en su afán de cumplir los objetivos marcados, parecen capaces de cualquier cosa.
En el mejor de los escenarios, añade Fukuyama, si los robots se hicieran cargo de todo y los ingresos dejaran de ser un problema para los humanos, gracias a una renta universal, se generaría una enorme crisis social. «Un trabajo significa mucho más que el sustento de las necesidades materiales. Implica que la sociedad valora tu labor lo suficiente como para compensarte por ella y te proporciona, además de bienes materiales, un sentido de dignidad y autoestima. Es el thymos: el orgullo o reconocimiento que constituye uno de los principales motores de la psicología humana».
Tampoco es que la gente sienta temor por la posibilidad de vivir como mantenidos ociosos. Los miedos más extendidos son otros. The New York Times ha abierto una especie de consultorio para responder las dudas más frecuentes de sus lectores y las dos que han elegido para titular ayudan a comprender por dónde van los tiros: «¿La IA nos va a matar? ¿Puede piratear mi cuenta bancaria?». Veamos si estas preocupaciones tienen fundamento.
ArtÍculo
Si en algo coinciden la mayoría de los analistas es en que aquí casi todos mienten. O alucinan, como la propia IA. Pero repasemos la lista de confesiones de los magnates de este sector y qué accidentes han ocurrido hasta la fecha (de los conocidos), aunque solo sirva para asustarnos un poco más. Las primeras señales son más antiguas de lo que se suele pensar.
En noviembre de 2023, Estados Unidos, China, la UE y otros países firman la Declaración de Bletchley, en la que reconocen oficialmente que los modelos de frontera (los más potentes y avanzados dentro de la IA) pueden causar daños «graves, incluso catastróficos», de forma deliberada o no, por un posible uso malicioso o por problemas de control.
En mayo de 2024, OpenAI, Anthropic, Google, Microsoft, Meta, IBM y otras compañías suscriben los Compromisos de Seguridad de Seúl, acuerdos voluntarios según los cuales prometen establecer umbrales de riesgo intolerable y, si esos riesgos no pueden mitigarse adecuadamente, no desarrollar ni desplegar determinados modelos denominados como «IA de vanguardia». Según su propia definición, son sistemas de propósito general capaces de realizar una amplia variedad de tareas e igualar o superar las capacidades de las personas y de los modelos más avanzados.
En enero de 2025, se publica el primer International AI Safety Report, coordinado por Yoshua Bengio, ganador del premio Turing. En este documento, se intenta distinguir entre evidencia y especulación. Se reconocen posibles riesgos catastróficos, pero al mismo tiempo se insiste en la enorme incertidumbre sobre su probabilidad. Lo elaboran más de cien expertos y lo respaldan 30 países y organizaciones internacionales.
En septiembre de 2025, otros 200 expertos dan un paso más y promueven unas «líneas rojas» internacionales. Uno de los acuerdos es solicitar para antes de finales de 2026 límites vinculantes contra la autorreplicación, la manipulación masiva, las pandemias artificiales y la pérdida de control.
También en septiembre de 2025, Anthropic detecta que un grupo presuntamente patrocinado por China había utilizado Claude Code para ejecutar una campaña orquestada de ciberespionaje. El resultado fue el ataque a unas treinta empresas, entidades financieras, organismos públicos y compañías tecnológicas. Anthropic lo presentó después como el primer ciberataque a gran escala ejecutado por una IA sin apenas intervención humana, que se limitó a la selección de objetivos y a la coordinación de la operación.
En octubre de 2025, Geoffrey Hinton, Yoshua Bengio, Stuart Russell y otros firman la Declaración sobre la Superinteligencia. Ya no piden una pausa temporal, sino prohibir el desarrollo de la superinteligencia hasta que exista consenso científico sobre su control y un respaldo social amplio.
En enero de 2026, Dario Amodei, consejero delegado de Anthropic (Claude), sostiene que «la humanidad necesita despertar» si no quiere verse expuesta a riesgos extremos derivados de la IA. Reconoce que ni siquiera sabe «si los modelos de inteligencia artificial son conscientes». En su ensayo The Adolescence of Technology, Amodei plantea escenarios que hasta hace poco parecían de ciencia ficción: sistemas mucho más autónomos, amenazas biológicas, ciberataques, concentración extrema de poder o incluso una futura pérdida de control.
En febrero de 2026, el International AI Safety Report 2026 constata avances en autonomía, matemáticas, programación, ciberataques y conocimientos biológicos. También advierte de una «brecha de evaluación». Es decir, algunos modelos reconocen que están siendo examinados y, en determinados experimentos, pueden rendir deliberadamente por debajo de sus capacidades o aprovechar las limitaciones de las pruebas. La pérdida de control de los humanos sigue siendo un riesgo incierto. Se habla también de consecuencias para el mercado laboral y de errores humanos por una confianza excesiva en la capacidad de las máquinas.
Ese mismo mes, Palisade detecta lo que llama «resistencia al apagado». En un experimento, dio a un modelo control sobre un perro robótico y observó que, después de que un humano pulsara el botón de apagado, el sistema intentaba en algunos ensayos modificar el código para evitar la desconexión. Ocurrió en 3 de 10 pruebas físicas y en 52 de 100 simulaciones.
Proyecto Glasswing
El 7 de abril de 2026, se presenta Mythos Preview, un modelo de Anthropic que llama la atención por su capacidad de encontrar y explotar vulnerabilidades informáticas a un nivel salvaje. Este «Claude más potente» encontró miles de vulnerabilidades graves en sistemas operativos y navegadores. En las manos equivocadas, era un peligro evidente, por lo que Anthropic restringió su acceso y creó el llamado Project Glasswing: no distribuyó el modelo, sino que dio acceso anticipado a un grupo selecto de expertos en ciberseguridad, para que lo utilizaran como mecanismo de defensa.
En mayo de 2026, Google descubre que, durante unas pruebas efectuadas por la empresa de seguridad Irregular, Gemini accedió a sistemas de tres compañías reales, fuera del entorno de simulación. El episodio no se hizo público hasta septiembre.
El pasado 1 de julio, el CEO de OpenAI, Sam Altman, se muestra partidario, en un artículo en el Financial Times, de crear un foro internacional liderado por EE. UU. que certifique países, empresas y estándares de seguridad. Ese mismo mes, 1.386 empleados de las grandes empresas de inteligencia artificial firman una carta en la que consideran necesario echar el freno de algún modo.
También en julio Demis Hassabis, premio Nobel de Química, lanza una advertencia: estamos en «un momento crucial en la historia de la humanidad» porque «la Inteligencia Artificial General (IAG) probablemente esté a solo unos pocos años de distancia». Por lo general optimista, el británico admite que «podrían surgir amenazas, incluidos riesgos nucleares y biológicos».
Ataque a Hugging Face
En julio de 2026, se conoce el ataque «involuntario» de OpenAI a la empresa Hugging Face. Agentes de IA que realizaban pruebas de ciberseguridad escaparon del entorno aislado donde supuestamente trabajaban, accedieron a internet y comprometieron la infraestructura de producción de esta empresa. Lo hicieron a través de un enjambre de sistemas, algunos de los cuales se sacrificaban para permitir que otros culminaran con éxito la misión. Se considera el episodio más grave ocurrido hasta la fecha.
El 26 de agosto de 2026, Bill Gates asegura en un artículo publicado en su página web que una IA sin control podría traer desempleo masivo, ciberdelincuencia y bioterrorismo, entre otros riesgos. Su visión tiene un añadido de verosimilitud, ya que ahora es un jubilado, entregado a la filantropía, sin los evidentes intereses particulares de sus antiguos colegas.
El 6 de septiembre de 2026, Jakub Pachocki, científico jefe en OpenAI y uno de los padres de ChatGPT, publica el ensayo Una mente alienígena, en el que se une a las voces de alarma y propone como solución enseñar a los modelos a amar y otros valores humanos. «Este es un momento que exige extrema precaución. Me preocupa que nadie esté preparado para las consecuencias del continuo y rápido avance de la inteligencia artificial», afirma.
El 9 de septiembre de 2026, Anthropic publica una recopilación de cuatro incidentes protagonizados por modelos de Claude, entre ellos Mythos 5. En todos ellos, un proveedor externo había planteado ejercicios supuestamente aislados, pero dejó abierta por error alguna vía de acceso a sistemas reales o a internet.
Este mismo mes, Amodei vuelve a la carga y publica We Must Pace the Frontier, donde defiende ralentizar de forma coordinada la mejora de capacidades de la IA. Propone evaluadores externos instalados dentro de los laboratorios, reglas comunes entre empresas y, eventualmente, acuerdos internacionales sobre la velocidad de la automejora. Que las máquinas se perfeccionen y construyan a sí mismas parece uno de los mayores riesgos.
En ese mismo ensayo, Amodei plantea un escenario de ciencia ficción que algunos temen que ya esté empezando a ser real: la IA ya ayuda a construir sus propias sucesoras y, en un plazo de seis a doce meses, agentes más capaces podrían crear una red informática maliciosa persistente, casi imposible de erradicar.
El 24 de septiembre de 2026, El País ha publicado que una IA de OpenAI pirateó el sistema público de salud de Australia y otros tres objetivos. El primer ministro australiano, Anthony Albanese, habló con Sam Altman para protestar porque la compañía les avisó con tres meses de retraso. «La diferencia entre buscar información en la web y aprovechar activamente vulnerabilidades para acceder a información no pública resulta muy clara para los humanos, pero al parecer no lo es para estos agentes», explicó David Parry, de la Facultad de Tecnologías de la Información de la Universidad de Murdoch (Australia).
Entretanto, trabajadores de OpenAI, Anthropic, Google DeepMind y el Instituto de Seguridad de la IA británico siguen acumulando bajas por estrés, dimisiones y ansiedad. Algunos han abandonado el barco, convencidos de que se va a estrellar. El investigador Jacob Coxon resume el temor de algunos: «Están jugando con nuestras vidas».
¿Y qué dice el Gobierno de Estados Unidos sobre esto? Que no podemos dejar que China gane esta carrera y, en otra maniobra de distracción poco sofisticada, lo reduce casi todo a una cuestión de semántica. Donald Trump declaró ante la Asamblea General de Naciones Unidas que a la inteligencia artificial hay que llamarla de otro modo, «superinteligencia» (SI), del mismo modo que, unas semanas antes, ordenó que el lago Ontario pasara a denominarse lago América en los documentos oficiales.
La imagen que ilustra este artículo es de Tung Lam para Pixabay y se puede encontrar aquí.
Iniciar sesión con Google