León XIV pide una IA más justa en su primera encíclica, «La magnífica humanidad»

ArtÍculo

En su primera y significativa encíclica, León XIV recuerda el 135 aniversario de Rerum novarum, firmada por León XIII. Si entonces la Iglesia intervino para denunciar la explotación obrera y reclamar derechos laborales, Robert Prevost, un pontífice que no elude los conflictos más agudos de la actualidad, llama a reaccionar frente a «las nuevas esclavitudes» creadas por el capitalismo tecnológico y el dominio algorítmico. Basta un párrafo del documento para comprender la comprensión íntima demostrada por el papa de todos estos asuntos:

«Esta visión distorsionada del ser humano se traduce hoy en diversas formas de sometimiento vinculadas directamente a la economía digital. En el mundo de la IA nada es inmaterial o mágico. Cada respuesta que parece inmediata y perfecta proviene de una larga cadena de mediaciones, de una extensa red de recursos naturales, de infraestructuras energéticas y, sobre todo, de personas. Una parte significativa del funcionamiento de la economía digital se sustenta en el trabajo silencioso de millones de seres humanos, empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos —a menudo pésimos— y entrenamiento de modelos. En muchos casos se trata de jóvenes, en su mayoría mujeres, que trabajan duro a cambio de remuneraciones mínimas. A este arduo trabajo invisible se suma la tarea, aún más brutal, de la extracción de los recursos necesarios para la producción de los dispositivos y microprocesadores en los que se basa la IA».

No es la primera vez que un papa aborda los problemas que presenta la IA. Francisco ya escribió una nota (no encíclica), titulada Antiqua et nova, en la que reflexionaba sobre la relación entre la inteligencia artificial y la humana. La encíclica de León XIV, Magnifica humanitas, es un texto de gran densidad política y moral que demuestra la preocupación de la Iglesia católica por la inteligencia artificial y la revolución tecnológica.

Crítica al transhumanismo

El pontífice también describe la concentración de poder tecnológico en manos de grandes corporaciones y élites políticas. León XIV advierte que «quien controla la IA impondrá su propia visión moral», porque los algoritmos acabarán convirtiéndose en «la infraestructura invisible de los sistemas». Su preocupación central es que la inteligencia artificial deje de ser una herramienta y se convierta en una forma de gobierno silencioso sobre las conciencias, la economía y la vida social. «No serviría de nada una IA más moral, si esta moral es decidida por unos pocos», añade.

La encíclica desarrolla así una crítica frontal al paradigma tecnocrático y a las corrientes transhumanistas surgidas en Silicon Valley. León XIV cuestiona la idea de que la tecnología pueda redefinir qué significa ser humano o sustituir dimensiones esenciales de la experiencia humana, como la libertad, la conciencia moral, la compasión y el sufrimiento compartido. Frente a quienes sueñan con una humanidad «mejorada» por la técnica, el papa reivindica la fragilidad y la vulnerabilidad como elementos constitutivos de la persona.

«La magnífica humanidad»

El título, Magnifica humanitas, resume la tesis del documento: la «magnífica humanidad» no reside en la eficiencia tecnológica, sino en la dignidad irreductible de cada persona. Para León XIV, el progreso auténtico es aquel que fortalece los vínculos humanos y no el que multiplica el control o la dependencia tecnológica.

El texto dedica varios capítulos al impacto de la inteligencia artificial en el trabajo. El nuevo capitalismo digital reproduce mecanismos de explotación semejantes a los denunciados por León XIII en 1891, aunque ahora bajo formas menos evidentes. Habla de trabajadores invisibles que alimentan sistemas de IA desde países pobres, moderadores de contenidos sometidos a violencia psicológica y economías basadas en la precariedad permanente.

León XIV alerta además sobre el riesgo de una sociedad dividida entre una minoría hipertecnológica y una mayoría desplazada laboralmente. La automatización, señala, no puede justificar la exclusión social ni la destrucción masiva de empleos sin garantías de protección. En este sentido, cita a san Juan Pablo II, cuando «recordó que el desempleo es un mal grave y que, sobre todo cuando adquiere proporciones masivas, puede convertirse en una verdadera calamidad social, lo que pone especialmente de relieve la responsabilidad del Estado». Por ello, reclama «trabajo digno», regulación internacional y sistemas fiscales capaces de redistribuir la riqueza generada por las grandes plataformas tecnológicas.

Democracia frente a desinformación

Otro de los grandes ejes de la encíclica es la defensa de la democracia frente a la manipulación digital. El papa denuncia la capacidad de los algoritmos para condicionar el debate público, fomentar la polarización y convertir la información en un instrumento de poder. Advierte del peligro de las campañas de desinformación y del uso político de los datos personales, que pueden erosionar la libertad de pensamiento y vaciar las instituciones democráticas. «La desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador», afirma.

La crítica no se dirige únicamente a las empresas tecnológicas. León XIV también responsabiliza a los Estados por permitir un desarrollo desregulado de la inteligencia artificial. La encíclica reclama marcos jurídicos internacionales que garanticen transparencia, límites éticos y supervisión pública. Para el Pontífice, dejar el futuro digital en manos del mercado supondría una renuncia política y moral.

Educación

En el terreno educativo, el papa expresa preocupación por una generación que crece rodeada de pantallas y sistemas automáticos de recomendación. Considera que el riesgo no es solo la pérdida de atención o pensamiento crítico, sino la sustitución progresiva de la experiencia humana por interacciones mediadas tecnológicamente. La educación, afirma, debe formar personas libres y no consumidores pasivos de estímulos digitales: «Si no estamos atentos, puede surgir un sistema educativo carente de amor por la verdad».

También insiste en que la inteligencia artificial «no es neutral». León XIV rechaza la idea de que los algoritmos funcionen al margen de valores e intereses. Toda tecnología refleja una determinada concepción del ser humano y del poder. Por eso, hace falta «discernimiento ético» (la palabra discernimiento aparece 23 veces) y una cultura de responsabilidad compartida.

Desigualdad

La encíclica también se ocupa de la desigualdad global. León XIV denuncia que la revolución digital puede ampliar todavía más la brecha entre países ricos y pobres. Mientras algunas sociedades acumulan datos, capital y capacidad computacional, otras quedan reducidas a simples proveedoras de recursos y mano de obra barata. Propone fortalecer el multilateralismo y construir una gobernanza internacional de la tecnología basada en el bien común.

Este choca además con el enorme coste ambiental que implica la IA, debido a sus centros de datos, consumo energético, extracción de minerales y residuos electrónicos. La obsolescencia tecnológica es presentada como parte de una «cultura del descarte», nociva tanto para las personas como para el planeta.

Aportaciones positivas de la IA

Y aunque el tono general del documento es crítico, Magnifica humanitas no es una condena absoluta de la tecnología. León XIV reconoce el potencial positivo de la inteligencia artificial en campos como la medicina, la investigación científica y la educación, aunque insiste en que el desarrollo tecnológico debe estar subordinado a principios éticos claros y a la defensa de la dignidad humana.

El papa propone una «humanización de la técnica», que no trata tanto de frenar el progreso como de orientarlo hacia el servicio a la persona. «Toda introducción de automatización y de IA debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores, para que la tecnología se oriente a liberar tiempo y capacidades humanas, no a generar exclusión». 

La encíclica incluye además una fuerte apelación espiritual. León XIV sostiene que la crisis tecnológica es también una crisis antropológica y cultural: una sociedad obsesionada con la eficiencia, «separada de la ética y de la responsabilidad», corre el riesgo de olvidar el sentido del límite, del silencio y de la trascendencia. Frente a ello, el papa reivindica la interioridad, la contemplación y la fraternidad como antídotos contra la deshumanización.

A favor de la paz y el diálogo

En sus últimos párrafos, el papa vuelve a dirigirse de forma expresa «a quienes tienen el honor y la responsabilidad de gobernar» y les repite unas palabras que ya dijo al inicio de su pontificado:

«Los pueblos quieren la paz y yo, con el corazón en la mano, digo a los responsables de los pueblos: ¡encontrémonos, dialoguemos, negociemos! La guerra nunca es inevitable, las armas pueden y deben callar, porque no resuelven los problemas, sino que los aumentan; porque pasarán a la historia quienes siembran la paz, no quienes cosechan víctimas; porque los demás no son ante todo enemigos, sino seres humanos: no son malos a quienes odiar, sino personas con quienes hablar. Rechacemos las visiones maniqueas típicas de los relatos violentos, que dividen el mundo entre buenos y malos».

Foto: el papa León XIV, en una audiencia ante los medios. © Edgar Beltrán, The Pillar , con licencia Wikimedia Commons. El original se puede encontrar aquí.