«Profecía», de Carissa Véliz: los nuevos oráculos en la era de la IA

ArtÍculo

¿Por qué sentimos una necesidad casi irresistible de conocer el futuro? Antes de consultar un algoritmo, los seres humanos acudíamos a Delfos; antes de confiar en modelos matemáticos, preguntábamos a los astrólogos; antes de la inteligencia artificial existieron augures, profetas, adivinos y pitonisas. Cambian los instrumentos, pero no la ansiedad humana por conocer el futuro. Seguimos deseando que alguien nos diga qué ocurrirá mañana.

Esa es la cuestión que articula Profecía, el nuevo ensayo de la filósofa Carissa Véliz, profesora de la Universidad de Oxford. Aunque la inteligencia artificial ocupa un lugar destacado en sus páginas, el verdadero protagonista del libro no es ChatGPT ni Silicon Valley, sino una obsesión mucho más antigua: el deseo humano de anticipar el futuro. Desde esa perspectiva, la IA constituye únicamente el episodio más reciente de una larga historia de oráculos.

La tesis fuerte del libro puede resumirse en una frase: la predicción nunca ha sido solamente una cuestión de conocimiento; siempre ha sido también una cuestión de poder. Quien afirma conocer el futuro adquiere una enorme capacidad para influir sobre las decisiones ajenas.

Véliz desarrolla esta idea mediante una estructura muy bien construida. La primera parte reconstruye una breve historia de las predicciones, desde los oráculos antiguos hasta la matematización moderna de la incertidumbre y la aparición de la inteligencia artificial como «nuevo Oráculo de Delfos». La segunda analiza los peligros de convertir las predicciones en verdades objetivas y estudia cómo los pronósticos pueden terminar funcionando como profecías autocumplidas. Finalmente, la tercera parte abandona el diagnóstico para preguntarse cómo vivir en un mundo inevitablemente incierto, reivindicando la verdad, la virtud, la belleza, la creatividad, el humor y la resiliencia como antídotos frente a la obsesión predictiva. Esa evolución convierte el ensayo, poco a poco, en algo más que un libro sobre tecnología: acaba siendo una reflexión sobre la condición humana.

Uno de sus mayores aciertos consiste precisamente en desplazar la discusión desde las máquinas hacia nosotros mismos. Solemos pensar que el problema reside en los algoritmos. Véliz sostiene algo más incómodo: el problema comienza mucho antes. Somos criaturas extraordinariamente capaces de imaginar el futuro. Esa facultad nos ha permitido sobrevivir durante cientos de miles de años. Anticipar peligros, planificar cosechas o prever consecuencias constituye una de las ventajas evolutivas decisivas de nuestra especie.

Pero esa misma capacidad tiene un reverso. Precisamente porque podemos imaginar el futuro también somos vulnerables al miedo. Nuestra imaginación produce ciencia, arte y civilización, pero también ansiedad. Nos inquieta aquello que todavía no ha sucedido. El futuro es el lugar donde pasaremos el resto de nuestra vida, como dijo Woody Allen, y por eso nunca deja de preocuparnos. Esa necesidad de certidumbre explica el éxito permanente de todos aquellos que aseguran saber lo que ocurrirá mañana, desde los antiguos adivinos hasta las modernas empresas tecnológicas.

Aquí aparece una de las intuiciones más sugerentes del ensayo. Los seres humanos no buscamos predicciones únicamente porque sean útiles; las buscamos porque alivian la incertidumbre. El problema es que esa búsqueda nos vuelve especialmente vulnerables al engaño, al autoengaño y a quienes prometen eliminar el riesgo mediante fórmulas aparentemente infalibles.

Los algoritmos del presente

La autora dirige entonces la mirada hacia nuestro presente. Bancos, aseguradoras, hospitales, plataformas digitales, redes sociales o agencias gubernamentales viven rodeados de modelos predictivos. Casi todas las decisiones relevantes pasan hoy por algún tipo de algoritmo estadístico. De ahí la provocadora analogía que atraviesa el libro: la inteligencia artificial ocupa hoy el lugar simbólico que durante siglos ocuparon los oráculos. Los nuevos sacerdotes ya no hablan en nombre de Apolo, sino de los datos.

La comparación es eficaz porque obliga al lector a mirar la inteligencia artificial desde un ángulo poco habitual. Más que preguntarnos cuánto saben los algoritmos, deberíamos preguntarnos quién obtiene poder gracias a ellos. Porque, recuerda Véliz, una predicción nunca deja de ser una conjetura.

Los modelos de inteligencia artificial trabajan con probabilidades extraídas del pasado; no tienen acceso privilegiado al futuro. Sin embargo, existe una tendencia creciente a convertir esas probabilidades en auténticos veredictos. Cuando un algoritmo estima la probabilidad de reincidencia de un preso, de impago de un cliente o de éxito de un candidato a un empleo, existe el riesgo de tratar esa estimación como si describiera un hecho consumado. Y ahí reside uno de los mayores peligros de la cultura algorítmica.

Las predicciones no solo describen comportamientos; muchas veces contribuyen a producirlos. Clasificar a una persona como «de riesgo» modifica la forma en que las instituciones la tratarán y termina condicionando el propio futuro que pretendía anticiparse. En este sentido, Véliz recupera una vieja intuición sociológica: muchas profecías funcionan porque la sociedad actúa como si ya fueran verdaderas.

El libro resulta especialmente convincente cuando denuncia la retórica casi mesiánica que rodea a la inteligencia artificial. Silicon Valley ha construido durante años un relato según el cual bastaría acumular suficientes datos para resolver cualquier problema humano. Frente a ese optimismo tecnológico, Véliz recuerda algo elemental: disponer de más información no garantiza mejores decisiones. La complejidad del mundo continúa siendo irreductible, y existen dimensiones de la existencia —la libertad, la creatividad o el juicio moral— que difícilmente pueden reducirse a un cálculo probabilístico.

Especial interés tiene también la última parte del libro, probablemente la más filosófica. Tras describir los riesgos de la obsesión predictiva, la autora propone recuperar una serie de ideales —la verdad, la virtud, la belleza— que ninguna inteligencia artificial puede sustituir. La creatividad, el humor o el coraje aparecen aquí no como simples cualidades personales, sino como formas de resistir frente a una cultura empeñada en convertir toda conducta humana en una variable estadística. La mejor respuesta frente a la incertidumbre no consiste en eliminarla, sino en aprender a vivir con ella.

El arte de vivir

Es precisamente ahí donde Profecía deja de ser un ensayo sobre algoritmos para convertirse en un libro sobre el arte de vivir. La libertad exige aceptar que el futuro permanece abierto. Cuanto más aprendemos a convivir con la incertidumbre, menos dependemos de quienes prometen certezas imposibles.

Precisamente porque el libro aspira a llegar a un público amplio, Véliz privilegia la claridad narrativa sobre la precisión conceptual. Esa elección constituye una de sus mayores virtudes divulgativas, pero explica también algunas de sus limitaciones. En diversos pasajes recurre a afirmaciones deliberadamente rotundas, analogías muy sugestivas o formulaciones cuya fuerza retórica supera, en ocasiones, su desarrollo argumentativo. Algunas de sus críticas a la inteligencia artificial, al capitalismo de datos o a las grandes empresas tecnológicas habrían ganado solidez si hubieran sido acompañadas de un mayor número de matices, de un mayor rigor conceptual y de una discusión más detenida de los casos problemáticos.

Existe incluso una pequeña paradoja. Véliz denuncia con acierto el sensacionalismo con el que determinados gurús tecnológicos anuncian un futuro gobernado por inteligencias artificiales casi omnipotentes. Sin embargo, en su afán por desmontar esa retórica, incurre ocasionalmente en un procedimiento parecido: la tentación del titular brillante, de la afirmación categórica y de la imagen impactante. El libro es, sin duda, más reflexivo que la mayoría de los ensayos divulgativos sobre inteligencia artificial, pero a veces también resulta más persuasivo que demostrativo.

Esa observación, con todo, apenas disminuye el valor del conjunto. En un panorama editorial saturado de libros que oscilan entre la fascinación ingenua por la IA y el catastrofismo apocalíptico, Profecía propone una perspectiva mucho más interesante. Nos invita a dejar de preguntarnos únicamente qué pueden hacer los algoritmos para preguntarnos qué revela nuestra dependencia de ellos. Quizá la cuestión decisiva no sea tecnológica, sino antropológica: ¿por qué seguimos necesitando oráculos?

Al terminar el libro uno comprende que la inteligencia artificial no ha inventado nuestra obsesión por conocer el futuro. Simplemente le ha dado un nuevo lenguaje. Antes fueron las pitonisas; hoy son los modelos predictivos. Ayer eran sacerdotes; hoy son ingenieros, consultoras y grandes compañías tecnológicas. Pero la tentación permanece intacta: creer que alguien puede librarnos del riesgo de vivir.

Y esa es, probablemente, la enseñanza más valiosa del ensayo de Carissa Véliz: una sociedad verdaderamente libre no es aquella que consigue predecirlo todo, sino aquella cuyos ciudadanos han aprendido a no entregar su libertad a quienes prometen conocer el mañana.

En la imagen de arriba, «Consultando el oráculo», de John William Waterhouse, 1884. Dominio público, vía Wikimedia Commons.