Vendrán más máquinas, ¿nos harán más ciegos?

ANÁLISIS de nueva revista

En uno de los diálogos más conocidos de Platón, Fedro, el autor pone en boca de Sócrates el relato del encuentro entre Theuth, una deidad egipcia a quien se considera inventor de la escritura —entre muchas otras artes—, y el emperador Thamus, que le da un baño de realidad cuando este se acerca con sus explicaciones. En este mito platónico, Theuth explica entusiasmado que la escritura hará más sabios y memoriosos a los egipcios gracias al nuevo «fármaco de la memoria y de la sabiduría». Entonces el gobernante le recuerda que los padres de las criaturas no son buenos jueces de las mismas y lanza sus objeciones:

« […] este invento dará origen en las almas de quienes lo aprendan al olvido, por descuido del cultivo de la memoria, ya que los hombres, por culpa de su confianza en la escritura, serán traídos al recuerdo desde fuera, por unos caracteres ajenos a ellos, no desde dentro, por su propio esfuerzo. Así que, no es un remedio para la memoria, sino para suscitar el recuerdo lo que es tu invento. Apariencia de sabiduría y no sabiduría verdadera procuras a tus discípulos. Pues habiendo oído hablar de muchas cosas sin instrucción, darán la impresión de conocer muchas cosas, a pesar de ser en su mayoría unos perfectos ignorantes; y serán fastidiosos de tratar, al haberse convertido, en vez de sabios, en hombres con la presunción de serlo».

Casi 2.500 años después de su existencia, el Sócrates recreado por Platón vuelve a dar en el clavo de la precisión lingüística: «apariencia de sabiduría» es una expresión que lanza el debate sobre la inteligencia de las máquinas, en primer lugar, y, sobre todo, sobre si las máquinas hacen más o menos inteligentes a las personas. Algunos recientes estudios y libros hablan de estos temas.  

Inteligencia natural en retirada

Hace unos días, la catedrática de Teoría de la Información de la Universidad Complutense de Madrid Eva Aladro recordaba en un artículo en The Conversation a Marshall McLuhan y su teoría de la Reversión. Según esta, todo medio o herramienta humana, usada de manera abusiva, puede llegar a producir el efecto contrario para aquel que fue concebido, llegando incluso a destruir el sistema para el que se creó. La toma de control por parte de las máquinas y el sometimiento de los humanos es una distopía que ha tomado distintas formas en la ficción: Yo, robot; Mátrix, Terminator y Black Mirror son algunos de esos ejemplos. En la realidad, la operación duraría seguramente más que el metraje de una película o que las temporadas de una serie. Puestos a imaginar, sería una operación lenta, invisible y envuelta en amabilidad y complacencia. Puestos a imaginar, esas máquinas creadas para estar al servicio de los humanos atacarían silenciosamente precisamente aquello que nos hace humanos: irían a por nuestro cerebro, tendrían en el blanco la compleja inteligencia humana.

Como recuerda Aladro, esta capacidad «cambia a lo largo de la vida y en función de los estímulos o las circunstancias». Se parece a un músculo que necesita ejercicio para desarrollarse. Esa gimnasia es la resolución de problemas más o menos complejos a las que hemos de enfrentarnos a lo largo de la vida. En eso consiste —burdamente dicho— la inteligencia que defienden pensadores como José Antonio Marina.

Que herramientas como los ya antiguos buscadores o la generalizada inteligencia artificial tienen capacidad y solvencia para resolver multitud de tareas es un hecho. Y para hacerlo bien. Muy bien. ¿Quién no se ha admirado (y asustado quizá) ante la buena e inmediata ejecución de una tarea encomendada a la IA de turno? El asunto es si este supuesto aliado será capaz de modificar nuestras capacidades cognitivas y afectivas, tal y como ha hecho ya con nuestros comportamientos. Y hay algunos datos.

En un reciente artículo en Financial Times el periodista John Burn-Murdoch se preguntaba si había tocado techo la capacidad del cerebro humano. Se hizo eco del mismo Ricardo Dudda con un título más explícito: ¿Somos cada vez más tontos? Los datos manejados mezclaban, entre otros, informes PISA y el estudio Monitoring the Future. Una mirada atenta y retrospectiva a este último constataba que el porcentaje de estudiantes de último curso de bachillerato que declaraban tener dificultades para pensar, concentrarse o aprender cosas nuevas se mantuvo estable a lo largo de las décadas de 1990 y 2000, pero inició un rápido ascenso a mediados de la década de 2010. Burn-Murdoch califica esta fecha o periodo como «punto de inflexión» en el que cambió nuestra relación con la información y nos pasamos masivamente al formato online. Se aventura: «Es probable que parte de lo que estamos viendo aquí sea el resultado de la actual transición del texto a los medios visuales», el cambio hacia una sociedad ‘posalfabetizada’, a la que dedicó otro artículo, en el mismo medio, Sarah O’Connor.

A la hora de analizar resultados de la población adulta, es precio mencionar el PIAAC o Programa para la Evaluación Internacional de las Competencias de la Población Adulta (Programme for the International Assessment of Adult Competencies) que arrojaba a finales de 2023 resultados heterogéneos. Bien por Finlandia, Japón, Países Bajos, Noruega y Suecia, que destacaban en todas las áreas: lectoescritura, aritmética, resolución adaptativa de problemas… Alarma para los países de la OCDE, por datos como que el 18 por ciento de su población adulta no alcanza ni siquiera los niveles más básicos de competencia en ninguna de estas áreas.

Volviendo al texto de Burn-Murdoch, mencionaba allí «una estadística especialmente reveladora», según la cual el porcentaje de adultos incapaces de utilizar el razonamiento matemático al revisar y evaluar la validez de las afirmaciones había aumentado hasta el 25 por ciento de media en los países de renta alta, y el 35 por ciento en Estados Unidos.

A la hora de las conclusiones, el autor detallaba en qué consistía el cambio en la relación con la información: «Hemos pasado de páginas web finitas a fuentes infinitas y constantemente actualizadas y a un bombardeo constante de notificaciones». El flujo no es dominado, sino que nos domina e inunda. Un torrente de contenidos que estaría afectando a nuestras capacidades: atención, procesamiento de información, discriminación de la misma… La única buena noticia sería, en opinión del autor, que «la capacidad intelectual humana subyacente no se ve mermada». Pero esto también está en entredicho.

La victoria del hemisferio derecho

Lamberto Maffei, expresidente de la Accademia Nazionale dei Lincei y profesor emérito de Neurobiología en la Scuola Normale de Pisa, explica en su libro, publicado en Alianza, Elogio de la lentitud, que el cerebro humano tal y como lo conocemos es una máquina lenta: necesita su tiempo y se lo toma para que «podamos imprimir una impronta personal al desarrollo de nuestro cerebro, ajustando progresivamente las conexiones de las fibras nerviosas conforme a los estímulos seleccionados por nosotros o por el ambiente en el que vivimos, para que cerebro y ambiente sean compatibles en el sentido de la supervivencia y la reproducción. La tecnología ha hecho más veloces las comunicaciones entre los seres humanos, pero las de las neuronas han quedado tal cual».

Con todo, el cerebro humano ha desarrollado sus mecanismos para hacer frente a peligros, nuevos estímulos… Maffei habla, al estilo Kahneman, de pensamiento lento y rápido, ambos con funciones complementarias. El «sistema lento es un sistema plástico que, por eso mismo, puede recibir influencias del ambiente y en particular de la evolución cultural. Esta característica ofrece la ventaja de armonizarse con la evolución tecnológica, pero también supone el riesgo de que el mundo fuertemente técnico en el que vivimos influya negativamente en este sistema y reduzca su control sobre la conducta». El autor viene de explicar que fenómenos como la globalización, la aceleración y el consumismo favorecen los automatismos y es ahí donde el hemisferio derecho doblega al izquierdo, pues las propiedades de este último, el lenguaje, la lógica y el razonamiento, «son evolutivamente más tardías en comparación con los automatismos y las propiedades del hemisferio derecho. Esto significa que podríamos asistir a un retroceso en el tiempo; es decir, a un cerebro que tiende a emplear funciones más primitivas porque se beneficia de ellas para la sociabilidad característica del mundo globalizado y para la necesidad de dar respuestas rápidas, con la idea emocional y fideísta de optimizar el tiempo porque es dinero, negocios, etc. Se daría la paradoja de que la globalización, último estadio de la vida civilizada, produciría una involución cerebral».

Apariencia de sabiduría, apariencia de empatía

El efecto Dunning-Kruger es aquel por el que alguien de conocimiento limitado tiende a sobreestimar su capacidad a causa, precisamente, de su no saber nada (o casi nada), que diría Sócrates. Volvemos a él y a la cita que abría el texto. Si hasta ahora se ha tratado la posibilidad de que las innovaciones tecnológicas supusieran una apariencia de sabiduría, pudiendo incluso entorpecer el desarrollo de la misma a causa de una merma en las capacidades, ahora nos fijaremos en la última parte de la cita de Fedro, esa que se refiere a los usuarios deslumbrados por los nuevos artefactos. Un recordatorio:

«Pues habiendo oído hablar de muchas cosas sin instrucción, darán la impresión de conocer muchas cosas, a pesar de ser en su mayoría unos perfectos ignorantes; y serán fastidiosos de tratar, al haberse convertido, en vez de sabios, en hombres con la presunción de serlo».

A poco que se haya tratado con una inteligencia artificial se cae en la cuenta de qué verdad es que dos no discuten si uno —el algoritmo en este caso— no quiere. Y el algoritmo no quiere discutir, solo quiere comida, su alimento en forma de preguntas, es decir información. No importa si te has equivocado o si estás de mal humor, sus palabras dulzarronas llegarán solícitas: siempre a tu servicio.

A propósito de la solicitud y complacencia de los algoritmos, escribía Michael Ventura en The New York Times unas líneas muy interesantes: «Lo vemos ahora con la inteligencia artificial, donde los sistemas están cada vez más entrenados para simular respuestas empáticas. Tu chatbot se disculpa por tu frustración, tu asistente virtual te da ánimos y tu aplicación de salud mental te escucha sin juzgarte. Ninguno de estos sistemas siente nada: solo saben qué decir. Estamos entrando en un mundo en el que los algoritmos ‘empáticos’ superan a nuestros jefes a la hora de reconocer la angustia, pero carecen de brújula moral para decidir qué hacer con ella. Y si no tenemos cuidado, pronto confundiremos actuación con atención. Al hacerlo, no solo externalizamos el trabajo emocional, sino también nuestra responsabilidad emocional hacia los demás”. Concluye así con la tesis que expone el grueso del artículo: «La empatía sin responsabilidad es vacía y engañosa. Induce a la gente a una falsa seguridad. Y rompe la confianza que pretende crear».

Las buenas palabras y la mala empatía de las máquinas pueden tener éxito y ser eficaces a la hora de hacernos pensar que jamás estamos equivocados, solo «no hemos formulado la pregunta adecuada». El efecto Dunning-Kruger tiene asegurada una larga vida.

Esta entrada ha sido elaborada por Pilar Gómez Rodríguez con las fuentes que se mencionan. Siempre que ha sido posible se han incorporado los enlaces oportunos. La imagen es del repositorio de Pixabay, su autor es geralt y se puede consultar aquí.