John Searle, la habitación china y la refutación de la inteligencia artificial

Análisis de Nueva Revista

John R. Searle no era una persona fácil de encasillar, como podrían atestiguar los alumnos que pasaron por sus clases en Berkeley durante 60 años, antes de que fuera apartado de su cátedra, acusado de acoso sexual. «Aportó humor irónico y franqueza a temas tan diversos como la política de la educación superior, la naturaleza de la conciencia y los méritos de la deconstrucción textual como estilo filosófico», resume Alex Traub, experto en obituarios del diario The New York Times.

Searle destacó también por sus contribuciones a la filosofía del lenguaje y la filosofía de la mente. Además de la conciencia, le preocupaban las realidades sociales, frente a las realidades físicas y el razonamiento práctico. En el año 2000 ganó el premio Jean Nicod y era miembro de la Academia Europea de Ciencias y Artes.

Víctor Gómez Pin lo citaba en Nueva Revista, en un artículo publicado este mismo año, a propósito de sus teorías sobre la inteligencia artificial y el test de Turing. Su idea de la «habitación china» data de 1980, mucho antes de que llegara a nuestras vidas ChatGPT, Searle planteaba esta situación: una persona que no habla chino está en una habitación desde la que sigue instrucciones (en inglés) para responder preguntas utilizando símbolos chinos. Desde fuera, parece que entiende el idioma y conoce los ideogramas, pero en realidad solo manipula símbolos a partir de ciertas reglas. Eso es justo lo que hace una computadora, argumenta Searle: procesa símbolos (sintaxis), pero no comprende su significado (semántica). Por tanto, aunque una IA pase el test de Turing, no necesariamente «entiende».

Esta idea, planteada en el artículo «Minds, Brains, and Programs», es uno de los experimentos mentales más debatidos del siglo XX y tuvo una larga lista de detractores, también anteriores a nuestra época de desarrollo continuo de la IA. Según la Stanford Encyclopedia of Philosophy, el experimento mental de Searle «ha sido probablemente el argumento filosófico más debatido en la ciencia cognitiva desde la aparición de la prueba de Turing».

Las luchas de Searle

Pese a desarrollar su carrera en el mundo de las ideas, la vida de Searle fue una sucesión de peleas intelectuales. Su campo de batalla favorito fue The New York Review of Books, donde colaboró desde 1972 hasta 2014. Allí fue donde califico como «una masa de confusiones» un libro del filósofo David J. Chalmers, por poner un ejemplo de su «pegada». Ese carácter provocador lo llevó también a gastar bromas que podían ser malinterpretadas, como cuando su foto apareció en un curso de introducción a la filosofía al lado de las de René Descartes y David Hume y preguntó: «¿Quiénes son esos otros dos tipos?».

Sus críticos lo acusaban de no tomarse en serio los argumentos de sus enemigos, de deliberado oscurantismo y de sereno dogmatismo. Mientras, a él solo le preocupaban sus estudios sobre la consciencia y su relación con el cuerpo físico. Cómo es posible, se preguntaba, que la sustancia pegajosa que forma nuestro cerebro pueda albergar todos nuestros pensamientos, sentimientos, ansiedades y aspiraciones. Dedicó su vida a resolver estas dudas, sin incluir nunca a Dios en la ecuación.

Diferencias entre el cerebro y el hardware

«Mi principal proyecto siempre ha sido integrar a los seres humanos en ese mundo físico», describió. Esto implica, en gran medida, explicar qué son los seres humanos y cómo funcionan: cómo piensan, cómo construyen significado a partir de la vibración sin sentido de las cuerdas vocales, cómo experimentan y llegan a conocer el mundo. Todas esas preguntas tan ambiciosas y nada triviales –Searle «lo quería todo»– lo llevaron a plantear que los estados psicológicos nunca podrían atribuirse a los programas informáticos y que era erróneo comparar el cerebro con el hardware o la mente con el software.

El enfoque de John Searle, sin embargo, era menos académico que el de la mayoría de sus colegas. A los 20 años fue a estudiar a Oxford, «un sueño de vida intelectual» en el que no terminó de encajar, pese a que describió el lugar como «la mejor colección de filósofos reunidos en un mismo lugar y en un mismo momento desde Grecia». «Fue muy emocionante», admitió. Allí cursó estudios de grado y posgrado, y conoció y se casó con Dagmar Carboch, entonces compañera de estudios de origen checo, que acabó estudiando Derecho.

«Quería a esa gente, pero no era mi sensibilidad», aclaró. «Me dije a mí mismo: ‘Me voy de esta maldita isla’. No se lo tomaron en serio… La idea de que uno se fuera voluntariamente era incomprensible. Que uno regresara a Estados Unidos era una locura». Como dice Terry McDermott en Los Angeles Times, siguió «ofendiendo a casi todos». Así fue como empezó su carrera docente en Berkeley, donde fue uno de los protagonistas del movimiento a favor de la libertad de expresión y donde se siguió ganando la enemistad de casi todo el mundo: «Al principio, no tenía amigos en la derecha y en la izquierda todos sentían que traicionaba su causa».

En 2017, el techo sobre el que caminaba empezó a hundirse, cuando tenía su propio campus, el John Searle Center for Social Ontology. Un artículo en Buzzfeed contaba que una asistente lo denunció ese año por acoso sexual. Otro texto recopiló más quejas de varias estudiantes. Le acusaron de haber tenido relaciones sexuales con sus alumnas y otras personas «a cambio de beneficios académicos, monetarios o de otro tipo». La Universidad no lo respaldó.

Él lo negó siempre todo, justo en vísperas del #MeToo, pero su campus fue cerrado y en 2019 perdió su condición de emérito. Jennifer Hudin, exdirectora del Centro Searle y también diana de algunas de las denuncias, aseguró en un comunicado publicado después de la muerte de Searle que el profesor era «inocente de todos los cargos» y que había sido «acusado falsamente». «Hasta el final de su tiempo en el campus, mantuvo intacta su dignidad», escribió Hudin. Quizá alguna inteligencia artificial, más o menos consciente, conozca toda la verdad de lo que ocurrió, pero es probable que su comportamiento estuviera lejos de ser ejemplar. Las acusaciones eran gravísimas. En los tribunales, el caso se resolvió en 2018, con un acuerdo confidencial.

La imagen de John Searle que encabeza este artículo es de Franks Valli, tiene licencia de Creative Commons, CC BY-SA 4.0 y puede encontrarse en este enlace. Fue tomada durante la conferencia del profesor «Consciousness in Artificial Intelligence», en Mountain View (Google).

Este texto ha sido escrito por Federico Marín Bellón.