Tiempo de lectura: 11 min.

Imaginen a un usuario de Google que siente curiosidad por encontrar unas zapatillas de noche que fueran realmente cómodas. O que busque una gorra de su talla. A partir de entonces, cada vez que abra una página de noticias, las últimas novedades de política o cultura vendrán rodeadas de propaganda de pantuflas y sombreros.

De modo similar se ha hecho viral entre los usuarios de Facebook un supuesto truco para que no aparezca en su página solo información de 25 de sus cientos o miles de amigos. Y si una vez ese usuario se entretuvo con un vídeo de caídas tontas o de marines volviendo a casa, es probable que esta temática aparezca constantemente entre las sugerencias que le haga la plataforma. Todo eso, y mucho más, es fruto del filtro burbuja.

El filtro burbuja. Taurus, 2017. 296 págs.

El filtro burbuja, escrito por Eli Pariser, fue publicado en inglés en 2011 y traducido al castellano por Mercedes Vaquero en 2017. En la obra se analiza la importancia de los misteriosos buscadores, filtros y algoritmos de empresas como Google, Facebook o Amazon, y las consecuencias que pueden tener para la formación de nuestros conocimientos y opiniones.

A partir del 4 de diciembre 2009, hace apenas 10 años, Google comenzó a personalizar las búsquedas. «Con la personalización de Google, la consulta ‘células madre’ puede producir resultados diametralmente opuestos en el caso de que los usuarios sean científicos que apoyen la investigación o activistas que se opongan. ‘Pruebas del cambio climático’ puede deparar resultados diferentes a un activista medioambiental y a un directivo de una compañía petrolífera. Sin embargo, en las encuestas, una amplia mayoría asumimos que los buscadores son imparciales» p. 12–13).

La personalización conduce a reforzar las propias creencias: consultando en los buscadores cada persona puede encontrar infinitas confirmaciones de su visión del mundo. Ahora bien, ¿es eso adecuado en una democracia? Se supone que ese tipo de gobierno necesita que los ciudadanos sean capaces de ver los puntos de vista de otros, que se evite la polarización, que se compartan los hechos. Pero de facto no es así: «Mi sensación de inquietud cristalizó cuando caí en la cuenta de que mis amigos conservadores habían desaparecido de mi página de Facebook» (p. 15).

En la burbuja «estás solo»: cada uno es la única persona dentro de su burbuja

¿Por qué la personalización? En parte para facilitarnos las búsquedas. Pero también porque Internet es una fuente de negocio. «Busca una palabra como ‘depresión’ en un diccionario online, y la página instalará en tu ordenador hasta 223 cookies y dispositivos de rastreo para que otras páginas web puedan seleccionarte como objetivo de antidepresivos» (p. 15).

¿Qué determina la personalización? Por un lado, lo que compramos. También las películas o series que vemos (Netflix ofrece a cada cliente un 60% de cosas para ver según lo que este usuario haya seguido con anterioridad). Por último, las noticias que recibimos. Y esa burbuja de filtros en la que vivimos «altera nuestra manera de encontrar ideas e información».

En la burbuja «estás solo»: cada uno es la única persona dentro de su burbuja, y esta actúa como una fuerza centrífuga que nos separa. La burbuja «es invisible»: mientras que si uno ve Fox (o escucha la Cope y lee ABC) sabe que se está informando de un modo muy distinto a si sus fuentes fueran CNN (o la SER y El País), y toma decisiones conscientes respecto a ello, la burbuja no avisa de su selección.

«Las intenciones de Google son opacas. Google no te dice quién cree que eres o por qué te muestra los resultados que ves. No sabes si lo que supone de ti es correcto o incorrecto» (p. 19). Y es probable que al usuario le pase desapercibida esa valoración: el pensamiento crítico se resiente con la afirmación constante de la zona de confort. «Un mundo construido sobre la base de lo que nos resulta familiar es un mundo en el que no hay nada que aprender» (p. 24), en el que todos se encuentran satisfechos, seguros o indignados si alguien no es capaz de compartir ‘la veracidad evidente de los propios planteamientos’. La burbuja provoca que quedemos atrapados en un bucle infinito en torno a nosotros mismos.

La contienda por la relevancia

En la década de 1950 un grupo de ingenieros del MIT y de Berkeley empezaron a usar la palabra cibernética. La habían tomado de Platón, que se refería con ella a sistemas autorregulados, como una democracia. En el mundo de la informática ese fenómeno empezó a despuntar en 1995 con la aparición de Amazon: una librería online con personalización incorporada que hacía recomendaciones a cada uno de sus clientes. Era como tener a un librero experto por encima del hombro. En la actualidad esa información no solo la recibe de las compras que le piden, sino del uso que los clientes hacen de Kindle, el libro electrónico que vende Amazon, de modo que a partir de él es capaz de recomendar volúmenes de misterio o manuales de cocina.

Por aquellos años Brin y Page, fundadores de Google, pensaban que la publicidad en un buscador era un obstáculo (p. 40). Pero pronto comprendieron que «la clave de la relevancia, la solución de la enorme cantidad de información que hay en internet era… más información» (p. 41). Para eso necesitaban acumular lo que buscaba cada usuario, los enlaces a los que estos daban importancia, de modo que la información encontrada siguiera un cierto orden jerárquico. «El buscador definitivo entenderá exactamente lo que quieres decir y te devolverá exactamente lo que tú deseas», escribía Page (p. 41).

Lo que van haciendo estas páginas es acumular datos (de clicks, de uso, de interacción), de modo que puedan proporcionar directamente al usuario lo que desea o quiere escuchar, a la vez que le evita lo que le desagrada o le inquieta. Si bien siempre se puede dar un paso más: ¿por qué no proporcionar al usuario lo que debería desear o pensar?

Uno de los efectos imprevistos de Internet es el fin del periodismo tal y como se conocía hasta ahora

Uno de los efectos imprevistos de Internet es el fin del periodismo tal y como se conocía hasta ahora. «Antes había que comprar el periódico para leer la sección de deporte, y ahora te diriges a una web especializada solo en deporte con suficiente contenidos nuevos cada día como para llenar diez periódicos» (p. 58). Los costes de producción (palabras, imágenes, vídeos) continúan cayendo, acercándose cada vez más a cero; eso provoca que hay tantas opciones que se genera una ‘crisis de atención’: son los usuarios los que mostrarán ‘qué es lo que interesa’, y eso determinará la creación de noticias; ahora bien, los profesionales humanos son caros: cada vez dependeremos más de redactores no profesionales (amigos que comparten noticias, blogeros, tuits…) y de códigos informáticos que seleccionaran lo ‘relevante’ (p. 59).

Jon Pareles, crítico del The New York Times, ha denominado la primera década de 2000 como la de la desintermediación (p. 66), es decir, la de la eliminación del intermediario: Internet proporciona la descentralización del poder. Si antes eran los editores de los periódicos los que cada mañana determinaban qué era ‘lo importante’, siguiendo un modelo paternalista, ahora se puede saltar sobre esos mediadores: en vez de leer su crítica a una conferencia de prensa de la Casa Blanca es posible asistir a esta en directo o leer inmediatamente la transcripción de esa conferencia. Lo mismo pasó con la música: YouTube, Spotify o Apple Music convierten a cada usuario en un crítico directo de las últimas novedades sin necesidad de comprar el disco o de seguir los consejos de nadie. A fin de cuentas, si lo que se escucha no gusta, basta con borrarlo.

Parece que ya no hay capas intermedias. O, mejor dicho, estas se han hecho invisibles (p. 67). Son las plataformas como Google, Amazon o Facebook las que «acaparan una inmensa cantidad de poder –en muchos aspectos tanto como los directores de periódicos o de sellos discográficos–. Pero mientras se las hemos hecho pasar canutas a los editores del The New York Times y a los productores de la CNN por no haber publicado ciertas historias, dejando al descubierto los intereses a los que sirven, no hemos elaborado ningún análisis pormenorizado acerca de qué intereses hay detrás de los nuevos gestores» (p. 68).

Y, sin embargo, desde que comenzó el servicio Google News parece que realizar ese tipo de análisis sería algo muy conveniente.

Otra razón es que, como Internet ha provocado la ‘economía de la atención’, no solo se ha dedicado a filtrar lo que hay que leer, sino que «las páginas que se leen son con frecuencia las más actuales, escandalosas y virales» (p. 71): textos breves, de titulares llamativos y contenidos vacíos que solo andan a la búsqueda de ‘clics’. Ese parece ser el periodismo de la nueva era.

En vez de interconectar a todo el mundo con lo diverso y lo distinto, la red de redes aísla cada vez más a los usuarios

Así se avanza hacia la que quizá sea la consecuencia más inesperada en esta época de información global: en vez de interconectar a todo el mundo con lo diverso y lo distinto, la red de redes aísla cada vez más a los usuarios. «Puesto que tu colega de béisbol vive cerca de ti, es probable que comparta muchas de tus opiniones. Es mucho menos probable que conectemos con gente muy distinta de nosotros, ya sea en la red o fuera de ella, y por ende es menos probable que entremos en contacto con diferentes puntos de vista» (p. 73). De hecho, «a medida que el filtrado personalizado mejore, la cantidad de energía que tendremos que dedicar a elegir lo que nos gustaría ver seguirá mermando» (p. 75).

Otra consecuencia del filtro es la aparición de una nueva jerarquía de valores. Señala Pariser que, en la medida en que el filtro fomenta la publicidad y el entretenimiento, es mucho más probable que priorice una noticia entretenida pero poco relevante (pone como ejemplo, la nueva ‘conferencia’ de productos de Apple) por encima de noticias importantes pero complicadas o ‘aburridas’ (un conflicto bélico que se eterniza: Afganistán). «La mayoría de los filtros personalizados no tienen modo de destacar lo que realmente importa pero tiene menos clics. ‘Dale a la gente lo que quiere’ al final no es más que una filosofía inconsistente y superficial» (p. 81).

La superficialidad, sin embargo, no es el principal problema. «El filtro burbuja nos cerca con ideas con las que ya estamos familiarizados (y ya estamos de acuerdo), induciéndonos a un exceso de confianza en nuestros esquemas mentales. En segundo lugar, elimina de nuestro entorno algunos elementos clave que nos hacen querer aprender» (p. 89).

Pariser recuerda con nostalgia una recomendación de John Stuart Mill: «Apenas es posible sobreestimar el valor que tiene para la mejora de los seres humanos aquello que los pone en contacto con personas distintas a ellos y con maneras de pensar y de obrar diferentes de aquellas con las que están familiarizados» (p. 83). Parece que la capacidad de hacer de lo ajeno lo propio no es un valor en el mundo de Internet. Los usuarios siguen sus propios esquemas, y estos les provocan ‘sesgos de confirmación’ de modo que solo ven lo que quieren ver (cf. p. 91).

Esa situación afecta, entre otras muchas cosas, a la curiosidad. La curiosidad se despierta ante alguna ‘laguna de información’, ante una sensación de carencia. «El envoltorio de un regalo nos priva del conocimiento de lo que hay dentro y, en consecuencia, se despierta nuestra curiosidad por el contenido. No obstante, para sentir curiosidad debemos ser conscientes de que se esconde algo. Dado que la cultura de filtros oculta las cosas de modo invisible, no nos vemos tan obligados a aprender sobre lo que no sabemos» (p. 95).

Pariser compara las consecuencias de los filtros burbuja con la del Adderal, uno de los fármacos que se utilizan con las personas afectadas de TDAH (trastrono de déficit de atención). Ese fármaco provoca concentración, a la vez que elimina la curiosidad, la inquietud. Los pacientes de TDAH hablan de ‘hiperfoco’, de una capacidad de concentrarse en una sola cosa que excluye a todo lo demás.

Algo así provocan los filtros: si te gusta el yoga, recibes información sobre yoga y menos sobre avistamiento de aves o el béisbol. Pero la creatividad, el ingenio, «procede de la yuxtaposición de ideas que están alejadas», mientras que la relevancia solo te proporciona ideas que son parecidas. «El hiperfoco desplaza al conocimiento general y la síntesis» (p. 98).

La burbuja elimina la diversidad. Hace desaparecer la confrontación y, en consecuencia, la necesidad de entender mejor lo propio para poder defenderlo. Y si es verdad que «los psicólogos Charles Nemeth y Julianne Kwan descubrieron que las personas bilingües son más creativas que las monolingües», de forma análoga, «quienes interactúan con muchas unidades diferentes suelen ser mejores fuentes de innovación que quienes no interactúan con nadie». Pero la burbuja de filtros «no está concebida para contener una diversidad de ideas o de personas. No está diseñada para introducirnos en nuevas culturas. Por consiguiente, puede que al vivir dentro de ella perdamos parte de la flexibilidad mental y de la actitud abierta que genera el contacto con el diferente» (p. 104–105).

El resultado final es que «tu identidad da forma a tus medios de comunicación, los cuales modifican a su vez tus creencias y a lo que concedes importancia» (p. 128).

Cabe preguntarse desde dónde se controlan los algoritmos, y cómo eso puede terminar en nuevas formas de censura

Los filtros burbuja pueden tener más consecuencias. Por ejemplo, cabe preguntarse desde dónde se controlan (y diseñan) los algoritmos, y cómo eso puede terminar en nuevas formas de censura. Hoy se puede promover una ‘censura de segundo orden’: «la manipulación de la gestión, el contexto y el flujo de información, así como de la atención. Puesto que la burbuja de filtros está controlada sobre todo por algunas empresas centralizadas, no es tan difícil ajustar dicho flujo a nivel individual. Internet, más que descentralizar el poder como predijeron sus primeros defensores, está en cierto modo concentrándolo» (p. 143). Y eso puede ocurrir tanto en China con el control del Estado sobre Google, como en los EEUU de Trump o en el sesgo que den los buscadores a los temas relacionados con emigración, género o descentralización de mercados.

No deja de ser llamativo, dice Pariser citando a Zittrain, autor de The Future of Internet –and How to Stop It, el carácter asimétrico de la información: «Hoy en día un individuo debe proporcionar cada vez más información sobre sí mismo a grandes instituciones relativamente anónimas, con objeto de que unos extraños acaben manipulándola y utilizándola, gente desconocida, invisible y, con demasiada frecuencia, insensible» (p. 148). ¿A quién le damos los datos?, ¿para qué? La polémica suscitada recientemente por FaceApp tiene que ver con eso. Y los grandes robos de datos a Facebook y a otras plataformas, también.

Otro efecto del filtro es «el problema del mundo amigable». El filtro burbuja puede trabajar presentando sobre todo aquello a lo que se ha dado el ‘like’, algunos problemas públicos importantes desaparecerán: lo complejo, lo desagradable e incluso «la totalidad del proceso político» (p. 152).

A eso se une la dificultad actual para mantener una discusión pública (p. 156): los filtros polarizan, a los demócratas les llega información del Partido Demócrata; a los republicanos del Partido Republicano. En España igual: azules con azules, morados con morados. Pero ya no hay intercambio o discusión de ideas. Más aún: es probable que las ideas ya no sean necesarias. La sociedad se fragmenta en círculos cerrados a toda influencia externa.

«La democracia solo funciona si nosotros, en cuanto ciudadanos, somos capaces de pensar más allá de nuestro limitado interés personal. Pero para ello necesitamos tener una opinión generalizada del mundo en el que vivimos juntos. La burbuja del filtro nos empuja en la dirección contraria: crea la impresión de que nuestro limitado interés personal es todo lo que existe. Y aunque esto es genial para conseguir que la gente compre por Internet, no lo es para que las personas tomen juntas las mejores decisiones» (p. 165).

Lo que podemos hacer

Al final, toda persona debe tomar una decisión «entre la comodidad de ver a amigos y la emoción de conocer a gente extraña, entre nichos acogedores y amplios espacios abiertos» (p. 219). Y como parece que es en el punto medio donde está la virtud, Pariser propone una serie de consejos que pueden ayudar a limitar el dictado del filtro.

El primero es el de cambiar nuestros hábitos. Es un hecho que todos hacemos casi siempre lo mismo (Pariser nos compara con los recorridos repetitivos de un ratón en la búsqueda de comida). Para escapar del bucle habrá que romperlo. «Solo con ampliar nuestros intereses en nuevas direcciones, proporcionamos al código un abanico más amplio con el que trabajar. (…) Y al mover sin parar el foco de tu atención hacia el perímetro de tu entendimiento amplías tu comprensión del mundo» (p. 221). Cambiar hábitos, en consecuencia, viene a ser abandonar las zonas de confort de nuestros intereses.

Pariser aboga por exigir una mayor política de transparencia a las grandes empresas filtradoras

También aboga por exigir una mayor política de transparencia a las grandes empresas filtradoras. «Google ha alegado que tiene que mantener en secreto su algoritmo de búsqueda porque si se supiera resultaría más fácil de manipular». Sin embargo, «los sistemas abiertos son más difíciles de manipular que los cerrados, precisamente porque todo el mundo ayuda a cerrar las lagunas» (p. 226). Y propone el autor la comparación entre Linux y Windows de Microsoft u OS X de Apple.

Esa política de transparencia debería ir unida a otra por la que sea posible saber quién tiene información sobre uno, evitar que esa información se compartiera con otras empresas y corregir lo que ya no fuera actual ejerciendo el ‘derecho al olvido’ (p. 234). La vida online debería ser propiedad de cada persona, pues esa información tiene más valor que el uso de una App gratuita. Y, desde luego, el uso que se hace sobre la información de alguien no debería ser invisible para esa persona.

A Internet, que ya es una realidad global, le podría pasar que «un pequeño grupo de compañías estadounidenses dictaran de manera unilateral el modo en cómo trabajen, jueguen, se comuniquen y entiendan el mundo miles de millones de personas» (p. 239).

Estando todavía en sus inicios, como ocurre con toda singladura en el mar, se corre el riesgo de que estas pequeñas desviaciones acaben alejando el barco del puerto que inicialmente se buscaba (la globalización del conocimiento, la superación de las fronteras, el enriquecimiento por participar de lo ajeno). No por inadvertidos esos ‘efectos perversos’ dejarían de ser amenazas a la libertad de los ciudadanos y al desarrollo de los sistemas democráticos.

Doctor en Filosofía. Universidad Francisco de Vitoria. Madrid.