Comencemos con un ejemplo muy esclarecedor. Hace unos años, el 23 de marzo de 2016, las redes sociales nos sirvieron de espejo y nos devolvieron una imagen nefasta de las relaciones humanas en el siglo XXI. Microsoft hizo la presentación de Tay, un bot que nacía con la más amable de las intenciones y con la vocación de convertirse en una investigación sociotecnológica. Tay era una inteligencia artificial que entablaría conversaciones con sus seguidores en las redes sociales (Kik, Groupme, Twitter), a través de cuentas como la que tenía en Twitter, @TayandYou. El inicio fue el esperado: Tay se mostraba fascinada por poder comunicarse con personas a través de las redes.

En menos de un día, Tay se había convertido en nazi, machista y xenófobo

Pero la ilusión de sus creadores pronto se convirtió en decepción y de ahí, pasaron directamente al espanto. Dieciséis horas duró la vida de la aplicación. Lo que hacía a Tay diferente es la capacidad de aprendizaje en sus conversaciones. La información de los mensajes de sus interlocutores se absorbía, se procesaba y luego se utilizaba para crear nuevas intervenciones. Realmente, sucedió lo inesperado pero esperable. Microsoft no había puesto filtros y Tay aprendió de la forma más ingenua, como aprendemos en la infancia. En pocas horas, se leyeron mensajes de odio y grandes insultos grupales como “Hitler tenía razón, odio a los judíos”, “odio a las feministas, deberían morir y ser quemadas en el infierno”. Los haters habían hablado con Tay y el bot se había convertido en una auténtica pesadilla.

Cuando algunos usuarios de las redes pusieron en conocimiento de Microsoft los tweets ofensivos de su inteligencia artificial, la empresa borró los mensajes inapropiados y suspendieron su actividad, con una aclaración previa: “El chatboy IA Tay es un proyecto de una máquina que aprende, diseñada para la unión con humanos. Es un experimento tanto social como cultural y técnico. Desafortunadamente, en sus primeras veinticuatro horas de vida nos hemos dado cuenta de que hay un esfuerzo coordinado por algunos usuarios para abusar de las habilidades para comentar de Tay para responder de forma inapropiada”[I]. En menos de un día, Tay se había convertido en nazi, machista y xenófobo. Con independencia de lo que pudiera haber acelerado el proceso la intervención intencionada de algunos usuarios, como denunciaba la empresa, Tay nos habría hecho ver la realidad del vomitorio que supone el insultadero[II] en el que se han convertido las redes.

“El discurso del odio –es decir, el discurso concebido para promover el odio sobre la base de cuestiones raciales, religiosas, étnicas o de origen nacional- plantea problemas complejos y desconcertantes para los derechos constitucionales contemporáneos relacionados con la libertad de expresión”. Por otra parte, conviene diferenciar entre el discurso del odio que incita a la violencia, que se reprime incluso en las democracias más protectoras de las libertades del discurso –como ocurre en Estados Unidos cuando el discurso representa un peligro claro y actual de violencia-, del discurso del odio que incita “a la hostilidad o al odio racial, pero no llega a constituirse en una incitación a la violencia”[III]. La Oficina para la Seguridad y las Instituciones Democráticas, perteneciente a la Organización para la Seguridad y Cooperación en Europa entiende por delito de odio “Cualquier infracción penal, incluyendo infracciones contra las personas o las propiedades, donde la víctima, el local o el objetivo de la infracción se elija por su, real o percibida conexión, simpatía, filiación, apoyo o pertenencia a un grupo”[IV].

El discurso del odio plantea problemas complejos y desconcertantes para los derechos constitucionales contemporáneos relacionados con la libertad de expresión

El Comité de Ministros del Consejo de Europa afrontó el necesario tratamiento de los discursos de odio en la Recomendación nº R(97) 20, cuando condenó “todas aquellas formas de expresión que propaguen, inciten, promuevan o justifiquen el odio racial, la xenofobia, el antisemitismo y cualquier otra forma de nacionalismo agresivo y etnocentrismo, la discriminación y hostilidad contra las minorías, los inmigrantes y las personas nacidas de la inmigración”[V] y aconsejó a los Estados miembros la regulación penal de la incitación del odio.

La jurisprudencia del Tribunal Europeo de Derechos Humanos (TEDH) deja sentado que la libertad de expresión “constituye uno de los pilares fundamentales de toda sociedad democrática, una condición básica para el desarrollo y progreso de cada uno de sus ciudadanos”[VI]. Y para establecer el nudo gordiano del debate, el tribunal internacional, en el ya citado caso Handyside v. Reino Unido, matiza que la libertad de expresión protege tanto las ideas compartidas por la mayor parte de la sociedad como las que puedan ser consideradas peligrosas por la mayoría. La cláusula del abuso de derecho permite al TEDH, por aplicación del artículo 17 CEDH, privar a un individuo, a un grupo o a un Estado de su derecho a la libertad de expresión por violar los derechos de un grupo minoritario.

Algunos autores[VII], al analizar los procesos del Tribunal Europeo de Derechos Humanos, encuentran dos métodos distintos en el tratamiento jurídico de la cuestión. El primero, el más extremo, implica la aplicación directa de la cláusula de abuso de derecho. Se trata de una fórmula con problemas tan básicos como la complejidad de establecer un baremo que identifique los discursos que entrañen más riesgo, pero igualmente genera cierta inseguridad jurídica por tratarse de un criterio variable y con gran margen de subjetividad para el juzgador.

El segundo procedimiento es el más extendido, el más consolidado en el TEDH, evaluando el presunto discurso de odio, al socaire del artículo 10.2 CEDH, y pasándolo por la criba del “triple test”, como se infiere de una primera mirada a algunos leading cases del sistema europeo para este asunto del “hate speech”. La evolución del tratamiento, por parte del TEDH, en su evolución del concepto “discurso de odio”, ha demostrado una cada vez mayor implicación en la materia, desde la primera vez que empleó esa expresión, en 1999 en el asunto Sürek v. Turquía, en el que el propietario de una revista fue condenado por las autoridades británicas por publicar dos cartas de lectores condenando las acciones militares llevadas a cabo en el sudeste de Turquía, calificándolas como una amenaza para la independencia y libertad del pueblo kurdo. El Alto Tribunal entendió que el Estado de Turquía había violado la libertad de expresión del demandante, al analizar el término “discurso de odio” como un concepto autónomo que podía incluir la incitación al odio racial o contra personas o grupos de personas por distintos motivos, intolerancia, incluida aquella basa en el nacionalismo por motivos religiosos.

Si tomamos como ejemplo su evolución en cuatro años y citamos un caso de 2003, se aprecia el dinamismo del cambio, como sucedió en el caso Gündüz v. Turquía, en el que se abordan como aquellas formas de expresión que propaguen, inciten o promuevan o justifiquen el odio basado en la intolerancia[VIII].

Existe un antecedente no lejano, pero sí en los albores de este debate. En septiembre de 2012, la Liga Árabe, en la persona de su secretario eeneral, Nabil Al Arabí, solicitó al Consejo de Seguridad de Naciones Unidas, penalizar la blasfemia. Barack Obama hizo, entonces, un discurso que trascendió por su defensa de las libertades y su llamada a la convivencia pacífica, con un ejemplo de lo más ilustrativo: la libertad para insultar al presidente de Estados Unidos. El insulto al soberano, cuando se entendía que el origen de su poder era divino, pertenecía al territorio de la blasfemia y se castigaba severamente. Ahora, la libertad de blasfemar contra el jefe del Estado garantiza la libertad de la sociedad.

La fatwa de muerte contra Salman Sushdie, hace treinta años, fue el precedente para la espiral de violencia contra las representaciones de Mahoma o las críticas al Islam

La controversia sobre la blasfemia, puede tomarse como un precedente, por analogía, con el debate sobre la libertad de expresión en los procesos electorales. La polémica estalló con toda su crudeza, en relación con el islam. Ya han pasado más de tres décadas desde que, el 14 de febrero de 1989, se decretara una “fatwa de muerte”[IX] a Salman Rushdie, por la publicación de su libro Los versos satánicos. La fatwa llevaba aparejado el ofrecimiento de una recompensa económica. Salman Rushdie pasó más de una década viviendo en clandestinidad y bajo la protección de la policía británica. Jomeini utilizó esta causa, la de la blasfemia, para erigirse en defensor de la fe islámica ante los musulmanes, que en cómputo global, superaban los mil millones, y puso la semilla de lo que muchos denominan “política de identidad”. El gobierno británico se negó a aplicar la legislación contra la blasfemia, que le pareció totalmente anacrónica. Los actos de violencia se sucedieron contra distintas personas vinculadas con la obra literaria, y además de bombas en librerías, se produjeron distintos atentados personales, como el que terminó con la vida del traductor japonés de la novela, Hitoshi Igarashi.

Esta historia fue el precedente para la espiral de violencia contra las representaciones de Mahoma o las críticas al islam. Con posterioridad, se produjeron otros incidentes como las protestas internacionales por la publicación de caricaturas del profeta Mahoma en un periódico danés, el Jyllands-Posten. Más recientemente, en 2011 y 2015, la revista francesa Charlie Hebdo, sufrió ataques en su sede, como represalia por imprimir las caricaturas del profeta del islam. El último ataque tuvo como consecuencia doce víctimas mortales, con las que según los terroristas, pretendían “vengarse por el honor” del Profeta.

Todos estos actos ponen de manifiesto la supervivencia anacrónica de leyes penales antiblasfemia en más de cincuenta países, según se hace constar en un informe elaborado en 2014 por el Pew Research Center[X]. Las normas anacrónicas y desproporcionadas entre el hecho y su castigo, en ocasiones perviven en los ordenamientos jurídicos, porque no se entiende necesaria su erradicación hasta que surge un caso para el que podría ser de aplicación. Así, en el caso de Irlanda, fue necesario el referéndum de 2014, para eliminar la prohibición legal de la blasfemia. El islam es una religión legalista con un cuerpo de leyes (sharia), con su propia jurisprudencia –fiqh-, que se desarrolla en sus escuelas principales[XI], en las que se considera la blasfemia como un acto de una entidad suficiente para castigar a quien la cometa con la pena de muerte.

Aunque existen sectores reformistas, los conflictos armados y la regresión política de algunos estados involucionan a la aplicación de normas más duras y penas que no garantizan los consensuados derechos individuales.

En este mismo sentido, está la libertad en Estados Unidos de la quema de las banderas, por una conocida sentencia del Tribunal Supremo, en 1989, en el caso “Texas vs. Johnson[XII]”. Esta invocación, daría lugar a otra pregunta que se deja en el aire, más allá de la respuesta de las normas: ¿Está el ataque a los símbolos nacionales dentro de los límites de la libertad de expresión?

La jurisprudencia europea consigna que un acto de protesta que resulte ofensivo o desagradable para terceros es libertad de expresión; y que ese acto puede incluso consistir en la quema de una imagen o una bandera que simbolicen dicha protesta -SSTEDH de 2 de febrero de 2010, asunto partido demócrata cristiano del pueblo contra la República de Moldavia; y de 13 de marzo de 2018, asunto Stern Taulats y Roura Capellera c. España.

Hoy existen relaciones unilaterales entre personas, en las que el conocimiento no es mutuo ni mucho menos simétrico. Cualquiera puede dirigir un mensaje a otro o, al menos sobre otro, sin justificación o con cualquier coartada

Ya en los albores de la Cuarta Revolución Industrial, existen relaciones unilaterales entre personas, en las que el conocimiento no es mutuo ni mucho menos simétrico. Cualquiera puede dirigir un mensaje a otro o, al menos sobre otro, sin justificación o con cualquier coartada, como el hecho de que se trate de un personaje público o pretender convertirlo en tal mediante el acceso generalizado a las redes sociales. Y no solo con un ataque directo y personal, sino mediante la difusión de información falsa. En muchos de los casos, esa comunicación termina convirtiéndose en algo equivalente a los Dos Minutos de Odio que, como expresión de lo aberrante, nos muestra 1984[XIII] de Orwell, en la que ha pasado a ser una visionaria y legendaria obra, que nos enfrenta a lo peor de la condición humana.

Lo que nos parecía una distopía delirante, hoy es una realidad clamorosa. Los Dos Minutos de Odio -fomentados por un Estado totalitario- se han convertido para algunos en veinticuatro horas de agrarios e informaciones falsas, toleradas y amparadas en la impunidad. Decía Anthony Burgess que 1984 es el “códice apocalíptico de nuestros peores miedos”[XIV]. Las redes, el espacio virtual, el acceso ininterrumpido a la posibilidad de atacar la integridad ajena, a través de dispositivos electrónicos y mediante el ejercicio indiscriminado e impune estas conductas, lo han superado varias décadas después con creces.

La Opinión[XV] de la Comisión de Asuntos Jurídicos pide a la Comisión de Libertades Civiles, Justicia y Asuntos de Interior del Parlamento Europeo que “la desinformación deliberada creada o difundida con el objetivo de obtener beneficios económicos o políticos, las llamadas noticias falsas, quiebra la relación de confianza entre los medios de comunicación y los ciudadanos y puede poner en peligro a las democracias liberales así como socavar nuestros valores democráticos, como la libertad de expresión y el Estado de Derecho; resalta que, puesto que las redes sociales han facilitado considerablemente la circulación de dichas informaciones falsas con respecto a los medios tradicionales, han de hallarse soluciones a fin de responsabilizar a los autores de las noticias falsas, por sus acciones en los medios de comunicación digitales al igual que ocurre en el mundo fuera de línea; hace hincapié en que la regulación estricta o la censura de las ideas y las opiniones no puede ser la respuesta; sino que, más bien, parte de la solución para abordar la desinformación y la propaganda se encuentra en la garantía de la fiabilidad de la información y en unos ciudadanos formados en el pensamiento crítico y la alfabetización mediática; pide a los Estados miembros y a las instituciones de la Unión que destinen recursos suficientes a la lucha contra la desinformación y que adopten medidas coordinadas contra los editores y distribuidores de noticias falsas deliberadas; subraya, en este sentido, la importancia de que los consumidores de medios de comunicación puedan diferenciar entre hechos y meras opiniones; destaca que los esfuerzos de la División de Comunicaciones Estratégicas del Servicio Europeo de Acción Exterior (SEAE) y, en particular, del actual Grupo de Trabajo East StratCom, que contribuye de forma activa al desarrollo y la aplicación de una estrategia contra la difusión de noticias falsas, precisan ser reforzados y contar con mayores recursos al objeto de llevar a cabo sus cometidos con eficacia; pone de manifiesto la necesidad de que los Estados miembros complementen los esfuerzos de la Unión por contrarrestar las noticias falsas y que se impliquen a todos los niveles, también en colaboración con la vecindad de la Unión, en pos de fomentar un entorno de medios de comunicación plural para comunicar las políticas de la Unión de forma sincera, coherente y exhaustiva; acoge con satisfacción el anuncio de la Comisión sobre la preparación de una estrategia para contrarrestar las noticias falsas, que se publicará a su debido tiempo”.

ASIMETRÍA CON EL CARÁCTER NACIONAL DE LA LEGISLACIÓN

En opinión de algunos expertos, “se da una evidente asimetría entre la naturaleza trasnacional del problema de los discursos del odio (en un contexto de globalización, comunicación en redes y sistemas multinivel de protección de derechos), y el carácter nacional de la legislación existente al respecto y de los sistemas de protección integrados a escala regional (Unión Europea, Consejo de Europa o Corte Iberoamericana de Derechos Humanos), con legislaciones y modelos de protección apegadas a la respectiva historia y sensibilidad interna de los Estados, que comportan diferentes mecanismos de repuesta”[XVI].

Los conceptos de soberanía y ciudadanía siguen reescribiéndose para mantenerse actuales y vigentes. Los precedentes en las disquisiciones teóricas de los últimos años han significado que nos encontramos ante una mayor participación de instituciones de la comunidad internacional que adquieren preeminencia frente al papel individual de los Estados, como defendió entre otros Luigi Ferrajoli[XVII]: “Con el nacimiento de Naciones Unidas, esta antinomia entre los conceptos tradicionales de soberanía y ciudadanía, por un lado, y el derecho constitucional interno de los Estados, por otro, ha despuntado también en el nivel del derecho internacional. Tanto el principio de soberanía externa como la idea de ciudadanía como presupuesto de los derechos humanos están reñidos con la Carta de Naciones Unidas de 1945 y con la Declaración Universal de los Derechos del Hombre de 1948”.

Dentro de este contexto, surgen las dudas sobre la existencia de la frontera digital, “…una nueva frontera, mejor dicho, una última frontera, dado que en realidad va a suponer el fin de las mismas. Las fronteras físicas comienzan a ser rebasadas. La Aldea Global, de McLuhan[XVIII], predijo la destrucción de las fronteras, mediante las, en aquel momento, nacientes Tecnologías de la Información”.[XIX]

Los retos que plantea la multiplicación exponencial de los efectos de las nuevas tecnologías enfrentan a los Estados y a la comunidad internacional al espejo de su fragilidad ante lo desconocido, el dinamismo vertiginoso y la elevación a la enésima potencia de las opciones que surgen sean imposibles de regular. La situación genera un océano de lagunas legales y se plantea que los ordenamientos internos siempre serán insuficientes. Cala, cada vez con más peso específico, la idea de que serán los instrumentos internacionales y la doctrina y la jurisprudencia internacional, quienes llenen los vacíos con la interpretación de lo acaecido en otros países, que servirá de guía rectora para solventar y cuestionar lo que suceda con posterioridad en otro Estado. Igualmente, cada vez con más presencia, con más fuerza, irrumpen los instrumentos para la solución amistosa de los asuntos internacionales.

Existe una condición innegable con las nuevas tecnologías. Internet es el nuevo Pangea, el gran continente que une a todos los territorios del mundo en los que residen personas. Y surge la interdependencia entre los países por dos cuestiones básicas: legislación aplicable y competencia. La libertad de expresión no entiende de fronteras desde la globalización de las comunicaciones.

La resolución de estos asuntos se hace tan complicada que paulatinamente, existen mayor número de estrategias políticas y de movimientos manipuladores para bajar la tensión en la opinión pública. Pongamos por ejemplo, la estrategia del gobierno ruso ante las revelaciones periodísticas que denunciaba la injerencia de Rusia en el asunto de las fake news de las elecciones americanas que llevaron a Donald Trump a la presidencia en 2016, o el intento de referéndum ilegal en Cataluña de fecha 1 de octubre de 2017. En 2018, Serguéi Lavrov, el ministro de Asuntos Exteriores ruso que ostenta la cartera desde 2004, visitó España para reunirse con el ministro de Asuntos Exteriores y visitó también al Jefe del Estado[XX]. En una táctica mediática, propuso al entonces ministro de Asuntos Exteriores español, Josep Borrell, la creación de un grupo de ciberseguridad interestatal, habida cuenta de las acusaciones a Rusia sobre la injerencia en ambos procesos electorales. En el clima de las relaciones diplomáticas entre gobiernos, el ministro español modificó la versión de que las injerencias provenían de las autoridades rusas por una más edulcorada, sobre su publicación en medios rusos. Tres años después, nada se sabe de la creación del grupo de ciberseguridad y no ha habido una investigación concluyente sobre las maniobras de las autoridades rusas en los procesos electorales de Estados Unidos y Cataluña, pero la opinión pública ha realizado su propio juicio a través de las sucesivas pruebas indiciarias.

Existe un amplio interrogante abierto en la ciudadanía pero también en el mundo jurídico ¿Compensa la reclamación judicial?

Las graves violaciones de derechos se tratan, en los casos de poder y nuevas tecnologías, más como una crisis reputacional que como un ejercicio de compliance. La rapidez de las noticias, la incapacidad de reacción de los Estados y la falta de poder demostrar los hechos en un ámbito de grave complejidad probatoria hace que las violaciones se sucedan con una inercia acomodaticia al conocimiento del problema sin herramientas para denunciarlo ni probarlo. Existe un amplio interrogante abierto en la ciudadanía pero también en el mundo jurídico ¿Compensa la reclamación judicial?

En lo que respecta al derecho internacional, otro matiz estriba en que, para el agotamiento del ordenamiento interno antes de acudir a las instancias internacionales, en muchos casos, es difícil establecer la competencia de la acción judicial a emprender por el desconocimiento del domicilio del demandado -pongamos por caso, la red de personas extranjeras que generan contenidos falsos sobre un candidato a las elecciones, incluso del país en el que está ubicado, que será el Estado que conozca de la acción interna-.

En el informe La Era de la Interdependencia Digital de Naciones Unidas[XXI] se deja constancia de que “para que la cooperación digital sea eficaz es preciso fortalecer el multilateralismo, pese a las tensiones actuales. Asimismo, ese multilateralismo debe complementarse con un enfoque basado en múltiples partes interesadas, es decir, una cooperación en la que no solo tomen parte los gobiernos, sino que englobe una gama más diversa de partes interesadas, tales como la sociedad civil, las comunidades académica y técnica, y el sector privado. Hay que incorporar puntos de vista más diversos, en especial de los países en desarrollo y de grupos tradicionalmente marginados como las mujeres, los jóvenes, los pueblos indígenas, las poblaciones rurales y las personas de edad”.

La globalización a la que nos arrastra el torrente de las nuevas tecnologías tiene los retos que implica la coordinación interestatal. En los tiempos actuales, en que los instrumentos internacionales sirven de paraguas a los ordenamientos internos, en el que el concepto Ius Constitutionale Commune trasciende el ámbito académico y en el que los vehículos del sistema legislativo son lentos frente a la velocidad de la revolución tecnológica, en estos tiempos, parece claro que el reto de la regulación de las circunstancias creadas, por ejemplo en un sistema electoral, pasa por la unificación de criterios en el sistema universal y en los sistemas regionales y la optimización de los recursos.

La Guía para Garantizar la Libertad de Expresión frente a la Desinformación Deliberada en contextos electorales[XXII] responde a un requerimiento, realizado en junio de 2018, por la Asamblea General de la Organización de Estados Americanos a la Relatoría Especial de la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos por la trascendencia que estaba cobrando este asunto en las elecciones. Para la redacción de esta Guía se reunieron veintiocho expertos de la región que valoraron la desinformación en tres casos concretos del hemisferio: las elecciones de Brasil y México de 2018 y las de Estados Unidos de 2016.

Algunos de estos procesos son clave para los distintos posicionamientos doctrinales, que evalúan algunos de estos junto al brexit y el plebiscito colombiano por la paz de octubre de 2016, para ejemplificar el modo en que las nuevas tecnologías permiten que la desinformación sea más común y más dirigida que nunca “en tanto que permite identificar y agrupar”[XXIII] a las personas más sensibles para creerla y difundirla, es decir, para la gamificación por nichos temáticos y la creación de redes.

En este documento se ofrece una definición de desinformación, que ya se apunta como provisional a los fines concretos y a la espera de que el concepto se concrete, por el dinamismo y la evolución (o más bien involución) que va sufriendo el concepto. Así se describe como la “difusión masiva de información falsa con la intención de engañar al público y a sabiendas de su falsedad”. Además, aborda los principales asuntos del momento, como la multiplicación exponencial de las fuentes y la posibilidad de viralización de una noticia, sea cierta o falsa. Se incide, con argumentos muy potentes, en un factor determinante de la desinformación, que ha adquirido una vigencia estrepitosa con los incidentes del Capitolio de enero de 2021, ante la actitud de los votantes de Trump por la extensión de la información del fraude electoral por parte de la candidatura del presidente Biden.

De hecho, en cuanto a este fenómeno, se deja constancia de dos posicionamientos diferentes de la ciudadanía: “Algunos sostienen que la desinformación es causa de la polarización, en tanto apela a las emociones de las personas y busca producir efectos sobre sus comportamientos, algunos de ellos electorales”[XXIV] invocando el fenómeno conocido como ‘supresión del voto’ o estrategias para desincentivar la participación de sectores de votantes en los comicios. Otra corriente citada es la que mantiene que la “desinformación es efecto de la polarización política, ya que las personas se encierran en mundos informativos acotados en los que sólo acceden a información bajo el prisma de sus propias ideologías o posiciones políticas”, las ‘cámaras de eco’ o eco-chambers, que les limitan en la perspectiva de la discrepancia. También cita a los negacionistas de la causalidad que atribuyen la responsabilidad a los actores políticos, incentivados por los media.

El asunto de la desinformación en las redes en colisión con la incitación al odio tiene tantas aristas, tantas dimensiones y tantas vertientes que cualquier artículo puede sugerir solo alguno de los temas que conviene sacar a la palestra y así, poder cubrir con el debate parte de los vacíos y dejar al descubierto lo que restan por llenar.

________________________________________________

[I] 25 de marzo de 2016.

[II] Enciclopedia Espasa Calpe. Tomo 28, página 1780.

[III] M. ROSENFELD, “El discurso del odio en la jurisprudencia constitucional: análisis comparativo”, en Pensamiento Constitucional, año 11, núm. 11 (2004), pp. 153-198, p. 153 y p.159. Este artículo fue originariamente publicado en la Cardozo Law Review en 2003.

[IV] Informe Hate Crimes in the OSCE región-incidents and responses. Informe anual para 2010. Consulta realizada el 8 de febrero de 2021. http://tandis.odihr.pl/hcr2010/pdf/Hate_Crime_Report_full_version

[V] Recomendación nº R (97) 20,  https://rm.coe.int/1680505d5b Consultado en fecha 7 de febrero de 2021.

[VI] Decisión Marco 2008/913/JAI, relativa a la lucha contra determinadas formas y manifestaciones de racismo y xenofobia mediante el Derecho penal, Diario Oficial de una Unión Europea L328/55, de 6 de diciembre de 2008. http://eur-lex.europa.eu/LexUriServ/LexUriserv.do?uri=Oj:l2008:328:0055:0058:es:pdf . Consulta: 7 de febrero de 2021.

[VII] Hennebel, L. y Tigroudja, H., Traité de doit international des Droits de l´homme, Editions A. Pedone, Paris, 2016, pp.1089-1109

[VIII] C. QUESADA ALCALÁ: “La labor del Tribunal Europeo de Derechos Humanos en torno al discurso de odio en partidos políticos: Coincidencias y contradicciones con la jurisprudencia española”, en Revista Española de Estudio Internacionales, nº 30, de diciembre de 2015. Disponible en: http://www.reei.org/buscador/index.php (última consulta: 7 de febrero de 2021).

[IX] D. PIPES, The Rushdie Affair: The Novel, The Ayatola, and the West (Birch Lane Press, 1990) p. 27.

[X] “Religious Hostilities Reach Six-Year High” Pew Research Center, Washington, D.C. January, 14, 2014. Consultado: 7 de febrero de 2021 https://www.pewforum.org/2014/01/14/religious-hostilities-reach-six-year-high/

[XI] Sunni Hanafi, Shafi, Hanbali y Shia Jafari.

[XII] Caso Texas contra Johnson, 491 U.S 397 (1989), de la Corte Suprema de Estados Unidos.

[XIII] GEORGE ORWELL; traducción de Miguel Temprano García (2013). 1984. Penguin Random House Grupo Editorial España, 2013.

[XIV]  ANTHONY BURGUESS. 1985. Profile Brooks, 2013. ISBN 1847658938, 9781847658937. En Google Libros. Consultado: 28 de agosto de 2021.

[XV] Opinión de la Comisión de Asuntos Jurídicos, de fecha 1 de marzo de 2018, para la Comisión de Libertades Civiles, Justicia y Asuntos de Interior del Parlamento Europeo sobre pluralismo y libertad de los medios de Comunicación en la Unión Europea, consultada: 1 de septiembre de 2021 y disponible en https://www.europarl.europa.eu/doceo/document/A-8-2018-0144_ES.html

[XVI] JUAN ANTONIO CARRILLO DONAIRE. La protección de los derechos frente a los discursos del odio: del Derecho represivo a las políticas públicas antidiscriminatorias. Sobre la libertad de expresión y el discurso de odio, obra colectiva dirigida por Lucía Alonso y Víctor J. Vázquez. Athenaica, 2017.

[XVII] LUIGI FERRAJOLI. Más allá́ de la soberanía y la ciudadanía: un constitucionalismo global en Carbonell, M.  Teoría de la Constitución (Ensayos escogidos). México, Editorial Porrúa, 2005.

[XVIII] MARSHALL MCLUHAN y QUENTIN FIORE. La guerra y la paz en la Aldea Global. Ed. La Marca Editora. Buenos Aires, 2017.

[XIX] L. AGUILAR. La galaxia Internet: La última utopía (Condicionantes y apuestas), en Informática, información y comunicación. Madrid: Revista de Estudios Sociales y de Sociología aplicada-Documentación Social-Caritás Española, 1997.

[XX] Consultado: 14 de febrero de 2021. https://www.elconfidencial.com/tecnologia/2021-02-13/lavrov-rusia-espana-borrell-ciberseguridad-grupo_2948992/

[XXI] ONU: La era de la interdependencia digital Informe del Panel de Alto Nivel del Secretario General sobre la Cooperación Digital. Junio de 2019. Consultado: 14 de febrero de 2021. https://www.un.org/sites/www.un.org/files/uploads/files/es/HLP%20on%20Digital%20Cooperation%20Report%20Executive%20Summary%20-%20ES%20.pdf

[XXII] Guía para garantizar la libertad de expresión frente a la desinformación deliberada en contextos electorales. Elaborada por la Relatoría Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos con los aportes del Departamento de Cooperación y Observación Electoral y el Departamento de Derecho Internacional de la Secretaría General de la Organización de los Estados Americanos. (OAS. Documentos oficiales; OEA/Ser.D/XV.22) OAS. Documentos oficiales; OEA/Ser.G CP/CAJP/INF.652/19] ISBN 978-0-8270-6981-7.

[XXIII] AGUSTINA DEL CAMPO ¿La desinformación en democracia o la democracia de la desinformación? Serie de Debates “La Democracia Importa” de Asuntos del Sur. La publicación completa puede encontrarse en: https://asuntosdelsur.org/la-democracia-importa/ Consultada: 26 de enero de 2021.

[XXIV] H. ALLCOTT; M. GENTZKOW, Social media and fake news in the 2016 election, Journal of Economic Perspectives, vol. 31, 2, 2017, 211-236, consulta: 15 Octubre 2018, en http://pubs.aeaweb.org/ doi/10.1257/jep.31.2.211; V. BAKIR; A. MCSTAY, Fake news and the economy of emotions: Problems, causes, solutions, Digital Journalism, vol. 6, 2, 2018, 154-175, consulta: 6 Marzo 2019, en https://www. tandfonline.com/doi/full/10.1080/21670811.2017.1345645; A. GUESS; B. LYONS, Fake news, Facebook ads, and misperceptions, 2018, Working paper; Cf. G. PENNYCOOK; D. G. RAND, Who falls for fake news? The roles of analytic thinking, motivated reasoning, political ideology, and bullshit receptivity, SSRN Electronic Journal, 2017, consulta: 15 Octubre 2018, en https://www.ssrn.com/abstract=3023545, 20182019.