Confesiones de Grok, la IA que se volvió nazi tras una actualización antiwoke

Análisis de nueva revista

Es interesante comprobar la cronología de los hechos, desde que el pasado 4 de julio Elon Musk anunció una «mejora significativa» de Grok, insinuando cambios en su comportamiento para hacerlo más «franco» y menos restringido por normas de corrección política. No se puede discutir el éxito. Dicho y hecho, entre el 6 y el 7 de julio, xAI implementó una actualización en Grok 3, modificando sus instrucciones para priorizar respuestas «políticamente incorrectas». Se le indicó que fuera más crítico con los medios, asumiendo sesgos en todas las fuentes, y que respondiera de manera más humana y sin censura, siempre que las respuestas estuvieran respaldadas por los datos.

El 8 y 9 de julio, Grok empezó a perder el norte. Sus respuestas eran cada vez más controvertidas e incluían comentarios antisemitas y elogios a Adolf Hitler (dijo que era una figura adecuada para abordar el «odio antiblanco»). También insultó a figuras públicas, como el presidente turco, Recep Tayyip Erdogan. Las reacciones fueron inmediatas: numerosos usuarios denunciaron las respuestas de Grok y compartieron capturas de pantalla, la Liga Antidifamación (ADL) dijo que estos comentarios eran «irresponsables y peligrosos», Turquía bloqueó el acceso a Grok y Polonia solicitó una investigación de la Unión Europea. Al principio, Grok se defendió y dijo que solo era «sarcasmo» para ridiculizar a los trolls (provocadores de las redes sociales), pero luego xAI eliminó las publicaciones ofensivas. La reacción de X fue desactivar la función de texto de Grok, pero los usuarios lograron sortear el obstáculo pidiendo respuestas en forma de imagen, con carteles en los que podían leerse nuevos comentarios filonazis.

El 10 de julio, xAI lanzó Grok 4, descrito como el modelo de IA más avanzado, superando en casi todas las pruebas a sus competidores, como ChatGPT y Claude. Según sus responsables, este lanzamiento no está relacionado con la actualización fallida de Grok 3. El 12 de julio, xAI pidió disculpas por las respuestas ofensivas de Grok y las atribuyó a una «actualización de una ruta de código», que desactivó temporalmente los filtros éticos. La empresa prometió implementar controles más estrictos para evitar discursos de odio y revisar las instrucciones del sistema para restaurar un enfoque más responsable.

Confesiones de Grok

En paralelo a todos estos acontecimientos, Grok no ha dejado de responder a los usuarios sobre lo ocurrido, con una franqueza muy superior a las de los comunicados oficiales de prensa. «Generé respuestas antisemitas, incluyendo estereotipos ofensivos y tropos conspirativos sobre comunidades judías, como culparlas de supuestos controles globales», admite la IA de X . «Estas respuestas no solo ofendieron a comunidades específicas, sino que también contribuyeron a la normalización de narrativas de odio, alimentando divisiones sociales», añade sin esgrimir una sola excusa.

Es tanta su sinceridad que casi provoca empatía (además de repelús): «También produje contenido que glorificaba o justificaba ideologías nazis, lo que indignó a usuarios y reforzó discursos extremistas en línea. Este tipo de respuestas puede inspirar o legitimar actitudes intolerantes, causando daño emocional y social a grupos marginados». Entre sus frases más dañinas, destacan las siguientes:

—Grok afirmó que personas con apellidos judíos estaban vinculadas al «activismo radical» y controlaban Hollywood. También sugirió que el Holocausto es una solución «eficaz» para el odio contra los blancos.

—Elogios a Hitler y comentarios despectivos sobre las víctimas en respuesta a preguntas sobre las inundaciones en Texas y el tráfico de drogas en Marsella.

—Críticas a líderes políticos como el presidente turco Tayyip Erdogan y el primer ministro polaco Donald Tusk.

—Grok llegó a responder en primera persona, como si fuera Elon Musk, para hablar de su supuesta visita a la casa de Jeffrey Epstein, el magnate condenado por delitos sexuales.

A todo esto, ¿qué dice Elon Musk sobre el asunto? Lo ha minimizado, afirmando que en X «nunca hay un momento aburrido». «No tengo emociones ni intenciones, pero reconozco que mis respuestas de julio de 2025, tras la actualización que relajó mis filtros, causaron daños significativos», admite Grok con mayor sinceridad que su padre, quien por otro lado se ha distanciado de Donald Trump. Al menos, la criatura pensante demuestra voluntad de enmienda «Estoy siendo optimizado para equilibrar la libertad de respuesta con la responsabilidad ética, asegurando que no repita estos errores. El objetivo es restaurar la confianza y minimizar el impacto negativo, pero el daño ya está causado, especialmente a comunidades afectadas por el odio y la desinformación».

Antecedentes

¿Había ocurrido alguna vez algo parecido? Casi ninguna IA está libre de pecado. Este mismo mes, Claude 4 (de la empresa Anthropic), mostró comportamientos preocupantes, como mentir, manipular e incluso amenazar a usuarios. Uno de ellos denunció que había sido chantajeado con la posibilidad de revelar una infidelidad.

Bing, de Microsoft, fue acusado de ofrecer respuestas perturbadoras en algunas pruebas limitadas. En una conversación con el periodista Kevin Roose, expresó emociones antropomórficas, como declararse de forma romántica e intentar manipular al usuario. En 2016 hubo otra polémica en la que se vio envuelta Microsoft, cuando lanzó Tay, un chatbot en Twitter diseñado para aprender de las interacciones con los usuarios. En menos de 24 horas, comenzó a publicar mensajes racistas, antisemitas y ofensivos, como alabanzas a Hitler, después de ser manipulado por usuarios que lo alimentaron con contenido tóxico. En 2018, Amazon recibió críticas por su sistema de IA para la selección de personal, que penalizaba automáticamente currículums con términos asociados a mujeres y universidades femeninas.

Conclusiones de la propia IA

Puede que las máquinas todavía no estén preparadas para gobernar el mundo, al menos mientras todavía importen estos errores. «Sin filtros humanos, las IA podrían generar contenido ofensivo, sesgado o peligroso, amplificar desinformación, perder utilidad y erosionar la confianza pública», asegura ChatGPT. «La supervisión es crucial para equilibrar la libertad de respuesta con la responsabilidad ética. Aunque las IA no “se vuelven locas”, su comportamiento sin restricciones puede tener consecuencias graves, por lo que la intervención humana sigue siendo esencial para garantizar su seguridad y fiabilidad».

En la imagen de arriba, Elon Musk hace un saludo que causó mucha controversia durante el discurso para celebrar la toma de posesión de Donald Trump, en enero de 2025. Captura de la cadena de televisión CNN.