La IA no reduce automáticamente la carga de trabajo intelectual, la desplaza

El Consejo de Ciencia alemán presenta un documento con orientaciones sobre el uso de la IA. Encarece la «soberanía intelectual»: la capacidad de pensar, argumentar y decidir de forma autónoma

Fotografía de mikemacmarketing. Licencia CC BY 2.0, vía Wikimedia Commons
Fotografía de mikemacmarketing. Licencia CC BY 2.0, vía Wikimedia Commons
José Manuel Grau Navarro

Avance

«Debemos preservar la capacidad independiente de juicio humano en un mundo que está cada vez más atravesado por los algoritmos. El pensamiento crítico no debe delegarse a una inteligencia artificial (IA)», afirmó el presidente del Consejo de Ciencia de Alemania (Wissenschaftsrat, WR), el médico Wolfgang Wick, catedrático de Neurología de la Universidad de Heidelberg, en la presentación el lunes de un informe del WR sobre la IA.

Tras la irrupción pública de ChatGPT en noviembre de 2022, el WR constituyó (julio de 2024) un grupo de trabajo para estudiar el impacto de la inteligencia artificial (IA) generativa en la formación universitaria. El pasado lunes ofreció el resultado: un informe de 113 páginas titulado «Soberanía intelectual: recomendaciones para la formación universitaria en tiempos de IA generativa» (Intellektuelle Souveränität: Empfehlungen für die Hochschulbildung in Zeiten von generativer KI). El WR es un órgano de política científica y universitaria que asesora al Gobierno federal alemán y a los Länder (el equivalente en España a las comunidades autónomas) en asuntos de desarrollo estructural y de contenido de la ciencia, la investigación y la enseñanza superior. Fue fundado en 1957 y juega un papel parecido a lo que en España sería el CSIC.

El documento del WR reconoce la potencia de la IA generativa en la docencia. Permite un mejor acceso a contenidos, un apoyo personalizado al aprendizaje, nuevas formas de retroalimentación y avances en accesibilidad e inclusión (WR, 2026, p. 7). Pero advierte que «la IA generativa es más que una herramienta digital al uso». Afecta a los procesos cognitivos, a la motivación y a las emociones y puede debilitar la capacidad de pensar y actuar de forma autónoma (WR, 2026, p. 7).

Frente a ese riesgo, el WR propone la «soberanía intelectual» como idea rectora. La define como «la capacidad de actuar de forma libre y autodeterminada en la adquisición y producción de conocimiento» (WR, 2026, p. 8).

Aplicado a la IA, implica desplazar el foco: no se trata de usarla de forma óptima, sino de preservar la capacidad humana de pensar y juzgar con independencia. Esa soberanía exige también una actitud de «resistencia frente a la simplificación cómoda, o cuando menos su cuestionamiento» (WR, 2026, p. 8).

ArtÍculo

El informe describe seis tensiones estructurales de la formación universitaria con la IA:

  • Eficiencia. Contrapartida: metatrabajo.
  • Apoyo al aprendizaje. Contrapartida: pérdida de competencias.
  • Personalización. Contrapartida: pérdida de vínculo social.
  • Participación. Contrapartida: concentración de poder y dependencias.
  • Acceso ubicuo al «saber». Contrapartida: desplazamiento epistémico y desinformación frente a su desenmascaramiento (WR, 2026, pp. 22-26).

Eficiencia frente a metatrabajo

La IA generativa promete ahorro de tiempo considerable en campos como «búsqueda bibliográfica, resúmenes, primeros borradores, elaboración de gráficos y tablas, diseño de ejercicios y exámenes, retroalimentación, maquetación y revisión gramatical» (WR, 2026, p. 22). Pero ese ahorro genera un trabajo nuevo que casi nunca se contabiliza: el «metatrabajo» (Meta-Arbeit). Es decir, hay que comprobar el contenido generado y rastrear sus fuentes, hay que identificar sesgos y errores y documentar el uso de las herramientas de IA; hay que resolver cuestiones legales, como los derechos de autor y la protección de datos y hay que seguir de cerca los cambios normativos (WR, 2026, p. 22).

Para el profesorado, ese metatrabajo se traduce sobre todo en un mayor esfuerzo de validación: no solo al usar la IA ellos mismos, sino al evaluar trabajos de los estudiantes, comprobar la documentación de su uso de IA y sostener defensas orales o coloquios que aseguren la autoría real del trabajo (WR, 2026, pp. 22-23).

En resumen: el ahorro de tiempo que promete la IA en unas tareas se compensa, o se anula, según los casos, con el tiempo adicional que exige supervisar, verificar y documentar su uso. Es la tensión que abre la lista y anticipa el argumento de fondo del informe: la IA no reduce automáticamente la carga de trabajo intelectual, la desplaza.

Como señala Heike Schmoll en el FAZ, ya se han dictado las primeras sentencias de tribunales administrativos alemanes sobre trabajos de cualificación en universidades redactados en parte con IA. En todos los casos, los jueces valoraron el uso de IA generativa como intento de engaño y con ello se adaptaba la calificación a la baja. Los profesores universitarios se han acostumbrado ya a revisar en primer lugar la bibliografía para detectar fuentes alucinadas. A menudo el uso de IA puede constatarse ya por ahí.

Desplazamiento epistémico

«Trabajo epistémico» es el conjunto de operaciones intelectuales mediante las cuales una persona adquiere, valida y produce conocimiento. Consiste en buscar fuentes, leerlas críticamente, contrastarlas, interpretarlas, relacionarlas y construir con ellas un argumento propio. Epistemología es la rama de la filosofía que estudia los fundamentos y métodos del conocimiento científico. Llamar «trabajo» a ese proceso subraya que no es un acto pasivo de recepción, sino una actividad que exige esfuerzo, tiempo y juicio.

Antes, ese trabajo epistémico consistía en ir directamente a las fuentes: leer un artículo, comparar autores y verificar datos. La IA generativa vuelve el «saber» aparentemente omnipresente: «Respuestas, resúmenes y síntesis están disponibles en todo momento y hacen parecer obsoletas las prácticas tradicionales de investigación y lectura» (WR, 2026, p. 25).

En realidad, el acceso instantáneo desplaza el trabajo epistémico: ya no consiste tanto en trabajar directamente con las fuentes, como en seleccionar, valorar y contextualizar respuestas de IA ya preestructuradas, basadas en modelos probabilísticos cuyos datos de entrenamiento y decisiones de valor suelen ser opacos (WR, 2026, p. 25). Por la rapidez, autoridad aparente y sintaxis fluida de sus respuestas, los sistemas de IA empiezan a desplazar en ese papel a la bibliografía especializada, las fuentes analógicas, el profesorado y las comunidades científicas. Esos sistemas se presentan como voces aparentemente neutrales (WR, 2026, p. 25).

El WR insiste en que la investigación asistida por IA exige verificar las fuentes primarias frente al riesgo de alucinaciones, sesgos e imprecisiones. De lo contrario, se erosionarán prácticas ya establecidas de control de calidad científica: revisión por pares, transparencia metodológica y crítica de fuentes (WR, 2026, pp. 25-26). Cuanto más fácil resulta obtener una respuesta, más se desplaza el trabajo intelectual desde el manejo directo de las fuentes hacia el juicio sobre respuestas ajenas.

El documento vincula el trabajo epistémico con la «soberanía intelectual»: si ese trabajo se delega por completo en la IA, se pierde precisamente la capacidad de pensar, argumentar y decidir de forma autónoma, que el informe considera el núcleo de la formación universitaria (WR, 2026, p. 8).

Recomendaciones

Sobre la base de lo anterior, el WR formula nueve recomendaciones.

En procesos de enseñanza y aprendizaje:

  • Desarrollar competencias en IA, pues es «condición para un manejo soberano y responsable de la IA generativa» que estudiantes y docentes las posean (WR, 2026, p. 9).
  • Reforzar el conocimiento disciplinar, porque «el conocimiento especializado no es obsoleto en tiempos de IA generativa» (WR, 2026, p. 9).
  • Crear espacios libres de IA que protejan «un pensamiento profundo, exigente, a veces frustrante, pero en última instancia transformador» (WR, 2026, p. 9).
  • Rediseñar los formatos de evaluación, apostando por «una cultura de confianza mutua, curiosidad y placer por el trabajo propio de producción de conocimiento», antes que la simple prohibición (WR, 2026, p. 10).
  • Someter a comprobación científica la eficacia de aprendizaje de las aplicaciones de IA, dada la «necesidad urgente de evidencia empírica y encuadre teórico» (WR, 2026, p. 10).
  • Redefinir el papel de docentes y estudiantes, para «que el profesorado no quede rezagado frente al desarrollo técnico» (WR, 2026, p. 10).
  • Revitalizar la universidad como espacio social de aprendizaje, intensificando el acompañamiento individual y el diálogo de confianza entre docentes y estudiantes (WR, 2026, p. 11).

Por lo que se refiere a las instituciones:

  • Desarrollar una infraestructura de IA soberana y capaz, mediante estructuras federadas entre los Länder y las universidades. Hay que explorar «vías alternativas al uso de modelos de IA de grandes tecnológicas estadounidenses o asiáticas», incluidos modelos europeos de código abierto (WR, 2026, p. 12).
  • Brindar consejo mediante instancias interestatales, que ofrezcan «una orientación y seguridad jurídica unificadas para el uso de la IA generativa» (WR, 2026, p. 12).

El WR admite que estas medidas son costosas, pero insiste en que los retos que plantea la IA generativa no son superables sin el correspondiente empleo de recursos. Implican a todos los niveles: dirección, facultades, docencia, estudiantado, sociedades científicas, Länder y Estado federal (WR, 2026, p. 8).

El documento resitúa la IA generativa como amplificador de problemas ya conocidos de la digitalización de la ciencia. «Por eso la IA generativa debe entenderse a la vez como desafío y oportunidad»: actúa como lupa sobre déficits ya existentes y como catalizador de reformas estructurales más profundas (WR, 2026, p. 13).

Nota curiosa: el documento del WR indica que se emplearon modelos de IA en su elaboración, bajo responsabilidad final del propio WR ( WR, 2026, p. 2).

Más información

Wissenschaftsrat (2026, julio). Intellektuelle Souveränität: Empfehlungen für die Hochschulbildung in Zeiten von generativer KI. Colonia (Alemania).

Schmoll, H. (2026, 7 de julio). Menschliche Urteilsfähigkeit. Frankfurter Allgemeine Zeitung, p. 5.

Crédito de la imagen: Autor: mikemacmarketing. Licencia CC BY 2.0, vía Wikimedia Commons.