Educación y (riesgos de la) inteligencia artificial

Avance

La revolución de la inteligencia artificial (IA) no tiene marcha atrás, las revoluciones científicas nunca la tienen. El ludismo es siempre una batalla perdida. A la IA no cabe ponerle una señal de prohibido, pero sí de precaución. O límites, como se ponen a la velocidad del tráfico. Las medidas de control de la IA, especialmente para los menores, recorren el mundo. China ha prohibido las relaciones afectivas entre menores y herramientas de IA. Francia acaba de convertirse en el primer país europeo que veta las redes sociales a los menores de quince años. Noruega, pionera en la educación digital desde los años 90, ha impuesto el pasado junio restricciones al uso de la IA en la escuela por parte de niños entre 6 y 13 años, y exige la supervisión de un profesor en el caso de adolescentes de entre 14 y 16 años.

El caso de Noruega apunta a un terreno especialmente sensible: el de las relaciones de la IA con la enseñanza. Ese es el asunto en el que se centra el artículo recientemente publicado por la profesora de inteligencia artificial y ética en la Universidad París-Sorbona Laurence Devillers en Le Grand Continent.

Devillers empieza por diferenciar transmisión y educación. La primera es un proceso ininterrumpido. La segunda es una forma de transmisión, o una parte de ella, que se interrumpe (ahora mismo, con las vacaciones veraniegas). Ya san Agustín y Pascal se interesaron por ello. Pascal habló de cómo el cuerpo aprende en silencio, sin discurso; y san Agustín se refirió a la contaminación por el espectáculo, un mecanismo cognitivo de sorprendente actualidad porque su lógica está presente en los asistentes conversacionales alimentados por modelos de IA generativa como Claude o ChatGPT, así como en las redes sociales. Lo que vemos y escuchamos nos moldea, seamos conscientes de ello o no. Por lo tanto, la cuestión ya no es solo qué debemos enseñar, sino qué nos enseña, sin que nos demos cuenta, todo lo que escuchamos y vemos. Eso es precisamente a lo que apunta hoy en día un sistema de IA generativa. Nos moldea mediante la exposición repetida, sin pasar por nuestra deliberación consciente, a modo de un adiestramiento silencioso. La IA generativa funciona mediante la extrapolación del pasado: observa nuestros hábitos, nuestros clics, nuestras reacciones repetidas y deduce de ello lo que debe proponernos a continuación.

Lo que está ocurriendo fue anunciado por el filósofo francés Gilles Deleuze, que habló del paso de un régimen educativo (a cargo de la escuela o la familia) a un régimen de transmisión continua, sin interrupciones ni finalización. En el régimen de educación y disciplina, nos dirigimos a un individuo con una identidad estable, en lugares físicos. En el control continuo, se trata a las personas descompuestas en datos, flujos y muestras medibles. Lo que antes permitía identificar a alguien en el marco de una disciplina constituía un marcador de su individualidad. En el control, es el código de acceso, la contraseña, el dato digital lo que identifica y autoriza (o no) el paso. El acceso se vuelve condicional y revocable en cualquier momento, a diferencia de la disciplina, donde, una vez finalizada la formación, el estatus queda adquirido.

Laurence Devillers llama la atención sobre el hecho de que los cuatro pilares del aprendizaje (la atención, la participación activa, la revisión de los errores y la consolidación) se vean afectados (perjudicados) por el uso de la IA. El uso excesivo de un chatbot siempre disponible puede fragmentar la atención en lugar de estructurarla, al ofrecer respuestas demasiado rápidas que eluden el esfuerzo de concentración. El uso pasivo por parte del alumno delega la producción en la IA (copiar y pegar una respuesta generada) y el compromiso activo se desmorona. La IA generativa puede ofrecer una explicación errónea con la misma seguridad que una correcta, lo que tiene como efecto consolidar un error con la seguridad de alguien que sabe. Por último, la consolidación requiere tiempo y sueño, pero ninguna IA puede acelerar este proceso biológico. En definitiva, al externalizar el esfuerzo (redactar, buscar errores, recordar) hacia la IA, el alumno puede desarrollar la competencia para utilizar la IA sin desarrollar la propia competencia subyacente.

Un estudio del MIT Media Lab del año pasado concluyó que la conectividad cerebral disminuía sistemáticamente con el nivel de apoyo externo. A mayor uso de la IA, menor conectividad cerebral, es decir, menor estímulo de nuestras capacidades cognitivas. La escala descendente va del uso de ChatGPT, Google o ninguna herramienta y solo cerebro.

La manipulación emocional es otro riesgo. Al interactuar constantemente con una entidad que no juzga, es posible que nuestra tolerancia a la ambigüedad —propia del juicio humano— se reduzca considerablemente.

La gran pregunta es cómo desarrollar un espíritu crítico ante una IA generativa que nunca se presenta como una limitación, sino más bien como un servicio, una sugerencia «personalizada» a la que vemos como un amigo, pero que modula constantemente lo que se nos ofrece pensar y que detecta nuestras emociones. ¿Cómo resistirse a algo que nunca te oprime abiertamente, pero que te acompaña? El espíritu crítico supone un punto de referencia, una alteridad con la que medirse, justo lo que falta en la IA, que nunca da órdenes explícitas ni se muestra como una instancia de poder. Así, el reto para la escuela del mañana consistirá en aprender a seguir siendo uno mismo en medio de una corriente que querría moldearnos insidiosamente.

En otras palabras, ¿cómo formar a unos alumnos que, en su mayoría, nunca han conocido un mundo sin IA generativa y cuyo contacto con ella empieza mucho antes de llegar al colegio? En Europa, cada país tiene su propia estrategia. Noruega, ya lo hemos visto,  está dando marcha atrás: el modelo que durante mucho tiempo había presentado como un orgullo nacional se considera ahora corresponsable del descenso general del nivel académico. El enfoque europeo se distingue de los modelos chino y norteamericano. Europa apuesta por la regulación jurídica, combinada con directrices éticas, situando a los docentes en el centro. Y hay organizaciones, como Ekö —antes SumOfUs— implicadas en el debate de la Ley de Inteligencia Artificial de la UE, cuyo objetivo es exigir que la tecnología proteja los derechos humanos.