Evaluación personalizada con IA: ¿utopía o distopía?

He leído numerosos artículos y guías acerca del uso de la IA en educación y todos coinciden en augurar aplicaciones didácticas enfocadas hacia similares patrones didácticos, que quizá involuntariamente contienen sesgos pedagógicos que conviene analizar y reflexionar sobre ellos. Véase:

• Personalización del aprendizaje: Identificar fortalezas y debilidades de cada estudiante y ofrecer recomendaciones y recursos personalizados para optimizar su aprendizaje. 
• Retroalimentación automatizada: Evaluar respuestas, corregir errores y brindar explicaciones detalladas. 
• Asistentes virtuales y chatbots: Responder preguntas, proporcionar información adicional, ofrecer tutoría individualizada y guiar a los estudiantes en su proceso de aprendizaje.
• Análisis de datos educativos: Obtener información sobre los patrones de aprendizaje, identificar áreas problemáticas y tomar decisiones informadas para mejorar la enseñanza y el diseño de los programas educativos.
• Plataformas de aprendizaje adaptativo: Recomendar materiales de estudio, realizar evaluaciones y adaptar el ritmo y el nivel de dificultad del contenido para optimizar el aprendizaje de cada estudiante. 
• Sistemas de tutoría: Analizar las respuestas de los estudiantes, identificar áreas problemáticas, ofrecer explicaciones claras y personalizadas y simular interacciones de tutoría. 
• Generación de contenido educativo: Generar contenido educativo original, como textos, ejercicios y problemas.  
• Traducción y aprendizaje de idiomas: Acceder a contenidos en diferentes idiomas para comprender y traducir texto en tiempo real. 
• Creación de contenido multimedia: Por ejemplo, generar piezas musicales originales en diferentes estilos y géneros. 
• Evaluación automatizada: Por ejemplo, podría analizar las respuestas de los estudiantes y proporcionar retroalimentación inmediata sobre su desempeño.
• Detección de emociones y estado de ánimo: Por ejemplo, mediante el análisis de expresiones faciales, el tono de voz o el lenguaje utilizado, se pueden identificar señales de confusión, aburrimiento o frustración, y adaptar la enseñanza.
• Apoyo a estudiantes con necesidades especiales: Ayudar a los niños con dificultades en el habla y el lenguaje a comunicarse de manera efectiva. 
• Automatización de tareas administrativas: Gestión de registros, seguimiento del progreso del estudiante y programación de horarios. 

Si mi lector ha repasado esta lista, es probable que le hayan surgido en su cabeza más dudas que certezas. ¿Cómo hacer esto, a qué coste, con qué medios y formación? ¿Es el camino correcto, qué perdemos en el intento? Los expertos, al igual que desgranan estas posibles aplicaciones, subrayan un efecto perverso preocupante: la pérdida de interacción humana, añadida a la ya existente en el ecosistema de interacciones sociales fuera del aula. Los llamados sistemas disruptivos de IA educativa están enfocados a un modelo de enseñanza-aprendizaje que adolece a mi juicio de varios vicios: 

• Está concebido para propiciar un aprendizaje individualizado. autónomo, que liga al alumno con medios digitales. En ningún párrafo se habla de hacer interactuar este modelo con situaciones analógicas, contextos vitales que no sean mirar hacia una pantalla. Tampoco habla de propiciar un aprendizaje en un contexto socializado, de interacción social o aprendizaje compartido. 
• Se configura como un modelo excesivamente ligado a modelos de evaluación cuantitativos, mediados por algoritmos previamente alimentados. La llamada personalización de la evaluación se circunscribe a medios evaluativos que analizan datos objetivos. La subjetividad del proceso de aprendizaje queda fuera del modelo. Y cuando lo intenta, se limita a sugerir una inquietante e ilegal solución: la detección biométrica de emociones. El modelo de evaluación que se intuye tras las propuestas de numerosos expertos posee un sesgo cuantificador e individualista muy acentuado, como si respondiera al rol industrial del buen operario y los sistemas objetivos de control de calidad. 
• Otra cuestión está en la excesiva dependencia de algoritmos que no controle el docente. Al igual que sucede si nos ceñimos exclusivamente a un libro de texto, si lo hiciéramos a una plataforma donde ya vienen enlatados los criterios, contenidos, metodologías, rúbricas evaluativas, perderíamos la adaptación a contextos que requieren decisiones constantes, cambios de rumbo, distopías variadas, escasez de medios. Aunque auguran un modelo individualizado que sabría detectar necesidades al vuelo, estas están ligadas a criterios estandarizados previos, vienen en paquetes con sus propios sesgos didácticos, empresariales y políticos. Hay que recordar que todo asistente educativo, venga de una editorial o de la propia administración educativa, contiene sesgos que condicionan su aplicación.  
• Es previsible que las plataformas de contenidos, seguimiento y evaluación a través de IA lleguen antes de las editoriales que de la iniciativa del docente, que aún apenas sabe muy bien qué posibilidades y límites posee este medio emergente. Si no han llegado es que estamos ante un nicho en constante mutación, a la espera de una meseta de micro innovaciones, y una legislación clara respecto a la protección de datos. Pero en un par de años quizá empecemos a ver propuestas al respecto. Y entonces la posibilidad de que sea el docente quien gestione de forma autónoma e independiente los asistentes personalizados, adaptándolos a la realidad de su aula, tendrá como ya sucede con otras innovaciones un impacto residual. La mayoría de docentes se plegarán por comodidad a una plataforma que le simplifique el proceso, sin tener que pensar cómo configurarla y alimentarla él mismo.
• Otro asunto que no está nada claro, aunque a priori nos resulte deseable, es el de la posibilidad de que la IA reduzca la burocracia administrativa, tanto dentro de la institución como en el proceso de enseñanza del docente. Recuerdo que hace décadas la promesa fue similar: los ordenadores, internet, las plataformas digitales van a minimizar la burocracia, reduciéndola al mínimo. Hoy sabemos que no fue así. Es más, tenemos la sensación se que la distopía administrativa ha aumentado. Por esto, las promesas de que la IA traerá menos burocracia nos suenan a pócima crecepelo. Es más, me aventuro a augurar que los sistemas de automatización del proceso de evaluación obligarán al docente a estar constantemente atareado frente a un ordenador, constatando datos y modulando su intervención vía digital. La dependencia de los algoritmos irá acompañada de una mayor tarea burocrática. Aunque sea un asistente quien controle y registre ciertos parámetros, el docente estará obligado a certificar el proceso paso a paso vía telemática. 

Por suerte, todo esto sucederá muy a largo plazo y de forma gradual. Aún no existen plataformas y asistentes seguros y eficaces que puedan ofrecerse de forma generalizada. Aún estamos en una curva ascendente de constantes implementaciones tecnológicas, sin que se asienten sus posibles aplicaciones educativas. Esto hace que la formación del profesorado en materia de IA sea aún residual, limitada al tanteo y tímidas aplicaciones que de seguro caducarán cada curso. A su vez, la implementación de un modelo personalizado de enseñanza requiere, además de formación -véase el manifiesto desastre de la educación virtual durante la pandemia-, infraestructura y medios, un presupuesto y un mantenimiento. Uno de los grandes problemas de los anteriores sistemas de digitalización fue precisamente este: la dependencia de presupuestos externos y la ausencia de un modelo de mantenimiento y reciclado digno. Por último, y quizá lo más relevante, un cambio de estas dimensiones requiere un periodo de aclimatación muy largo por parte del docente. Ni siquiera a día de hoy está el profesorado adaptado al sistema de dotación tecnológica a través de pantallas. La mayor parte de retos educativos mantienen los criterios evaluativos de la era pre digital. De hecho, los movimientos pedagógicos de familias y docentes a favor de una reducción o eliminación de la presencia de tecnología en las aulas ha aumentado. 

Lo que más preocupa a quien escribe esto es la tendencia a la automatización cuantitativa, vía algoritmos alimentados por datos, aludiendo aspectos esenciales del proceso de enseñanza: la mediación física y emocional del docente y la inclusión de la subjetividad como elemento esencial de todo acto de aprendizaje, base de la disrupción social que nos protege contra los abusos de poder y la pasividad del ciudadano en las democracias modernas. Más aún, el intento de vender los modelos algorítmicos como sistemas objetivos, sin sesgos ni intereses exógenos.

La tentación puede ser ceder hacia formas de evaluación que se reduzcan a pruebas mal llamadas objetivas (tests, cuestionarios, pildorajes), fácilmente cuantificables, ya sea por medios digitales o presenciales. Ya he empezado a oír a numerosos docentes que si la IA se lo hace todo al alumno, ¿cómo asegurarse que fuera del aula ha hecho las tareas? Solución: no poner tareas en casa y reducir la evaluación a pruebas estandarizadas objetivas: exámenes al uso y, en menor medida dado el coste de tiempo que requiere, exposiciones orales. Los retos colaborativos disminuirán a favor de lo que podríamos llamar modelos funcionariales de evaluación, recurrentes en sistemas de evaluación de oposiciones. A esto se suma un menor impacto de la intervención del docente en el aula a medida de que el alumno adquiere mayor autonomía y conocimientos en el manejo de las plataformas de aprendizaje automatizados, alimentadas por IA. Sin embargo, ya en etapas de Primaria empezamos a observar un errático e indiscriminado criterio de uso de la tecnología que ha llevado a las familias a desconfiar de la deriva de la revolución tecnológica en las aulas. Los alumnos ya en 5º y 6º de Primaria denotan una pérdida de psicomotricidad y de atención. La ausencia de criterios médicos, psicológicos y pedagógicos serios y contrastados dejan al docente a la deriva. ¿Cuándo es recomendable comenzar a usar en el aula un ordenador, tablet o móvil? ¿Cómo se usa? ¿Qué herramientas y metodologías facilitan el aprendizaje? ¿Cómo evaluar? Preguntas irresolutas. 

Por ahora, lo que tenemos es un entusiasmo acrítico en determinados corpúsculos de instituciones educativas y empresas con interés de sacar tajada de este viraje tecnológico, y por otro lado un desconocimiento y desconfianza popular en familias, docentes y resto de la ciudadanía. En medio, la sensatez, la mesura, el conocimiento sereno, busca un difícil espacio desde donde invitar a una reflexión sana y compartida.