Reglamento Europeo de Inteligencia Artificial: ¿en qué te afecta?

El carácter vinculante a partir del día 2 de agosto del Reglamento (UE) 2024/1689, conocido como AI Act, más en concreto su artículo 50, ha desastado en redes más dudas que certezas, y sin duda quizá nos ha planteado preguntas sobre cómo nos afecta a los docentes, estudiantes y centros educativos. 

Puedes descargarlo, leerlo o pasárselo a la IA para que te lo resuma o explique. Te paso el enlace. También puedes entrar en este otro enlace de la Comisión Europea que responde a las preguntas más recurrentes.

Iré al grano, porque las casuísticas que nos afectan son muy específicas, aunque algunas no poco complejas y no carentes de ambigüedad y efectos perversos. 

Lo primero: el artículo 50 del reglamento deja claro que las obligaciones van dirigidas a las empresas de IA, que proveen el acceso a los modelos, y a los profesionales que los usan en actividades empresariales. No afecta al usuario particular. Pero esto no significa que a título personal puedas publicar lo que desees en RRSS. La ley, más allá del reglamento AI Act europeo, también protege la privacidad, seguridad y dignidad del afectado. 

Por particular se puede entender el uso que hacemos de la IAg para gestiones o preparación de aula que no sean compartidas. Una vez que lo compartes en tu blog, Classroom o web de centro, deja de ser privado y forma parte de tu contexto laboral y llega a tus estudiantes o sus familias. Lo que hagas en privado, privado es. Si creas una imagen en tu muro personal de RRSS, no tienes obligación de decir que es IA o no. Ya hay servicios de internet que lo detectan y a veces lo detallan cuando compartes. De hecho, esa es la tendencia habitual: que todos los servicios detecten tus materiales y registren la huella atribución o autoría. 

Si se trata de materiales educativos compartidos a estudiantes o familias, entonces AI Act te recomienda (no obliga ni penaliza) indicar la huella de atribución. No es una cuestión legal, sino ética y educativa. Que tus estudiantes sepan cómo usaste la IAg les educa a ellos en su buen uso. 

• Si no usaste IAg, no es necesario decirlo. 
• Si la usaste como apoyo, por ejemplo, puedes indicar al final del material escrito o como añadido al mensaje de una infografía o dentro de ella: «Elaborado con apoyo de IA generativa». 
• Si delegaste más en la IAg: «Material elaborado con IA generativa. Contenido revisado y validado por el docente». 
• Si prácticamente está hecho con IAg: «Contenido generado con [herramienta/modelo] y revisado por el docente». 
• Si usaste material adaptado de terceros, debieras citar la fuente y/o licencia correspondiente.

Puedes usar signaturas o simbología en los materiales: 

• H: Elaboración humana. 
• H+IA: Elaboración humana con asistencia de IA. 
• IA+H: Generación sustancial mediante IA y revisión humana. 

Tiene un valor educativo, para que el estudiante sepa cómo debe usar la IAg y compartirlas con otros de forma ética. 

Hasta aquí, nada es obligatorio, pero sí recomendable.

Donde sí nos balanceamos en un terreno inestable es cuando tus materiales audiovisuales usan deepfake o aparecen estudiantes u otros docentes en imágenes, audios o vídeos generados con IAg. Debe notificarse a esas personas antes de publicarlo y obtener su consentimiento. Si no, no se puede publicar. Esto era necesario también antes de la IAg. La diferencia está en que ahora la IAg puede generar contenidos que replican tu voz o tu imagen personal, sin haber estado tú ahí o haber dicho eso. Las casuísticas distópicas son innumerables. 

Esto no afecta solo a los docentes y responsables TIC de los centros, también a los estudiantes, y hay que informarles. No pueden publicar lo que les plazca sin consentimiento. 

Resumamos: el nuevo reglamento europeo incide en el uso de materiales educativos donde se modifique la imagen o voz de los estudiantes. No obliga a citar que fue generado parcial o totalmente con IAg. Sin embargo, tengamos en cuenta que las consejerías de educación pueden aportar normativas que precisen más esos usos. Hay que leerlas y tenerlas en cuenta. Cada país europeo, comunidad autónoma, incluso cada centro educativo, puede afinar su normativa.

Además de lo relacionado con la publicación de materiales generados con IAg, el reglamento europeo es muy sensible a otro aspecto de nuestro trabajo que requiere cierta prudencia: la evaluación. En su Anexo III, el reglamento europeo cataloga como de alto riesgo el uso de IAg para evaluar resultados de aprendizaje, para admisión y acceso de estudiantes, para determinar el nivel educativo, para supervisar o detectar conductas prohibidas durante pruebas. ¿Cómo afecta esto a un docente? 

Casos admisibles: 

• Generar una rúbrica a partir de criterios curriculares.
• Crear preguntas de examen.
• IAg te ayuda a preparar la evaluación a través de rúbricas, preguntas, criterios observables, ejemplos...

Casos admisibles con reservas:

• Analizar errores frecuentes de un conjunto de respuestas anonimizadas. Admisible, pero sin incluir nombres ni datos sensibles.
• Pedir a la IAg que señale aspectos a revisar en un trabajo. Admisible como apoyo. El docente contrasta los datos de la IAg y decide.
• Comparar la propia corrección con una segunda valoración de la IAg. Admisible como contraste, si decide realmente el profesor.
• Usar la IAg para transformar resultados ya evaluados en informes o descriptores. La IAg detecta errores, propone feedback, compara respuestas. Generalmente admisible, siempre que no altere la decisión del docente.

Casos de riesgo: La IAg participa en la valoración. Aplica rúbricas, asigna niveles, propone calificaciones...

• Proponer una valoración con rúbrica: «Aplica esta rúbrica y dime qué nivel alcanzaría». Uf, es más delicado, puede suponer uso de la IAg para evaluar resultados de aprendizaje.
• Proponer una nota: «Corrige este examen y propón una calificación de 0 a 10». De alto riesgo, según la finalidad y el contexto en que lo apliques. 
• Calificar automáticamente. Por ejemplo, se suben 100 exámenes y el sistema asigna directamente las notas. Alto riesgo si lo que deseas es evaluar resultados de aprendizaje.
• Decidir consecuencias académicas. La IAg decide el aprobado o suspenso, recuperación, promoción, nivel, itinerario… Alto riesgo y sujeto a fuertes garantías. 
• Sancionar fraude mediante IAg. «El detector dice 93 % IA, luego la tarea queda anulada. Cero». Muy problemático. Hablaré más abajo de esto.

Casos de alto riesgo: La IAg decide consecuencias académicas. Nota final, suspenso, promoción, fraude, itinerario...

Problema de todo esto: 

• Requieren un cierto conocimiento de uso de la IAg. Si no se tiene esa formación, lo más probable es que se aplique mal. Formarse es esencial.
• Aplicar la IAg en estos casos requiere un tiempo que a veces es mayor que el que se necesitaría recurriendo a métodos tradicionales. 
• Si se aplica bien y es grave, no hay posibilidad de registros que acrediten que el docente usó ilegítimamente la IAg. 

Consecuencias: 

• Pocos docentes usarán la IAg como ayuda en el proceso de evaluación. Y si la usan y no saben cómo, será poco eficaz.
• No es fácil ni operativo que la IAg te corrija los exámenes, además de que revela un modelo evaluativo nada competencial. 
• Cuanto más competencial, más factores subjetivos intervienen en la evaluación y más difícil será que la IAg los pueda apreciar tal y como tú deseas.

Lo que me preocupa no es que los docentes usen mal la IAg. Ojalá se atrevieran y equivocaran (para aprender y mejorar). Mi foco está en las consejerías de educación. No les preocupa tanto que se use o no la IAg para evaluar como que no presente problemas legales o reclamaciones de estudiantes y familias. De hecho, la evaluación formal con IAg llegará sin duda a las plataformas oficiales de las consejerías, lo que a mi juicio supondrá un retroceso en la aplicación de modelos competenciales de evaluación durante el proceso de aprendizaje. Completar plantillas mediante rúbricas inteligentes será más rápido que corregir, pero en el camino se perderán detalles, atención a la diversidad, y favorecerá el uso de métodos dataístas (rellenar y listo) a través de tareas objetivas, a menudo estandarizadas, bajo condiciones de control y vigilancia en las aulas. 

Como puedes apreciar, hasta ahora en poco o nada te afecta el reglamento. No es prescriptivo citar IA en los materiales, aunque es recomendable como actitud ética y compromiso educativo con tus estudiantes. Puedes usar la IAg para casi todo lo que haces con ella hasta ahora, a no ser que te haya dado por enredar más y buscar formas de automatizar ciertos procesos de enseñanza. Entonces, ahí sí debes ir con cuidado y evitar incluir datos sensibles o privados de tus estudiantes y propiciar que en ese uso seas tú siempre quien supervise y decida en última instancia qué es relevante y qué calificación deben obtener tus estudiantes. Poco más.

Sin embargo, sí hay un asunto que nos suele preocupar y que aparece en el AI Act europeo y que puede generar confusión y cierta incertidumbre sobre qué hacer. El reglamento no prohibe sancionar a un estudiante por copiar con IAg, si está en tu programación. El problema surge en cómo demostrar que copió. Si no, no queda clara la naturaleza de tu sanción. 

Primero, debe informarse al estudiante si esa prueba o tarea debe realizarse sin ayuda de la IAg, con ayuda parcial o con ayuda total. El estudiante debe estar informado de los criterios de evaluación generales o de los que se detalle en la propia prueba. Segundo, si la tarea requiere o deja abierta la puerta al uso de la IAg, o el estudiante la hizo en casa, no está de más que como medida educativa toda tarea vaya acompañada de una ficha de atribución de autoría en la que el estudiante anote brevemente si usó y cómo determinada IAg. Esto debiera ir acompañado de una formación sobre cómo usar la IAg en las tareas asignadas. Adjunto un modelo de ficha para el estudiante por si te sirve. Adáptala.

Un suspenso basado exclusivamente en sospechas o en el resultado de un detector presenta una posición jurídica más débil ante una eventual reclamación. Las posibilidades de prosperar de una reclamación aumentan considerablemente si...:

• En tu programación no dejaste claro los criterios relacionados con el uso de IAg en las tareas.
• Si esos criterios fueron comunicados al estudiante con antelación.
• Si no se aportan pruebas razonables de que usó IAg. 
• Si no se demuestra que el resto de estudiantes fueron calificados bajo los mismos criterios.

Si el uso fue flagrante, es más fácil de demostrar y penalizar, pero debe añadirse en la programación la prohibición de móviles u otros aparatos inteligentes. Y quizá no está de más dejar en cada prueba un pie de página que recuerde esas normas obvias.

Todo esto es menos urgente si el docente aplica métodos de evaluación más competenciales, donde la IAg sea una ayuda y no penalice sino que sume, o no sea necesaria para realizar la tarea. Pero es inevitable, sobre todo en segundo de Bachillerato o FP Superior, encontrarse con casuísticas que requieran repensar la programación y estar alerta contra nuevas formas sofisticadas de copieteo. 

Quizá el mayor efecto del AI Act no sea obligarnos a detectar mejor el uso de la IA, sino a diseñar evaluaciones donde esa detección deje de ser el problema principal.

Recuerda: El AI Act es un reglamento europeo de aplicación directa, pero su aplicación práctica en educación dependerá también de las instrucciones que dicten el Ministerio, las consejerías de educación y, en algunos casos, los propios centros educativos. Conviene seguir su evolución durante los próximos cursos.