S• 5•3 • La necesaria (y no suficiente) reflexión ética en el uso de datos del estudiantado •
La reflexión sobre la ética en el uso de las analíticas de aprendizaje ha ido evolucionando a partir del esfuerzo de ir más allá del mero entusiasmo por el “desarrollo”, hacia la implantación de enfoques de uso de datos en el proceso pedagógico como parte de las políticas institucionales.
Ejemplos
Consideremos como ejemplo algunas iniciativas a nivel europeo y latinoamericano que incluyen discusiones abiertas y avanzadas sobre los aspectos a tener en cuenta para un “mainstreaming” (integración a la práctica cotidiana) que considere así mismo, aspectos éticos a partir del diseño.
Nos referimos aquí a los proyectos transnacionales financiados con fondos europeos LACE (2014-2016) SHEILA (2015-2018) y LALA (2018-2020 ).
El primero, desarrollado en el período 2015-2018 y liderado por la Open University of Netherlands (IP Hendrik Drachsler) tenía como objetivo concreto desarrollar un marco para la calidad de las analíticas (Scheffel et al., 2015). Dicho marco se llamaba DELICATE (delicado, considerando la cuestión delicada de tratar los datos estudiantiles). Cada letra de la palabra cubría una dimensión de análisis de las políticas de implementación de de analíticas en las IES, es decir: (D) Definición de un sistema de de analíticas en la institución, (E) Explicación a los portadores de intereses de dicho sistema, (L) Legitimación del sistema, (I) Interacción con el sistema, experiencia del uso y evaluación, (C) Consentimiento en el uso de datos, (A) Anonimización de datos, (T) Técnicas / Tecnología usada para el desarrollo y realización de de analíticas, Presencia de proveedores externos que entran en contacto con datos sensibles.
El segundo proyecto, liderado por la Universidad de Edimburgo (IP Dragan Gasevic) tenía por objetivo ayudar a las universidades Europeas a convertirse en instituciones más maduras en la custodia de los datos digitales sobre sus estudiantes a medida que aprenden en línea. Dicho proyecto creó un marco de desarrollo de políticas para promover la evaluación formativa y el aprendizaje personalizado, aprovechando la participación directa de las partes interesadas en el desarrollo del proceso. El marco daba una serie de elementos para auto-evaluar si la institución estaría organizando correctamente la implantación de sistemas de de analíticas, considerando muy particularmente la participación de los estudiantes (Tsai & Gasevic, 2017). Así mismo, desarrolló un MOOC para el desarrollo profesional docente que apoyara la comprensión del problema y características de las analíticas.
El tercer y último proyecto, liderado por la Universidad Carlos III de Madrid (IP Pedro Muñoz-Merino) expande las actividades del proyecto SHEILA en colaboración con importantes universidades de América Latina (Ecuador y Chile) para explorar las posibilidades de implementación de analíticas en las universidades latinoamericanas. Cuenta con una extensa red de instituciones asociadas que habrían participado en acciones de investigación relacionadas. De hecho, en América Latina la reflexión crítica, de consideración de la privacidad desde el diseño se halla en estado avanzado, con todas las dificultades infraestructurales y de organización de proyectos nacionales y transnacionales para la homologación y armonización de prácticas (Cechinel et al., 2020).
La ética como parámetro de calidad
Una de las últimas revisiones de la literatura al momento de escritura de este recurso (Pargman & McGrath, 2021) ya indicaba que entre el 2014 y el 2019 podían identificarse unos 21 trabajos publicados en relación a la discusión ética alrededor de la implantación de sistemas de analíticas de aprendizaje. Sin embargo, estos autores también indicaban que las percepciones, perspectivas, actitudes y visiones sobre el tema representaban más que nada la visión institucional más que la visión del estudiantado. Mientras los temas más investigados tenían que ver con la transparencia, la privacidad y el consentimiento informado los estudios sobre la justicia, la equidad, los sesgos algorítmicos o la libertad intelectual han sido mucho menos explorados.
Grifith (2020) enfatiza la visión de las analíticas de aprendizaje como ámbito discreto específico, desarticulado de un contexto de referencia social e institucional, lo que ocasiona contradicciones que suponen el uso de las analíticas como factor de calidad, pero también de control por parte de la gestión académica; todo ello en situaciones en las que la extracción coercitiva en una situación en la que el estudiantado no puede sustraerse. Por su parte Tzimas y Demetriadis (2021) en su trabajo se acercan más la definición de las problemáticas éticas en las analíticas de aprendizaje al debate relacionado con la evolución de la Inteligencia Artificial (IA), conectando el desarrollo tecnológico a la dimensión pedagógica y de gestión académica, y utilizando conceptos como etiquetamiento, sesgo algorítmico, privacidad desde el diseño, que ya circulan y son aplicados a la IA.
La cuestión de la privacidad ha recibido mayor atención en general, conteniendo líneas de trabajo como la seguridad, sistemas legales y anonimato, privacidad por diseño y respeto de diferencias culturales, basándose en acciones como el consentimiento y el entrenamiento/aprendizaje sobre los mecanismos del sistema para generar confianza y formas de control sobre los datos.
El etiquetamiento, que es una operación necesaria en la construcción de sistemas basados en aprendizaje de máquina (machine learning), muy presentes en los artículos revisados, expresan una preocupación por la autonomía de las personas que son etiquetadas y más adelante clasificadas, con claros efectos sobre la conducta. Ello conceptualmente se relaciona con un contexto de paternalismo y vigilancia, una visión tecnológica determinista y una tendencia a la monetización/ producción “industrial” de resultados. Áreas con menor densidad de conceptos y por ello menos presentes, probablemente por ser emergentes, son las de la justicia algorítmica como posible enfoque de democracia algorítmica o “algocracia” en íntima relación con la obligación de actuar de las instituciones y del derecho a saber de los participantes (profesorado y alumnado).
