De la misma forma, posibilitan la personalización de los aprendizajes, ayudando al estudiante a actualizar sus aprendizajes y mejorar su capacidad de agencia y autonomía (Council of Europe, 2022).
Sin embargo, ¿qué desafíos nos plantea el uso de IA plantea desafíos en temas de protección, privacidad, propiedad y análisis?,¿cómo podemos hacer un uso ético de la IA?
En esa línea, uno de los principales desafíos de la incorporación de la IA en educación es cómo diseñar y promover el uso de tecnologías que generen el mayor beneficio posible para la sociedad, de manera de generar inclusión y equidad, a la vez que se eviten los posibles riesgos del uso de la IA en términos de ética, así como socialmente.
Ejemplos de riesgos asociados al uso de la IA en educación:
01.
Con el uso de la IA, paradójicamente, la capacidad de acción de los estudiantes pudiera verse mermada por un mayor uso de la IA adaptativa en la educación Esto podría afectar algunas de las habilidades del siglo XXI que son fundamentales para equipar a los aprendices para ser ciudadanos plenos de las décadas venideras, como la creatividad, pensamiento crítico, autoeficacia, autorregulación, entre otras.
03.
Las personas pueden interactuar con los sistemas de IA a lo largo de todo su ciclo vital. Por lo mismo, se requiere especial supervisión y cuidado en las interacciones de los grupos más vulnerables, personas con discapacidad, niños, niñas, entre otros.
02.
Si bien la IA no está sesgada en sí, es un problema asumir que los algoritmos son imparciales. En consecuencia, no corregir a tiempo datos que están sesgados o se analizan con algoritmos inadecuados, puede amplificar los sesgos originales y no identificados generando un mayor impacto.
04.
Es importante tener claro con qué finalidad la escuela está recopilando ciertos datos y cómo los está usando, reflexionando sobre nuevas formas de recopilación de datos si es necesario, el tiempo que esta se utiliza y el tiempo que podrá ser conservada o almacenada.
01.
Resguardar la equidad y mitigar los sesgos en el uso de IA, promoviendo la participación de todas las personas o grupos, con independencia de su raza, género, edad, religión, condición económica o social de nacimiento, discapacidad o cualquier otro motivo.
03.
Resguardar la seguridad y la protección de la IA mediante el desarrollo de marcos de acceso a los datos que sean sostenibles, respeten la privacidad y fomenten la validación de los modelos de IA que utilicen datos de calidad.
02.
Garantizar accesibilidad, el diseño universal, la prevención de sesgos injustos y la participación de las partes interesadas, lo que permite el uso independientemente de la edad, el género, discapacidad, necesidades especiales, entre otros.
04.
Una introducción e implementación progresiva de la IA en las escuelas lo que implica supervisar constantemente los efectos sociales que pueden surgir, reflexionando y estando atentos a las situaciones imprevistas, pudiendo retroceder cuando se produzcan consecuencias no deseadas.
05.
Sensibilizar y comunicar respecto a la toma de decisiones sobre los datos que se utilizan, haciendo partícipe a la comunidad educativa, especialmente a padres, madres y cuidadores en la toma de decisiones.