El Dr. David Merino es profesor de programación de la Universitat Oberta de Catalunya. En su investigación, está aplicando algoritmos de IA en el análisis de datos de microscopía aplicados a la diagnosis de enfermedades. En esta entrevista, el Dr. David Merino nos responde a unas preguntas sobre la IA en el campo de la educación.

En primer lugar, nos gustaría saber cómo crees que la inteligencia artificial está transformando el sector educativo.

La inteligencia artificial está transformando el sector educativo como está transformando todos los otros sectores. De repente han aparecido una serie de herramientas que, para empezar, son muy llamativas, y han generado mucha expectación, y se ha visto que pueden tener muchas aplicaciones en el aula.

Recuerdo que en su momento se hablaba de internet y de Google en los mismos términos que se habla ahora de la IA: era muy útil, y podía ayudar mucho, pero a la vez podía ser algo que generaba ciertos miedos o temor. Al final se ha ido integrando poco a poco en nuestro día a día, y nos hemos ido adaptando. Me parece que este será un proceso parecido. Yo creo que es evidente que el impacto en la sociedad en general va a ser muy grande: a mí ya me ayuda mucho en mi día a día. Pero a la vez creo que debemos ser cautos y mirar a estas nuevas herramientas, dejando de lado la especulación, el temor o la prisa por adoptarlas.

¿Podrías dar ejemplos de aplicaciones de IA que ya se están utilizando en la educación?

Hay muchas aplicaciones. Quizás la más evidente es que puede utilizar un agente de IA que ayude al estudiantado a realizar ejercicios, o a repasar conceptos que suponen un reto. También puede ayudar a generar elementos audiovisuales (imágenes, videos, canciones) que puedan hacer más atractivos algunos materiales y ayudarnos a captar su atención.

También se puede utilizar la IA para ayudar en la evaluación: entrenar algoritmos de IA que ayuden a agilizar el proceso de proporcionar retorno de los ejercicios entregados por el estudiantado.

Hay muchas aplicaciones, y seguro que las personas que lean esto tengan nuevas ideas mientras nos leen.

¿Qué papel juegan los datos en el desarrollo de soluciones de IA para la educación?

Los datos son el alimento de la IA. Al final la IA lo que hace es “aprender” de muchos datos, y digo “aprender” entre comillas. ¿Qué quiere decir esto? Supongamos que queremos saber si un estudiante ha entendido un concepto a partir de un ejercicio que nos entrega. Para que la IA lo sepa, tenemos que “entrenarla” con muchos ejercicios que ya han sido entregados antes, y de los que además sabemos de antemano si el o la estudiante que lo ha entregado ha entendido ese concepto, quizás porque sabemos si ha superado el ejercicio. Con esta información, ¡que es mucha!, ya que estamos hablando de números muy altos de ejemplos, la IA reconoce patrones, que busca en los ejemplos que le hemos dado, y de los que infiere conclusiones.

El principal problema es que no hay manera de comprobar si la solución que nos da la IA es correcta o no. La IA acostumbra a tener un porcentaje alto de acierto, pero siempre hay un porcentaje de error.

Otro aspecto sobre el que nos gustaría saber tu opinión es: ¿cómo se puede garantizar la ética y la privacidad en el uso de la IA en la educación?

Esta es una muy buena pregunta, y creo que no es solo importante para la educación. Actualmente es muy relevante en cualquier interacción que tenemos con internet: visitar páginas web, descargar y utilizar apps…. No sé si se puede garantizar: cuando un anuncio de un detergente nos dice que es el que deja la ropa más limpia, ¿nos lo creemos? De la misma manera: cuando una herramienta que ha generado una empresa, cuyo principal objetivo es crear riqueza, nos dice que es gratis, ¿realmente pensamos que es así? Lo más probable es que utilicen nuestros datos para hacer negocio. Pero esto es así no solo cuando hablamos de IA, sino con cualquier página web, app o software.

No sé si lo que yo hago es ejemplo de nada, pero sí que intento limitar al máximo la información que doy de mí en internet, con una serie de cosas que hago por rutina:

• Intento no descargar apps que no necesito o de las que no conozco el desarrollador.
• Intento no aceptar cookies de terceros. Y cuando lo hago, borro las cookies al dejar el sitio.
• No me identifico en webs o apps usando mi cuenta de Google o similar.
• Intento utilizar versiones de IA que no almacenan mis datos (bien porque tengo acceso a la versión que garantiza que es así, o porque la herramienta nos dice que no almacena datos identificados nuestros).

Lo que es muy importante es no introducir datos protegidos en este tipo de aplicaciones: ya sea los nombres de estudiantes, o textos o imágenes que estén protegidas.

Desde luego es un tema que me preocupa mucho, y que creo que en general no le prestamos suficiente atención.

Y para finalizar, ¿qué desafíos enfrentan las instituciones educativas al implementar tecnologías de IA?

Creo que el principal desafío es el que planteábamos en la pregunta anterior: la personalización implica compartir datos con empresas que deberíamos conocer para hacerlo y estar tranquilos.

Pero hay otros retos, sobre todo en la asimilación de conceptos básicos, que fundamentan otros conceptos más sofisticados o específicos. Las herramientas de IA son muy buenas trabajando con estos conceptos, y el estudiantado se puede sentir tentado (seamos realistas: se sienten tentados) de reducir su carga de trabajo, y utilizar estas herramientas para “ayudarse” con estos conceptos de una manera que no le beneficia. Creo que el profesorado tenemos mucho trabajo en hacer al estudiantado consciente de que la educación tiene un impacto muy importante en su futuro, e intentar cambiar su actitud para que entiendan y asuman que el esfuerzo que hacen en el aula es en su beneficio. Pero el estudiantado debería ser consciente de que no les “obligamos a aprender”, sino que les formamos. Si bien esta madurez es más habitual que aparezca con la edad, incluso en enseñanza superior parece que hay mucho espacio para la mejora.