Educación

Rose Luckin, de la University College London: "Existe el riesgo de que permitamos que la IA se encargue de lo que como humanos podemos hacer"

0
cie2018_8583.jpg

Para Rose Luckin, profesora del Instituto de Educación, existen dos riesgos específicos significativos y que debemos reconocer para cosechar los beneficios de la inteligencia artificial.

Por

La inteligencia artificial puede ayudar a resolver algunos de los retos más importantes en la educación, de eso está convencida la profesora del Instituto de Educación, University College London. 

La experta estuvo presente en la última edición del Congreso Internacional de Innovación Educativa (CIIE) realizado por el Tecnológico de Monterrey en México. En su conferencia fue enfática en señalar que "como educadores debemos buscar constantemente los métodos y tecnologías que nos ayuden a mejorar la educación y claramente la IA es una de ellas". 

Luckin resaltó que existe una serie de factores que deben ser considerados para que este método sea un éxito: perder el miedo a la implementación de la inteligencia artificial, priorizar el raciocinio humano y educar a las personas sobre esta tecnología para entender sus alcances.

Y es que los beneficios son múltiples pero los riesgos, también. Entrevistamos a Rose Luckin y le consultamos respecto al impacto de la IA en la región, cuáles son los principales riesgos y cómo debería regularse. Sus respuestas, a continuación. 

- ¿Cuál es la posición de los países latinoamericanos en cuanto al desarrollo de la inteligencia artificial?

Sé que hay un gran número de universidades que están interesadas en desarrollar la IA aplicada a la educación. Yo diría que he visto evidencia de pensamiento innovador que ayudará a México y Latinoamérica, de hecho hay mucho trabajo que se está haciendo en Brasil, así que como región, creo que hay mucho potencial. El foco está mayormente en el diseño de sistemas para apoyar en la enseñanza y el aprendizaje, lo tienen individualizado para los alumnos y también en México, he visto evidencia en desarrollo de trabajo de reconocimiento de emociones con base en expresiones faciales, etc., y también se ha aplicado en los niños pequeños con necesidades especiales. Sí, creo que sí se está haciendo trabajo interesante al respecto.

Si cierto que hay países que están inviertiendo enormes cantidades de dinero en la inteligencia artificial como China o Estados Unidos, pero no estoy convencida que necesariamente signifique que desarrollarán las mejores soluciones, porque a veces las mejores soluciones vienen de los innovadores que están más cercanos a los verdaderos problemas que se tienen que resolver con IA. Así que, Latinoamérica y especialmente México, está en una muy buena posición para desarrollar innovaciones que podrían guiar o abrir caminos para otros países también con respecto a retos específicos en la educación porque quizás, aquí la gente está más en contacto con algunos de los retos que se tienen que resolver.

- Es común que se hable de los beneficios de la IA en la educación pero no se habla de los riesgos, ¿cuáles serían los principales?

Hay enormes riesgos. Me encanta ser optimista, pero creo que hay enormes beneficios. No cabe duda que podemos proveer buena educación para todos si utilizáramos sabiamente la IA y si la usamos para complementar la inteligencia humana. Pero si tenemos que hablar de los riesgos, porque existen riesgos significativos y tenemos que reconocerlos si es que queremos cosechar los beneficios. Creo que hay dos riesgos específicos que pudiéramos mencionar. Uno, es que dejamos de reconocer que la inteligencia humana es mucho más rica que cualquier otra inteligencia que pudiéramos automatizar y existe el riesgo de que permitamos de que la IA domine o se encargue de lo que nosotros como humanos hacemos y podemos hacer. Necesitamos seguir utilizando nuestra inteligencia para desarrollarla y ser más inteligentes.

El segundo riesgo tiene que ver con la ética, cuando se tiene tecnología que utilizan los datos de las personas, que analizan los datos personales y luego interactúan con las personas sobre la base de esos datos analizados. Hay toda una gama de riesgos asociados con eso, desde el hecho de si los datos se están recavando con el conocimiento de esa persona y su consentimiento, hasta cómo se almacenan esos datos y quien tiene acceso a ellos, y la forma en que se manipula la IA por el algoritmo y su diseño. Hay casos en que la IA no ha sido entrenada adecuadamente y causa problemas. 

Entonces, hay diferentes riesgos que pudieran estar asociados a la tecnología de la IA y haríamos bien en pensar cuáles serían las posibles consecuencias de establecer esta inteligencia y en caso de establecerla, deberíamos acompañarla de la regulación necesaria. También debemos educar a las personas en cuanto a lo que es la IA, para que ellos mismos puedan protegerse, porque aunque la regulación es importante tenerla, nunca basta, debemos tener gente preparada y enterada para protegerse a si mismos.

- ¿Y cuál sería la forma correcta de regular la IA en la educación?

Es una pregunta que trato de responder en este momento. Soy cofundadora del Institute for Ethical Artificial Intelligence in Education, iniciamos en octubre de 2018 en Westminster, Londres, y este año estaremos tratando de contestar precisamente esa pregunta y daremos un informe de lo investigado. En el 2020, generaremos un reporte final trabajando con otras organizaciones también de tecnología, enfocándonos específicamente en la educación.

Hoy, tengo una idea de cuál puede ser la respuesta pero tenemos que hacer investigaciones, comparar ideas y ver lo que está pasando en otras partes del mundo, integrarlo todo y después, publicar el informe correspondiente.

- ¿Qué es la inteligencia adaptable de la educación?

El sistema adaptable de la educación es un sistema que provee instrucción personalizada para un alumno individual y se puede hacer de distintas formas. Por ejemplo, un estudiante que está aprendiendo matemáticas y pudiese necesitar asesoría, el sistema podría reconocer cuando ese alumno, en qué áreas o en qué momento, comenza a cometer un error. Y después intentar hacer preguntas apropiadas a lo que el alumno ya sabe, y proveer apoyo para contestar las preguntas cuyas respuestas son desconocidas. Igualmente hay sistemas de adaptación que tratan de captar el lado emocional, tratan de reconocer cuando el alumno se siente ansioso y luego ofrecer un apoyo para disminuir la ansiedad. Entonces, hay diferentes maneras en que los sistemas de IA pueden adaptarse a las necesidades específicas de los alumnos o incluso de las necesidades del maestro, utilizando diferentes técnicas.

- ¿Es posible que alguna vez la IA pueda superar la inteligencia humana?

Hay personas que consideran que sí desarrollaremos sistemas de IA que puedan abarcar toda la amplitud de nuestra inteligencia y podrán enseñarse a si mismos y volverse más inteligentes. Yo no creo que eso sea posible, porque la inteligencia humana es mucho más compleja. Los sistemas que hoy tenemos de IA son inteligentes en formas específicas. Por ejemplo, no pueden manejar las relaciones interpersonales como las manejamos nosotros, un vehículo autónomo no puede jugar ajedrez y una máquina de ajedrez no puede conducir un automóvil. Entonces, la IA es muy espefícica en su aplicación.

En profundidad

Únase a la conversación