Inteligencia artificial en la educación
Qué son las inteligencias artificiales, cómo funcionan y qué desafíos plantean
Sobre diagnósticos y panoramas
Recientemente se publicaron los resultados de las pruebas PISA en Argentina, que muestran una caída en el rendimiento de los y las estudiantes en las áreas de Ciencias Naturales, Lectura y Matemática. Un segundo aspecto de estos estudios se resalta: las pantallas aparecen como las principales responsables de este fenómeno que tiene escala mundial.
Como consecuencia, en los medios se ensayaron una serie de explicaciones dirigidas a los celulares, tik tok, la IA, etc. En otras palabras, «las tecnologías» o «las pantallas». Esos términos un poco vagos que intentan resumir todo aquello que es nuevo en nuestras vidas y que amenaza con destruirlo todo.
En muchas oportunidades hablamos sobre las tecnologías y los miedos que despiertan porque es un tema en el que vale la pena detenerse. Insistimos en que es necesario observar los diversos dispositivos y plataformas que integran eso que llamamos “pantallas” para comprender cómo intervienen en nuestras relaciones. En esa línea, entendiendo que afectan nuestra atención y median la relación con el mundo, decimos que no pueden permanecer excluidas de las conversaciones que sostenemos con las niñeces y adolescencias, especialmente en la escuela.
Hoy queremos hacer énfasis en una región de esas tecnologías, porque los resultados de las pruebas PISA llegan en un contexto de plena expansión de las inteligencias artificiales. Estas evaluaciones, sobre las que tampoco nos preguntamos mucho, tienden a convertirse en catalizadores de medidas aceleradas; y ahí aparecen estos sistemas en los que se deposita una gran expectativa, a la vez que despiertan muchas sospechas.
Los chatbots que identificamos como inteligencias artificiales continúan consolidándose como tecnologías de uso cotidiano: los usamos para buscar, para resolver, para redactar, incluso para tener “una segunda opinión”. Así, se vuelve esperable que las IA aparezcan como una respuesta inmediata, mágica, salvífica ante el deterioro de la “calidad educativa”. Mientras, cobran relevancia los estudios que evalúan los efectos de la llamada delegación cognitiva en los procesos de aprendizaje.
Sucede que las IA son un interrogante social general, en gran medida, porque ya están presentes en nuestras formas de conocer y en nuestros vínculos. Al parecer, esa experiencia ya nos genera ruido. Y tiene sentido: hace algunos años asistimos a renuncias en las empresas “pioneras” y a cartas de alarma (más bien, hilos de twitter) sobre la fragilidad y peligrosidad que representan estos sistemas ¿Cómo conviven todos estos debates en el plano de la educación?
Conviene entonces atender a estos cruces y comenzar por el principio para hacernos algunas preguntas.
La IA se parece a nosotros ¿Demasiado?
¿Qué es la inteligencia artificial? La pregunta parece sencilla. Vamos a googlearlo, o entramos a redes a que nos expliquen en algún reel o short. Vemos uno en menos de un minuto, después leemos un carrusel, y no, no está tan fácil. ¿Por qué? Porque buena parte de las respuestas disponibles empiezan describiendo lo que estos sistemas son capaces de hacer: aprender, razonar, reconocer imágenes, conversar, crear. ¿Vieron?
La comparación con las capacidades humanas ayuda a entenderlos, pero también puede confundirnos. Porque una inteligencia artificial no aprende, recuerda o imagina exactamente como una persona, ¿o si?
Como sugiere Pablo Manolo Rodríguez en una entrevista que hemos reseñado aquí en Modo Avión, es difícil pensar que aquello que llamamos “inteligencia” no esté, en mayor o menor medida, relacionada con algo “artificial”. Pensemos, por ejemplo, en un libro: el emblema del conocimiento es, por cierto, un objeto artificial que se desempeña como apoyatura de la reflexión.
La comparación entre lo humano y lo artificial tiende a empañar la pregunta respecto de qué son estos sistemas porque de inmediato instalan lo que pueden hacer y eluden lo que efectivamente hacen: ¿cómo llegan a esas respuestas? ¿Cómo se producen esos “razonamientos” en la máquina?
La comparación entre lo humano y lo artificial tiende a empañar la pregunta respecto de qué son estos sistemas porque de inmediato instalan lo que pueden hacer y eluden lo que efectivamente hacen.
Una máquina de reconocer patrones
Entonces, empecemos de nuevo, ¿qué son las IA? Las inteligencias artificiales actuales son sistemas capaces de procesar grandes cantidades de información, reconocer patrones, regularidades, clasificar y producir inferencias o predicciones a partir de ellas.
Pero esa definición empieza a quedarse corta cuando esos sistemas entran en una escuela, una plataforma, un hospital o una conversación. Porque entonces importa también qué clasifican, qué vuelven visible, qué decisiones habilitan y qué conductas empiezan a organizarse alrededor suyo.
Vamos con ejemplos cotidianos y concretos. Cuando una IA generativa escribe un texto, calcula qué fragmentos tienen mayor probabilidad de continuar una secuencia. Cuando una plataforma recomienda un video (porque ahí también hay inteligencias artificiales funcionando, no sólo son chatbots), analiza patrones entre contenidos, comportamientos y perfiles para anticipar qué podría mantener nuestra atención.
Este es el motivo por el cual Yuk Hui habla sobre el bucle de la IA: la reutilización constante del pasado, por sí sola, no genera futuro y por eso es un interrogante si estos sistemas poseen la capacidad de crear autónomamente. Pero los agentes no funcionan en abstracto, sino en la interacción con nosotros. Entre los “giros” de la IA y nuestras conversaciones hay cierta reciprocidad, en el sentido de que la máquina toma cosas de nosotros. Y nosotros también de ellas.
Las predicciones vuelven sobre nosotros y ese proceso no es inocente: las recomendaciones pueden modificar qué vemos, cuánto tiempo permanecemos ahí y qué elegimos después. Los textos que los agentes redactan comienzan a filtrarse cada vez más en nuestra forma de escribir y aparecen las “palabras GPT”. Los sistemas se construyen y ajustan a partir de datos sobre nuestras conductas y participan en la formación de nuevas rutinas, preferencias y formas de atención.
Los sistemas se construyen y ajustan a partir de datos sobre nuestras conductas y participan en la formación de nuevas rutinas, preferencias y formas de atención.
Los patrones no solamente permiten describir aquello que ocurrió porque tienden a convertirse en intervenciones sobre lo que sucederá después. Así, lo frecuente puede volverse relevante; lo mayoritario, esperable; lo estadísticamente probable, deseable. Por eso preguntarnos cómo reconoce patrones una IA también implica preguntarnos qué formas de normalidad contribuye a producir.
Antes de los patrones: los datos
Nada de esto apareció de un día para otro. La historia de la inteligencia artificial se remonta, al menos, a mediados del siglo XX, cuando comenzamos a preguntarnos si computar (o calcular) se asemeja a pensar. Y aquí hay algo importante: ¿qué calculamos?
Dijimos antes que las inteligencias artificiales reconocen patrones a partir de datos. Entonces aparece otra pregunta: ¿de dónde salen esos datos? De textos, imágenes, conversaciones, búsquedas, movimientos y comportamientos producidos por personas.
Las inteligencias artificiales encuentran patrones porque antes existieron experiencias humanas capaces de convertirse en datos. Sus desarrollos más recientes se vinculan con algo que naturalizamos: internet. Desde fines del siglo pasado, la expansión de internet implicó una enorme cantidad de datos disponibles y un incremento de la capacidad para almacenarlos y procesarlos.
Las inteligencias artificiales encuentran patrones porque antes existieron experiencias humanas capaces de convertirse en datos. Sus desarrollos más recientes se vinculan con algo que naturalizamos: internet.
Hoy en día todo cuanto pueden abarcar las inteligencias artificiales con sus patrones y predicciones salió de internet, de lo que hacemos, cargamos y decimos en internet. Todo eso está en un lugar: viaja por cables y se aloja en servidores.
Es por ello que Cecilia Rikap señala, desde una perspectiva económica, que el gran problema de los datos y su gestión es que no están “en la nube” sino en centros de procesamiento, en gran medida, fuera del alcance de los Estados afectados por su funcionamiento.
Entender esto cambia también la conversación sobre la IA en la educación: ¿Dónde estarán las conversaciones de los y las estudiantes?¿Para qué serán utilizadas?¿Quiénes se van a encargar de su gestión?¿Quienes van a ordenar esos datos y con qué criterios? Los interrogantes son muchos.
¿Saber usarla? No alzanza
Hoy se habla cada vez más de enseñar a estudiantes y docentes a utilizar inteligencia artificial de manera “crítica y responsable”. Es un objetivo necesario, pero quizás convenga detenerse también en otra palabra de esa frase: utilizar.
Los chicos y las chicas ya utilizan inteligencia artificial. Consultan chatbots, reciben recomendaciones algorítmicas y conviven con sistemas automatizados incluso cuando no los identifican como IA.
El desafío educativo puede ser entonces más amplio que aprender a escribir buenos prompts o verificar una respuesta. También supone poder preguntar cómo funciona un sistema, con qué información fue construido, quién define sus criterios, qué datos recoge, dónde quedan almacenados y qué intereses participan de su diseño.
O podríamos preguntarnos por qué son estas las tecnologías sobre las que debemos aprender y no otras, qué las hace tan especiales e importantes en nuestra actualidad. O incluso, ¿hay otras tecnologías posibles?
Comprender a las IA implica algo más que saber usarlas. También requiere mirar qué empieza a suceder alrededor de ellas. ¿Quién decide para qué se incorporan? ¿Qué tareas delegamos? ¿Qué comportamientos registran? ¿Qué categorías utilizan para clasificar? ¿Qué consideran una respuesta correcta? ¿Qué decisiones empiezan a tomarse a partir de sus predicciones?
Y también, qué hacemos nosotros frente a esos sistemas: cuándo confiamos, cuándo desconfiamos, cuándo consultamos, corregimos o empezamos a adaptarnos a sus respuestas.
A esa trama podemos pensarla como una arquitectura relacional: una red de prácticas, instituciones, intereses, saberes y decisiones en la que la tecnología participa, pero nunca funciona sola.
Tres desplazamientos para enseñar sobre IA
Para cerrar, dejamos tres desplazamientos que nos parecen importantes si queremos tomar a la IA como objeto de estudio en las aulas:
- De usar a comprenderlas: una alfabetización comienza cuando podemos preguntar de dónde salen las respuestas que el chat nos devuelve, qué patrones reconoce, qué datos utiliza y qué cuestiones deja afuera. Para la práctica docente esto puede abrir actividades simples, como por ejemplo: comparar respuestas, rastrear fuentes, identificar sesgos o discutir qué información falta.
- De reconocer patrones a interrogar normalidades: los sistemas algorítmicos observan regularidades para clasificar, recomendar y predecir. Sin embargo, aquello que aparece muchas veces puede empezar a presentarse como lo esperable, lo relevante o incluso lo correcto. Una tarea educativa consiste también en interrogar esas regularidades: quién queda representado, quién aparece como excepción, qué posibilidades se vuelven visibles y cuáles desaparecen.
- De preguntar qué puede hacer la IA a decidir qué queremos seguir haciendo nosotros: leer con atención, equivocarnos, abrir preguntas, inaugurar conversaciones para discutir una interpretación, sostener una duda, escribir sin saber todavía dónde vamos, etc. La pregunta por la IA también puede ayudarnos a identificar qué experiencias educativas vale la pena proteger, incluso cuando una máquina pueda hacerlas más rápido.
Comprender la inteligencia artificial empieza por entender cómo funciona. Pero no termina ahí. También exige mirar qué hacemos alrededor de ella, qué empieza a suceder con nosotros cuando la incorporamos y qué relaciones queremos construir con estas tecnologías.
Quizás alfabetizarnos en inteligencia artificial consista también en eso: aprender a reconocer patrones sin aceptar que todo tenga que convertirse en uno.
Si los últimos resultados de PISA vuelven a mostrar dificultades para leer, comprender, argumentar o resolver problemas, la respuesta más rápida puede ser incorporar más tecnología. Quizás convenga invertir la pregunta: ¿qué capacidades necesitamos fortalecer justamente cuando las máquinas pueden producir respuestas cada vez más rápido?
Frente a resultados educativos preocupantes, llegar primero a la IA importa menos que saber para qué, cómo y bajo qué criterios queremos incorporarla.
Ezequiel Passeron y Camila Galdames para Faro Digital
Suscribite a Modo Avión
Recibí en tu correo las notas y lecturas recomendadas que preparamos para esta sección