La inteligencia artificial y el nuevo oráculo
Probablemente ningún término haya ingresado tan rápidamente al discurso educativo como inteligencia artificial. Se habla de inteligencia artificial para planificar clases, corregir trabajos, producir textos, elaborar imágenes, responder consultas, personalizar aprendizajes y anticipar dificultades.
Pero existe una pregunta previa que rara vez aparece: ¿Qué clase de inteligencia es esta?
No alcanza con llamarla inteligencia para comprenderla. Un modelo de lenguaje no piensa como una persona. No comprende el mundo del mismo modo que un estudiante. No posee experiencia escolar por el hecho de haber leído millones de textos. Produce respuestas a partir de relaciones estadísticas aprendidas de grandes cantidades de información.
Puede elaborar una respuesta correcta. Puede también producir una respuesta falsa con enorme seguridad. Puede inventar una fuente, atribuir una frase a quien nunca la pronunció o construir una explicación aparentemente razonable a partir de información equivocada.
Su fluidez puede confundirse con conocimiento. Su seguridad puede confundirse con autoridad. Su velocidad puede confundirse con inteligencia.
Por eso existe un riesgo pedagógico particular: que la inteligencia artificial sea incorporada como un nuevo oráculo. El oráculo no necesita demostrar sus afirmaciones. Su autoridad proviene de ser consultado. La respuesta aparece. La máquina parece saber. Y quienes consultan pueden abandonar la tarea más importante: preguntar cómo llegó a esa respuesta.
La escuela no debería enseñar solamente a obtener respuestas de una inteligencia artificial. Debería enseñar a interrogarla.
- ¿Qué datos utiliza?
- ¿Cómo fue construida?
- ¿Qué errores puede cometer?
- ¿Qué conocimientos quedan fuera?
- ¿Qué sesgos puede reproducir?
- ¿Quién decide qué considera una respuesta adecuada?
- ¿Cómo verificamos una afirmación?
- ¿Qué diferencia existe entre información, conocimiento y criterio?
La inteligencia artificial puede ser una herramienta poderosa. Pero una herramienta poderosa no debe convertirse en una autoridad pedagógica. El problema no es solamente que una máquina pueda equivocarse. El problema es que nosotros dejemos de preguntar.