La musculatura del pensamiento

Un estudiante de segundo de carrera entrega un trabajo sobre la crisis del 2008. El profesor lo lee con dos certezas: que lo ha escrito ChatGPT y que no podrá demostrarlo. El texto es fluido, bien estructurado, con citas pertinentes y una conclusión coherente. El tema está bien desarrollado, la redacción es superior a la media –ni él lo habría redactado tan bien–. En el texto no se aprecian párrafos reescritos, oraciones mal construidas, ningún error que lo haga interesante, ningún signo de esfuerzo intelectual. Exactamente eso es lo que ha intentado medir el estudio de Microsoft y la Universidad Carnegie Mellon The Impact of Generative AI on Critical Thinking , publicado el pasado enero.La investigación analiza 319 trabajadores del ámbito del conocimiento y 936 casos reales de uso de herramientas de IA generativa en el trabajo cotidiano. La conclusión no es que la IA produzca errores –las mal llamadas alucinaciones– sino algo peor: comodidad cognitiva. Cuanta más confianza tenían los participantes en la herramienta, menos pensamiento crítico aplicaban. La mecanización de tareas rutinarias priva al usuario de las oportunidades cotidianas de ejercitar el juicio propio. Es lo que les ocurre a los conductores de Tesla a los que el autopilot nunca les ha fallado, que van bajando la guardia hasta el momento en que falla. Una competencia no se atrofia porque la sustituyas en un momento puntual sino porque dejas de usarla cada martes por la mañana.Los economistas dicen que no es lo mismo perder una habilidad que ya tienes que no adquirirla nunca Manu ColladoEl estudio se hizo con trabajadores adultos que ya han adquirido sus competencias. Pero si retrocedemos unos años y volvemos al estudiante del principio, la pregunta ya no es qué les ocurre a las competencias adquiridas sino qué les pasará a las competencias por adquirir. Cuando es el chatbot y no los codos quien enseña a escribir; cuando el razonamiento asistido sustituye al razonamiento en formación; cuando el error, el mecanismo fundamental del aprendizaje, ya no llega porque la máquina lo corrige antes.Los economistas dicen que no es lo mismo perder una habilidad que ya tienes que no adquirirla nunca. Lo primero es una caída mesurable: si un estudiante olvida el teorema de Pitágoras podemos medir las dificultades que tendrá para resolver problemas de geometría. El segundo escenario, en cambio, es invisible, porque no hay punto de partida. No sabes lo que no sabes: si un estudiante que nunca ha aprendido a razonar sin ayuda hace un examen con IA sobre el teorema de Pitágoras y saca un 9, no sabes lo que no sabe.El sistema educativo, diseñado en los dos últimos siglos para detectar errores y corregirlos, no tiene ninguna herramienta para medir la ausencia de una competencia que nunca se ha formado.Todo esto abonaría la tesis de que la IA generativa es mala para el aprendizaje. Pero la realidad es más incómoda.Momento de equivocarseLa IA generativa no amenaza las competencias de los jóvenes porque dé respuestas equivocadas, sino porque da respuestas correctas en el momento en que los jóvenes deberían equivocarseEl año pasado, Hamsa Bastani y su equipo de la Wharton School de la Universidad de Pensilvania publicaron un experimento a gran escala realizado en el instituto TED Ankara Koleji de Turquía con casi mil alumnos. El experimento tenía tres grupos: un grupo de control sin acceso a ninguna IA, un segundo grupo con acceso a un ChatGPT estándar que respondía las preguntas directamente y un tercer grupo con un Tutor GPT, un sistema diseñado específicamente para no dar respuestas sino pistas. El Tutor GPT había sido configurado por los propios profesores con las soluciones correctas y los errores habituales de los alumnos, de manera que sabía exactamente dónde empujar y hasta dónde. Los resultados durante las sesiones de práctica fueron espectaculares: el grupo de ChatGPT mejoraba un 48% el rendimiento respecto al grupo de control. Pero eso no es nada: el grupo de Tutor GPT mejoraba un 127%.Entonces les retiraron las herramientas, pusieron a los tres grupos ante un examen sin ninguna asistencia y midieron los resultados. El grupo de ChatGPT rindió un 17% por debajo del grupo de control; es decir, los alumnos que habían obtenido las mejores notas durante la práctica eran, a la hora de la verdad, los que menos habían aprendido. El grupo de Tutor GPT, en cambio, mantuvo el rendimiento del grupo de control: ni mejor ni peor.Una IA que da la respuesta no enseña nada; solo crea una ilusión de competencia. Una IA que da la pista funciona como un buen profesor: acompaña el proceso de pensar sin sustituirlo. La diferencia no es una cuestión de modelos ni de parámetros ni de cantidad de tokens, ni de capacidades, ni de los miles de millones que aboca cada tecnológica: es una cuestión de objetivos. No es el qué sino el para qué: si hacer el trabajo más rápido o ayudar en la adquisición de competencias.El objetivo de las empresas que diseñan ChatGPT, Claude, Gemini y similares no es el de maximizar el aprendizaje: es maximizar el uso vía la satisfacción inmediata. Una herramienta que te da la pista y te obliga a pensar es menos adictiva que una que te da la respuesta al momento. Y menos adictiva significa menos tiempo de sesión, menos probabilidad de renovación de la suscripción y menos datos de entrenamiento. El modelo de negocio y el modelo pedagógico apuntan en direcciones exactamente opuestas.Ante esta imposible cuadratura del círculo, algunos centros vuelven a los exámenes orales o escritos en papel. Otros diseñan tareas “a prueba de ChatGPT”: análisis de fuentes primarias, trabajos de campo, argumentación en tiempo real ante un tribunal. Ninguna de estas soluciones escala a una clase de 86 alumnos (como la que yo tengo) ni a un sistema educativo público con profesorado sobrecargado. Ninguna es gratuita en tiempo ni en recursos.IASabemos diseñar una inteligencia artificial que enseña a pensar. Hemos decidido vender la que piensa por nosotrosHay quien compara la IA con la calculadora: una vez la aceptamos en las aulas, nadie recuerda cómo hacer una raíz cuadrada pero eso no significa que no sepamos matemáticas. La analogía es tentadora y probablemente falsa. La calculadora sustituía un único proceso cognitivo, bien delimitado y de baja complejidad: el cálculo aritmético. La IA generativa no sustituye un proceso: sustituye el proceso de encontrar el proceso. Sustituye la pregunta, no la respuesta. Y la pregunta es, si lo pensamos bien, lo único que distingue comprender de memorizar, aprender de copiar y pensar de ejecutar.