Las niñeces que no saben leer no podrán distinguir lo real de lo sintético con IA
Sobre la inteligencia artificial, la escuela en ruinas y el futuro de la percepción
En la Ciudad de México, la CNTE cumple semanas desquiciando el tránsito. En redes sociales se dice que el maestro luchando también está enseñando pero los plantones han sido durísimos para el gremio pues uno de sus integrantes llamado Ignacio Ismael Arriaga Villar de 44 años perdió la vida por un infarto y otro profesor llamado Columbo González perdió un ojo tras un enfrentamiento con policías al tratar de entrar al Zócalo. Hace unos días, fueron interceptados camiones que portaban explosivos y mientras los maestros protestan, hay salones sin clases. La imagen podría leerse como un problema sindical, como un conflicto entre el gobierno federal y la Coordinadora Nacional de Trabajadores de la Educación por las promesas incumplidas sobre la derogación de la Ley del ISSSTE de 2007 que se vuelven presupuestalmente imposibles de cumplir. Podría leerse, también, como lo que también es para las infancias, una señal de alarma sobre el futuro epistémico de México.
La filósofa Alice Watanabe, investigadora de la Universidad de Hamburgo y la Hochschule für Angewandte Wissenschaften Hamburg, publicó recientemente un artículo que no habla de sindicatos ni de maestros en huelga. Habla de Hannah Arendt, de la educación frente a los algoritmos y de lo que ocurre cuando los sistemas de inteligencia artificial comienzan a sustituir el juicio humano en las escuelas. Su argumento, formulado desde la teoría política, es tan profundo como cualquier debate sobre el escalafón magisterial pues algunas tecnologías contemporáneas reproducen mecanismos que Arendt identificó como propios de las estructuras totalitarias y a medida que disminuyen la comprensión lectora, el razonamiento matemático y la cobertura educativa, más propensa es una sociedad a aceptar o permitir el avance de nuevos totalitarismos. No porque los algoritmos sean equivalentes al nazismo o al estalinismo. Sino porque, esas estructuras, suprimen la espontaneidad, reducen a las personas a prototipos estadísticos, reclaman autoridad sin ofrecer explicaciones verificables y eliminan el espacio donde el juicio individual puede ejercerse.
La advertencia de Watanabe está pensada para universidades europeas. Pero tiene una resonancia particular en un país donde el 49.5% de los estudiantes de primaria no alcanzan el nivel básico en comprensión lectora y el 57.8% no lo alcanzan en matemáticas, según los resultados más recientes del Plan Nacional para la Evaluación de los Aprendizajes. En México, se ha documentado el uso de IA en la educación hasta el 66% de estudiantes y 60% de profesores según la SEP y la cuestión no es si la inteligencia artificial va a sustituir el pensamiento crítico en la educación superior pues de hecho, todo apunta a que lo hará. La cuestión es qué ocurrirá cuando una generación entera, que nunca aprendió a leer con suficiente profundidad ni a razonar con cifras, se encuentre de frente con un mundo saturado de contenido generado por máquinas.
Watanabe identifica dos tecnologías específicas como portadoras de elementos totalitarios, por un lado, los sistemas de aprendizaje adaptativo que son esas plataformas que “personalizan” la educación convirtiéndola en una secuencia de metas predefinidas y por otro lado, los generadores de texto. Los primeros convierten al estudiante en una variable de optimización porque su valor está en cuánto se aproxima al objetivo que el sistema ya decidió antes de que él llegara y en realidad no evaluará los distintos saberes, únicamente la métrica de los estándares. Los segundos hacen algo más delicado y más difícil de ver pues desvinculan la escritura del pensamiento. Y el problema de fondo es que las infancias y adolescencias ni siquiera están leyendo.
Entre los problemas administrativos, laborales y políticos, las generaciones están perdiendo profundidad en la escuela pública. Escribir no es transcribir ideas que ya existen en la cabeza. Escribir es el proceso mediante el cual esas ideas se forman, se contradicen, se corrigen y ese proceso implica el pensamiento profundo así como el procesamiento de conceptos. Los niños mexicanos están siendo empujados a ese vacío. Nicolas Luhmann, el sociólogo que construyó una teoría de sistemas de alcance monumental, lo formuló con una precisión que no ha envejecido al decir que no se puede pensar de manera compleja y coherente sin escribir. Si una máquina escribe por nosotros o por los estudiantes, no solo nos ahorra trabajo sino que nos roba un proceso cognitivo. Los estudiantes que deleguen sistemáticamente la escritura no desarrollarán la capacidad de sostener un argumento, de detectar una contradicción, de distinguir una afirmación verificable de una que solo suena plausible.
Un niño que no sabe leer bien, que nunca aprendió a identificar la idea principal de un párrafo, que no puede evaluar si un dato tiene sentido o no, es exactamente el tipo de sujeto que un generador de texto puede capturar sin resistencia. No porque la inteligencia artificial sea maliciosa, sino porque el modelo educativo en México está abandonando a las niñeces a que las redes sociales y la IA sean las únicas “educadoras”. Los modelos de lenguaje producen texto estadísticamente coherente, no semánticamente verdadero y tampoco capaz de permitir que quien lo lee valore o identifique la realidad. Inventan citas, fabrican fuentes, presentan como hechos lo que son inferencias probabilísticas. Para quien aprendió a leer críticamente, esas señales son detectables. Para quien no, son invisibles.
El riesgo, entonces, no es que la inteligencia artificial reemplace a los maestros. El riesgo es que una generación que no recibió educación de calidad se convierta en el usuario ideal de sistemas que, según Arendt vía Watanabe, tienen una tendencia estructural a suprimir el juicio y a aceptar sin cuestionamiento todo lo procesado previamente por la IA. Y hay una paradoja que nadie nombra en las marchas pues la democracia que garantiza el derecho a protestar durante semanas también produce, por omisión educativa, las condiciones en que ese mismo derecho se vuelve inútil cuando no se puede distinguir lo que es verdad de lo que fue fabricado. Una sociedad de personas que no distinguen lo auténtico de lo sintético, lo verificado de lo fabricado, lo pensado de lo generado, no sufre un problema tecnológico. Ha perdido la base epistémica de la democracia.
Las protestas de la CNTE contra el incumplimiento de acuerdos de la presente administración concentran el debate sobre pensiones y derechos económicos. Son discusiones legítimas. Pero ninguna de ellas nombra lo verdaderamente en juego: si los niños y niñas de México aprenden o no a pensar. Si adquieren o no las herramientas mínimas para habitar un mundo donde las apariencias serán cada vez más perfectas y la realidad, cada vez más difícil de identificar y de alcanzar.
Arendt sostenía que la libertad depende de la capacidad de actuar, juzgar y relacionarse con otros en un espacio común. Ese espacio se construye con palabras que se entienden, con argumentos que se pueden refutar, con hechos que se pueden verificar. La inteligencia artificial no necesita ser una dictadura para erosionar ese espacio. Le basta con ser lo suficientemente fluida, lo suficientemente verosímil, lo suficientemente cómoda, para que quienes no fueron formados en la resistencia crítica la acepten sin preguntas.
Los maestros que siguen en las calles no están equivocados al protestar. Pero lo que nadie se está planteando es ¿qué clase de ciudadanos estamos formando para el mundo que ya llegó? Las infancias que hoy no saben leer serán, en quince años, los adultos que no puedan distinguir lo real de lo simulado. Para entonces, la manta en el Zócalo habrá sido olvidada hace mucho.
