Estamos viendo como el PP ha lanzado una ofensiva en redes sociales contra el PSOE con un vídeo en el que suplanta con inteligencia artificial (IA) la identidad, entre otros, de Begoña Gómez, José Luis Rodríguez Zapatero y Santos Cerdán. La jurisprudencia española y la europea, según algunos juristas, han establecido unos enormes márgenes para el desarrollo de la libertad de expresión, aún más amplios en el debate político. Es la ley actual, pero ¿esta es la democracia que queremos?: usar la IA para propagar noticias falsas. Aunque en este caso se indique que han sido generadas con IA siempre queda la duda. ¿Qué derechos tiene aquel al que se ha suplantado su identidad y se le han atribuido ideas para intentar manipular el voto? ¿Todo vale con tal de dejar mal al rival? Si llegamos a un punto en el que ya no sea posible distinguir la verdad de la falsedad la democracia está desapareciendo: peor aún, es exactamente lo que necesita el totalitarismo. En la medida en que la IA...
Los algoritmos de IA han generado escenarios nuevos en la universidad y la enseñanza en general, en el mundo editorial y en otros muchos entornos. Un profesor sospecha que el trabajo de un alumno fue generado, no escrito. Un editor pasa un texto por un detector antes de leerlo. La reacción ha sido prohibir. Algunas universidades ya vetan la IA.
¿Y si el problema no fueran los alumnos que usan ChatGPT, sino una universidad que lleva años enseñando cosas que una máquina puede hacer? Mientras se discute si los estudiantes hacen trampas, el edificio entero sigue funcionando como si no hubiera pasado nada. El crédito ECTS se diseñó para medir el tiempo necesario para adquirir unos conocimientos. Hoy una máquina puede resolver lo que antes necesitaba horas de codos.
Las calculadoras mejoraron la resolución de problemas para la mayoría de los estudiantes mientras las olimpiadas matemáticas siguen prohibiéndolas en la élite, y los motores de ajedrez elevaron con fuerza el nivel del jugador medio dejando prácticamente plana la cima del juego.
Con la clase ocurre algo parecido. En muchos casos el profesor se limita a leer los apuntes o seguir unas transparencias ajeno a que compite con una IA que trabaja de noche, sin descanso, y explica lo mismo cien veces sin perder la paciencia. El profesor se queja de que los alumnos no van a clase. El estudiante no es idiota por elegir la opción más cómoda.
La universidad tendrá que enseñar a usar la IA, porque los futuros profesionales van a utilizarla. Un profesional podrá pedirle un borrador a la máquina, pero la clave será si sabe detectar cuándo esta le responde una estupidez.
En el sudeste asiático, a diferencia de Estados Unidos y Europa, sí se están diseñando herramientas expresamente educativas, no vetan la tecnología y la emplean a la carta, según sus puntos fuertes y débiles.
Pero ¿Cuáles deberían los objetivos de la enseñanza en la época de la IA y cómo evaluarlos? El profesor Francisco Herrera en Habituation and the Human Will: How Passive Reliance on Human-AI Collaboration Erodes Ethical Agency to Prevent It nos presenta un conjunto de ideas relevantes para empezar a abordar este tema. El artículo tiene una visión más amplia. Aquí sólo usaremos algunas de sus ideas adaptadas al mundo de la enseñanza.
Desde nuestro punto de vista la enseñanza en los tiempos de la IA debe formar alumnos que ayudándose de la IA puedan aumentar sus capacidades para elegir entre opciones dentro de un dominio, adoptar un plan, decidir qué valores priorizar o que aspectos delegar en otra persona o en un algoritmo. El alumno debe ser capaz de distinguir cuando un algoritmo le está proponiendo una solución incorrecta o que no está alineada con los valores humanos.
La universidad debe cambiar, pero ¿por dónde empezamos a concretar los cambios necesarios? En España muchos profesores han optado por pedir la prohibición. Otros, pocos, ya han actualizado la evaluación intensificando las pruebas orales y convocando más actividades presenciales. El problema no es desenmascarar al tramposo. El problema es cómo saber qué acredita exactamente el trabajo que se presenta: si las aptitudes del estudiante o la pericia de una IA.
La IA es muy adecuada para acceder al conocimiento y ajustar los contenidos a las necesidades de cada alumno. Si los sistemas educativos y la formación de los profesores y maestros no se adaptan a su uso, estaremos formando una generación tras otra de zombis incapaces de pensar por sí mismos. No se puede ignorar la IA y seguir enseñando como si no existiera, porque los alumnos van a vivir en un mundo donde esa tecnología estará por todas partes.
Necesitamos poner la IA al servicio de la educación y utilizarla para formar el pensamiento crítico de los alumnos. Decirlo es más fácil que hacerlo, pero debemos ponernos a ello. La construcción del pensamiento crítico y las destrezas de pensamiento de alto nivel se han vuelto más importantes que nunca en la era de la IA.
El problema es cómo lograr que los alumnos aprendan lo básico y, si no lo hacen, que no aprueben gracias a la inteligencia artificial (IA). Los expertos no dudan en que la generalización de la IA generativa pone en peligro las habilidades para escribir y el pensamiento crítico, mientras crece el fraude académico y la dificultad para evaluar el aprendizaje real. ¿Pero cómo hacer que las IAs sean un complemento para aprender y no un atajo para superar una materia?
Hay que empezar por cambiar la forma de evaluar. Creemos que los trabajos llevados a cabo con la ayuda de IA no deben evaluarse únicamente por su resultado final. Hay que evaluar también el proceso, el camino seguido para llegar al resultado.
El alumno debe hacerse responsable del trabajo presentado y no asumir simplemente que los resultados son productos del algoritmo. Ante cada problema resuelto el alumno debe saber responder adecuadamente sin ayuda de la IA a algunas preguntas: ¿Cuáles son los objetivos? ¿Qué opciones disponibles hay? ¿Cuál sería el resultado se escogemos otra opción de las posibles? ¿Por qué la opción escogida es la mejor? ¿Y mejor desde que punto de vista?
Debemos evaluar los detalles del resultado para decidir si el alumno está convencido que las opciones escogidas con la ayuda de la IA son las adecuadas. En definitiva, si es capaz de reconstruir aspectos del trabajo escogidos por el profesor sin la ayuda de la IA. Evaluar con los objetivos que buscamos no es sencillo. Los profesores debemos seguir experimentando en la evaluación en la era de la IA.
Es muy relevante la existencia o no de herramientas de ayuda al profesor y al alumno. ¿Por qué existen actualmente tan pocos ejemplos de herramientas de IA que ayuden al profesor en vez de pretender sustituirlo? La respuesta creemos que está en que gran parte del auge de la IA ha sido impulsado por un grupo homogéneo de personas influenciadas por una idea compartida que considera que las máquinas superarán y suplantarán a la humanidad.
Existen más herramientas que pueden hacer la parte repetitiva: exposición de temas concretos que pueden ser vistos de forma repetida, responder a preguntas concretas del alumno en un dominio específico, hacer una primera evaluación de su nivel, etc.
Debemos construir herramientas que reten al estudiante, le pregunten y le fuercen a pensar. Y, dependiendo de las respuestas, lance otras cuestiones que le deben ayudar a aprender.
Las herramientas de ayuda a la enseñanza deberían presentar los compromisos y las interpretaciones alternativas plausibles y no una única opción. Su función debería ser mantener al alumno comprometido en la evaluación de las razones, y no aceptar una autoridad sin más. Estas herramientas deben diseñarse para mantener a los alumnos activamente involucrados en la evaluación de las opciones presentadas y proporcionar información accesible sobre razones, supuestos, evidencias y criterios de decisión relevantes.
Una herramienta de IA debería explicar las razones de las decisiones que ofrece. Debe hacer algo más que revelar información. Debería ayudar a los alumnos a comprender las razones, evidencias, suposiciones e incertidumbres que sustentan una decisión o un resultado.
¿Debemos sustituir a los profesores por herramientas? Muchas empresas líderes se han volcado exclusivamente en la búsqueda de la inteligencia artificial general (IAG). Centran la atención en la automatización: reemplazar el trabajo humano, y de los profesores en particular, siempre que sea posible. Pero existe otra alternativa. Las herramientas de IA también pueden diseñarse para complementar a los profesores, mejorando sus capacidades y productividad, en lugar de sustituirlos.
En lugar de sustituir a los docentes, las herramientas de IA podrían ayudarles a identificar las áreas en las que los alumnos tienen dificultades y permitirles ofrecer un apoyo más personalizado a gran escala. Debemos devolver el valor a la enseñanza presencial. Los responsables políticos e institucionales deberían fomentar este tipo de innovación que complementa y mejora la labor docente mediante regulaciones e incentivos específicos.
Hay que poner en valor la enseñanza presencial, pero no podemos quedarnos en lo fácil: pedir más recursos, más profesores y en particular que se reduzca el tamaño de los grupos para una supuesta mejor atención individual. El profesor debe decidir cuál es su papel porque posiblemente se está acabando el tiempo para seguir impartiendo clases repetitivas cuando muchos aspectos se puede delegar en un algoritmo.