El "método del caballo de Troya" y otros trucos que los profesores usan para detectar trampas con IA
Los profesores de todos los niveles educativos se enfrentan hoy a un problema sin precedentes: la omnipresencia de la inteligencia artificial (IA). Esta nueva tecnología promete revolucionar los modelos de aprendizaje y facilitar, en muchos casos, la comprensión de temas complejos. Sin embargo, existe una línea muy delgada entre utilizar sistemas como ChatGPT como herramienta de apoyo y delegar el 100% de la resolución de las tareas a un sistema automatizado. La adopción en masa de la IA generativa abre muchas interrogantes para la educación. Una de las más apremiantes es: ¿Cómo pueden los docentes saber con certeza si están ante un trabajo total o parcialmente resuelto de manera artificial?
En Reino Unido una encuesta realizada este año por el Higher Education Policy Institute de Oxford a 1,054 estudiantes de pregrado encontró que alrededor del 94% utilizaba herramientas de IA generativa para apoyarse en trabajos evaluados, mientras que 12% reconoció haber incorporado directamente texto generado por IA en sus trabajos.
Palabras que se repiten, párrafos demasiado uniformes y conclusiones que vuelven sobre lo mismo son algunas de las pistas para identificar textos generados con inteligencia artificial.
En Estados Unidos, una serie de encuestas aplicadas a más de 95,000 estudiantes de 20 universidades estimó que 9% utilizó IA en sus trabajos de curso aun sabiendo que infringía las normas. De manera similar, en México, más del 60% de los estudiantes y docentes de educación superior utiliza de manera cotidiana sistemas de inteligencia artificial generativa, aunque reconoce que el uso de esta tecnología ocurre en un contexto marcado por la falta de capacitación y la ausencia de marcos normativos claros, lo que genera preocupaciones en torno a su aplicación ética y crítica. Mientras tanto, ¿cómo detectar las trampas con IA?
Más allá de lo que plataformas como Claude, ChatGPT o Gemini están dispuestas a marcar como productos creados con IA, los profesores ya están desarrollando técnicas y estrategias para identificar tareas hechas por chatbots, por un lado, y para incluir esta tecnología en la enseñanza, por otro. En un reciente artículo informativo para la revista Nature, Katarina Zimmer recoge algunas de estas.
Analizando las respuestas de la IA
Nicholas Mattei, profesor de Informática en la Universidad de Tulane, permite a sus estudiantes utilizar IA en su clase de Historia de la Tecnología. Sin embargo, los estudiantes deben identificar fuentes, utilizar tres modelos de lógica difusa para resumirlas y analizar críticamente los resultados, para finalmente elaborar infografías y un ensayo al respecto.
El docente, además, otorga puntos adicionales cuando los alumnos detectan errores de la IA, como referencias inexistentes o infografías que no representan correctamente las fuentes.
Simulaciones explicadas
Por su parte, Daniel Silver, sociólogo de la Universidad de Toronto Scarborough, en Canadá, utiliza en sus cátedras agentes de IA que simulan comerciantes para que los alumnos mejoren su comprensión de los conceptos contenidos en el libro La riqueza de las naciones, publicado en 1776 por Adam Smith. En el pasado se solicitaba un ensayo sobre esta obra. Al permitir el uso de la IA, Silver explica que la tecnología “motiva a sus estudiantes a explorar diversas situaciones potenciales, como qué sucede si las personas se vuelven poco confiables”.
Los estudiantes analizan las transcripciones generadas por los agentes y escriben al respecto. En consecuencia, según el catedrático, “es fácil detectar si los estudiantes le piden a la IA que realice todos estos pasos de una sola vez, ya que, por ejemplo, [el sistema] es capaz de simplemente inventar información en lugar de citar las transcripciones”.
Evaluación conjunta
Ruben Verborgh, científico informático de la Universidad de Gante, en Bélgica, permite el uso de la IA en su curso de Desarrollo Web al considerar que esta tecnología debe ser incluida en la formación de sus alumnos. Sin embargo, evalúa las habilidades de sus pupilos con preguntas como: “¿Por qué no funciona esta página web?” o “¿Por qué es lenta?”, que no siempre son respondidas de manera efectiva por los sistemas de IA. Según su experiencia, los chatbots pueden responder estas preguntas, pero no siempre ofrecen una metodología sólida y precisa.
Una técnica similar aplica Etienne Roesch, estadístico y científico cognitivo de la Universidad de Reading, Reino Unido, quien proporciona capturas de análisis de actividad neurológica y pide interpretarlas. En su experiencia, cuando la solicitud es resuelta por un sistema de IA, “la respuesta a menudo no tiene nada que ver con lo que se ve en la captura de pantalla, y eso se nota”, lo que permite determinar que la respuesta fue generada de manera artificial.
Atención en el proceso
Algunos profesores se centran en comprobar cómo se construyó el trabajo, en lugar de limitarse a revisar el resultado final. Yanjun Shen, investigador en Geología Ecológica e Ingeniería en la Universidad de Chang'an, en Xi'an, China, solicita los registros de las interacciones de sus estudiantes con herramientas de IA para evaluar si estas ayudaron al estudiante a ampliar sus conocimientos o sustituyeron su pensamiento.
De igual manera, Nikita Bezrukov, profesor de Lingüística y Comunicación en la Universidad de Columbia, utiliza plataformas con historial de revisiones, como Google Docs, para observar la evolución de los textos. Permite emplear IA para corregir la gramática o mejorar la redacción, pero no para generar trabajos completos.
Exámenes orales y comprobación de conocimientos
Los exámenes orales se utilizan para comprobar que el estudiante comprende y puede defender aquello que entregó por escrito. Gianmarc Grazioli, químico computacional de la Universidad Estatal de San José, asigna 70% de la calificación al código Python y 30% a un examen oral en el que los alumnos deben explicar líneas específicas.
Este tipo de evaluación permite trasladar el foco del producto final a la capacidad del alumno para explicar sus decisiones y demostrar que domina los conocimientos involucrados. De esta manera, una respuesta generada con ayuda de IA no necesariamente representa un problema si el estudiante puede comprenderla, cuestionarla y defenderla.
Detectores y métodos alternativos
Los detectores de IA siguen utilizándose, pero algunos profesores los consideran únicamente un respaldo más, junto con referencias erróneas, cambios bruscos entre borradores y otras señales. Ollie Thomas, biólogo de la Universidad de Melbourne, advierte que existe una especie de “carrera armamentística”, porque las herramientas de IA evolucionan y pueden evadir los sistemas de detección.
Por ello, la identificación de contenido generado artificialmente no depende exclusivamente de una herramienta automática. La comparación entre diferentes versiones de un documento, la revisión de las fuentes utilizadas y la interacción directa con el estudiante pueden aportar elementos adicionales para determinar cómo fue elaborado un trabajo.
Método de caballo de Troya
Will Teague, historiador de la Universidad Estatal de Angelo, en San Angelo, Texas, utilizó el llamado "método del caballo de Troya”, que consiste en ocultar una instrucción que puede ser interpretada por una IA, pero que resulta prácticamente invisible para el estudiante. Al pedir que los ensayos fueran escritos desde una perspectiva marxista, identificó 47 de 130 trabajos como claramente producidos por un chatbot. Sin embargo, consideró negativa la experiencia y posteriormente recurrió a estrategias educativas y de discusión.
El caso muestra también las limitaciones de recurrir exclusivamente a mecanismos de vigilancia. Aunque una técnica puede revelar el uso de un chatbot, no necesariamente contribuye a mejorar el aprendizaje. Por ello, algunos profesores han optado por replantear las actividades para que la IA forme parte del proceso educativo, pero sin sustituir la participación intelectual del estudiante.
Trabajos personalizados y de pensamiento crítico
Finalmente, algunos docentes diseñan actividades que requieren personalización, reflexión y análisis crítico. Risa Morimoto, docente de la SOAS University of London, permite que los alumnos elijan temas que les interesen y escriban textos dirigidos a familiares o amigos, lo que le permitió distinguir mejor su personalidad en los trabajos. Jonathan Vallano utiliza preguntas abiertas y actividades en las que los estudiantes deben identificar investigaciones y artículos a partir de pistas, leerlos y resumirlos con sus propias palabras.
En conjunto, estas experiencias muestran que la incorporación de la IA en las aulas no necesariamente implica prohibirla ni aceptar sin restricciones los trabajos realizados con estas herramientas.
Las estrategias empleadas por los profesores para detectar supuestas trampas con IA apuntan a modificar la manera de evaluar: analizar el proceso de elaboración, exigir explicaciones, promover la discusión, plantear problemas difíciles de resolver de forma automática y solicitar muestras de pensamiento propio. Aunque muchas de estas tácticas se han generalizado, su eficiencia aún está en duda ante el rápido de desarrollo de la tecnología.