Desarrollan herramientas para detectar trampas en tareas hechas con IA

La tecnología ha avanzado a pasos agigantados durante los últimos años. Actualmente, la llamada inteligencia artificial generativa permite, con unas cuantas frases, hacer desde canciones hasta videos completos. Sin embargo, un lado oscuro de este desarrollo se da en el campo académico, donde las pruebas y trabajos hechos con la ayuda de la inteligencia artificial pueden resultar prácticamente indistinguibles de aquellos hechos por personas. Sigue leyendo: OpenAI: El Gigante de la IA en la Encrucijada de Innovación y Ética ¿Educación en Crisis? Solo el 21% de los mexicanos aprueba la calidad educativa Inteligencia Artificial, un campo por regular “Antes del Covid, muchos estudiantes tomaban clases y hacían exámenes en el salón de clases, en persona. Después del Covid, muchos de ellos tomaban exámenes en línea, en los que es muy difícil saber si un estudiante está usando información o a otras personas para hacer trampa. “Y luego llegó ChatGPT. Y ahora, sin importar si estás haciendo un examen o tus tareas, los maestros tienen un problema grande para saber si el estudiante lo escribió o fue hecho con ChatGPT”, explica Jeff Magioncalda, CEO de la plataforma de e-learning Coursera. Pensar como humano para encontrar a la máquina Para Magioncalda, una de las cosas en las que suelen fallar las herramientas empleadas para detectar las trampas escolares hechas con inteligencia artificial es que se enfocan en los resultados y no en la forma en la que pensamos los humanos. “Lo que muchas compañías están haciendo, y que no creemos que sea una buena idea, es que están empleando inteligencia artificial para averiguar si lo que envió un estudiante está hecho con inteligencia artificial. Y es muy difícil que funcione, porque con pocos cambios es indetectable. Cuestionar sobre el pensamiento es la clave para descubrir si algo fue hecho con inteligencia artificial. Foto: STEM AI “Nosotros usamos a la inteligencia artificial para preguntarle al estudiante sobre su proceso de pensamiento. No queremos el resultado, sino los pensamientos detrás de él. Desarrollamos un diálogo entre la inteligencia artificial, que nosotros llamamos coach, y un estudiante. Una vez que está concluido, nuestra inteligencia artificial le da una puntuación al profesor que refleja la consistencia entre las respuestas y su pensamiento”, señala. Magioncalda explica que, aunque lo parezca, este método no es nada nuevo, puesto que se basa en el diálogo socrático y en las disertaciones que tradicionalmente se hacen en universidades como las de Oxford o Cambridge. Más herramientas contra los tramposos Además de la inteligencia artificial, estas son algunas de las herramientas desarrolladas por Coursera para evitar las trampas escolares: Pruebas bloqueadas hasta que el estudiante vea cierta cantidad de videos Detección de plagio al comparar la tarea con miles de pruebas en internet Vigilancia con la webcam para evitar que otra persona les “sople” las respuestas Bloqueo de pantalla para que, salvo la prueba, no puedan ver nada más Identificación con credencial para evitar que una persona haga exámenes por otra