En Florida, un estudiante recibió recientemente una advertencia y un cero en un examen. Según la escuela, el adolescente hizo trampa durante la prueba. Sin embargo, estas acusaciones se basan en un algoritmo que observó al estudiante mirando hacia abajo y hacia los lados antes de responder las preguntas.

Métodos que suele utilizar la policía

Si bien el concepto mismo de inteligencia artificial inevitablemente plantea cuestiones éticas, algunas pueden ser bastante inquietantes. En 2020, investigadores del famoso MIT (Estados Unidos) habían dado a conocer, por ejemplo, su trabajo sobre una nueva inteligencia artificial destinada a monitorear a las personas en su lugar de trabajo. Oficialmente, sin embargo, el objetivo de esta innovación era solo detectar la fatiga cognitiva que interrumpe el trabajo de estos mismos empleados.

¿Qué pasa con la IA en la escuela? La start-up Honorlock es experta en el seguimiento de exámenes mediante algoritmos. En 2021, habría acompañado nada menos que nueve millones de exámenes a razón de diez dólares por alumno. Sin embargo, esta start-up ha experimentado un auténtico boom gracias a la pandemia del Covid-19 y la realización de cursos y exámenes a distancia. De hecho, este tipo de sociedad se ha desarrollado extensiones del navegador capaz de detectar movimientos u obtener grabaciones de pantallas o micrófonos. Sin embargo, estos métodos poco ortodoxos suelen ser utilizados por las fuerzas del orden.

Tal y como explica el New York Times en un artículo del 27 de mayo de 2022, un adolescente de 17 años que estudiaba a distancia en Broward College (Florida) pagó el precio de esta vigilancia. De hecho, ella recibió una advertencia y la puntuación de cero para un examen en febrero. The New York Times ha elegido investigar el caso de esta joven que se presenta como negra y acusada injustamente de deshonestidad académica por un algoritmo.

Revisión de IA
Créditos: captura de pantalla / Honorlock

Una IA que sanciona el comportamiento humano

Hay que decir que este estudiante no es el único que se queja falsas acusaciones de hacer trampa en un examen de un algoritmo. Sin embargo, es una de las pocas que ha recibido pruebas de su fechoría: un vídeo de cincuenta segundos. Sin embargo, la adolescente dice que respetó las reglas durante el examen, en particular, estar sola en la habitación y no usar su teléfono inteligente. Sin embargo, un correo electrónico de uno de sus profesores le dijo que el algoritmo la había observado mirando hacia abajo y hacia los lados varias veces antes de responder las preguntas.

En su defensa, la alumna indicó que pensaba mientras miraba sus manos. Sin embargo, la escuela dio su veredicto y sancionó a la joven por incumplimiento de instrucciones. El diario neoyorquino cedió la palabra a Cooper Quintin, miembro de la ONG Electronic Frontier Foundation. Luego se rebeló, señalando que nadie estaba mirando el examen durante todo el examen. Según él, el algoritmo sancionaría el comportamiento humano normal.

Para Tess Mitchell, portavoz de la start-up Honorlock, los tramposos no son no identificado definitivamente. De hecho, la decisión final pertenecería solo a la escuela y más precisamente al maestro.