L’intelligence artificielle pour superviser les étudiants : est-ce que le prix est cher payé? (English Version Forthcoming)

L’utilisation de l’intelligence artificielle pour la surveillance des étudiants dans une offre à distance : Est-ce nécessaire en 2021?

Depuis mars 2020, le monde de l’enseignement a été bouleversé par la pandémie de la COVID-19 qui a changé l’offre des cours pour une offre à distance afin de respecter les mesures sanitaires en place, et ce, partout dans le monde. Il est estimé que plus de 70% des étudiants partout dans le monde ont été touchés par la fermeture de leur milieu scolaire. Plusieurs enseignants et écoles se sont tournés vers l’utilisation de l’intelligence artificielle (IA) pour assurer la surveillance d’examens offerts de façon virtuelle. Certains concepts sont importants à considérer avant de faire appel à une telle forme de technologie dans les cours, autant au niveau secondaire, collégial qu’universitaire.

Intrusion dans la vie privée des étudiants

L’intelligence artificielle (IA) est décrite comme étant « …une reproduction artificielle des facultés cognitives de l’intelligence humaine … ». Le but de l’utilisation de l’IA dans la surveillance des évaluations est de s’assurer que les apprenants sont intègres et honnêtes dans la réalisation de celles-ci. Comment est-ce possible? Il faut d’abord que le programme d’IA soit capable d’accéder à l’outil technologique de l’apprenant (ordinateur, tablette, téléphone, etc.) pour accéder au système de caméra ainsi que de microphone afin d’être en mesure d’analyser des données objectives durant l’évaluation de l’étudiant. On fait référence ici aux gestes qui laisseraient savoir que l’étudiant triche comme par exemple voir l’étudiant feuilleter un livre, accéder à une plateforme de recherche ou analyser le mouvement des yeux pour déterminer si le regard de l’étudiant est pour autre écran que celui de son examen.

Cette méthode permet ainsi aux divers programmes de surveillance d’accéder à une multitude d’informations personnelles de l’individu ayant accepté l’intégration de ce logiciel pour effectuer son évaluation. Cet enjeu a soulevé une multitude de questions au niveau éthique concernant l’intégrité de la vie privée des étudiants « not only do those platforms potentially lack children’s privacy standards, but they may also collect data on students». En effet, certains programmes de surveillance ne garantissent pas les limites de leurs actions, laissant croire que le programme pourrait effectivement utiliser les données de l’apprenant à d’autres fins. Ceci freine certains étudiants qui se sentent obligés d’accepter l’utilisation de ces programmes pour assurer leur réussite scolaire.  Plusieurs mouvements étudiants sont maintenant en action pour ne pas obliger de tels programmes pour effectuer la supervision des examens.

« .. certains programmes  de surveillance [d’évaluation en ligne] ne garantissent pas les limites de leurs actions »

Certains étudiants ne sont pas en faveur de ces programmes, comme le signale un étudiant dans l’article du site  Web The verge : « It’s basically like having someone standing over your shoulder staring at your screen the whole time ». Les étudiants sont ainsi tous considérés comme étant des possibles tricheurs avant même de les évaluer pour la première fois. Certains étudiants se disent persécutés par ce type de surveillance et ne sont pas confortables que ceux-ci soient imposées par divers milieux scolaires.

Le danger de l’utilisation de cette technologie se retrouve dans l’utilisation d’applications ou de partenaires de 3e partie (third party participant). Ceux-ci sont souvent nécessaires pour permettre la communication, assurer la surveillance vidéo, etc. entre la compagnie et le participant. Cependant, ces compagnies adjacentes sont rarement incluses dans les protocoles et les ententes, ce qui laisse beaucoup de place et de latitude à celles-ci pour agir comme elles le veulent.

L’inclusion n’a pas de prix

Un autre enjeu en lien avec l’utilisation de l’IA dans la supervision des examens en ligne est la limitation de cette technologie face à l’inclusion et l’accessibilité de tous les participants. Pour pouvoir fonctionner, les programmes de supervision d’évaluation utilisent des algorithmes basés sur une multitude de données contenant des étudiants qui trichent et qui ne trichent pas, pour ainsi pouvoir comparer les réactions de l’étudiant qui est action. Certes, ceci semble simple, cependant plusieurs groupes racisés sont défavorisés par ces technologies.

Certaines personnes clament que cette technologie accentue le racisme ainsi que le sexisme dans son utilisation. Il est arrivé que les étudiants de race noire se soient fait décliner l’accès aux évaluations, car le système n’était pas en mesure de visualiser leur visage à cause de la couleur et la forme de celui-ci.  Cet enjeu est considérable lorsqu’on réalise que plusieurs mouvements de société sont en branle pour diminuer ces écarts entre citoyens du monde et que la supervision d’évaluation en 2021 n’a pas encore trouvé une solution pour cette réalité.

« .. le fait d’ajouter une surveillance qui démontre beaucoup de biais augmente encore plus le niveau de stress chez certains étudiants»

Cette technologie cause ainsi des problèmes importants qui n’ont pas nécessairement leur place dans un milieu académique. Déjà que certains étudiants sont très anxieux par rapport à leur performance, le fait d’ajouter une surveillance qui démontre beaucoup de biais augmente encore plus le niveau de stress chez certains étudiants.

La question est soulevée dans l’article du site web d’information Vox, sommes-nous en train d’évaluer les bonnes choses? Est-ce que l’enjeu est vraiment d’analyser si l’étudiant est en train de tricher à son examen, ou plutôt de confirmer si l’étudiant a atteint, ou non, les compétences visées?

Le fait de vouloir surveiller les étudiants lors de leurs évaluations est légitime, mais où est la limite de cette technologie dans le rôle qu’on lui demande. Certes il faut s’assurer que les diplômes qui sont remis soient pertinents et qu’ils reflètent bien les compétences acquises des apprenants, mais à quel prix?

Autrice