Notation, orientation et parcours d'apprentissage
Les systèmes d'IA en éducation sont classés haut risque par l'Annexe III, point 3 du règlement. Cela inclut la notation automatisée, la détection de plagiat, les parcours adaptatifs, l'orientation professionnelle et la surveillance d'examens. L'impact sur l'avenir des apprenants justifie un niveau de protection élevé.
Explicitement haut risque (Annexe III, point 3)
Tout système déterminant l'accès à l'éducation, évaluant les apprenants ou orientant leur parcours est haut risque.
Un enseignant ou évaluateur humain doit pouvoir réviser et contester toute note ou orientation générée par l'IA.
Les apprenants et leurs parents doivent être informés de l'utilisation de l'IA dans le processus éducatif.
Correction automatique de copies, scoring d'examens, évaluation de compétences. Supervision humaine obligatoire pour toute note impactant le parcours de l'apprenant.
Systèmes suggérant des orientations scolaires ou professionnelles. Impact direct sur l'avenir des apprenants. Tests de biais socio-économiques obligatoires.
Surveillance à distance par IA. Attention aux formes de reconnaissance émotionnelle interdites par l'Art. 5.
Un LMS qui distribue du contenu sans IA décisionnelle n'est pas concerné. Si le LMS utilise l'IA pour adapter les parcours ou évaluer les apprenants, il est potentiellement haut risque.
Identifiez vos systèmes d'IA, leur niveau de risque et les actions prioritaires spécifiques à votre secteur.
Diagnostic gratuit - 5 minutes