Robots sociaux, éthique et données des élèves

Les robots sociaux parlent, regardent et réagissent à l’élève. En 2018, la revue de Belpaeme et ses collègues montre des effets positifs sur des apprentissages ciblés, comme le vocabulaire, parfois proches de ceux d’un tuteur humain sur des tâches restreintes. Elle relève aussi leurs limites techniques. En 2020, une revue de van Straten et ses collègues montre que les enfants nouent facilement une relation avec un robot. Ils se sentent proches de lui et lui font confiance.

Cette relation pose des questions éthiques. En 2016, Amanda Sharkey examine l’idée de robots enseignants. Elle relève des risques pour la vie privée, un attachement de l’enfant à la machine, une forme de tromperie quand l’enfant croit que le robot se soucie de lui, et la perte de contact humain. Elle juge défendable le robot outil, au service de l’enseignant, et non le robot qui le remplace.

Le droit encadre déjà certains usages. Dans l’Union européenne, le règlement sur l’IA interdit depuis février 2025 de reconnaître par l’IA les émotions des personnes dans les établissements d’enseignement. Une IA qui évalue les acquis ou oriente un élève est un système à haut risque. Depuis le règlement (UE) 2026/1744, ces obligations s’appliquent à partir du 2 décembre 2027. Une école suisse peut être concernée quand elle sert des élèves dans l’Union.

En Suisse, une école publique applique la loi cantonale sur la protection des données. La loi fédérale, en vigueur dans sa version révisée depuis le 1er septembre 2023, s’applique aux écoles privées et aux entreprises qui fournissent le robot ou le service en ligne. Dans les deux cas, la voix, l’image et les traces d’activité d’un élève sont des données personnelles.

• Fonctionne-t-il sans connexion ? Sinon, quelles données envoie-t-il, et où sont-elles traitées ?
• Enregistre-t-il la voix, l’image ou la position des élèves ? Combien de temps le fournisseur les garde-t-il ?
• Faut-il un compte par élève, et avec quelles informations ?
• Votre établissement ou votre canton l’a-t-il autorisé ?
• Les parents savent-ils ce qui est enregistré ?