Robots sociales, ética y datos de los alumnos

Los robots sociales hablan, miran y reaccionan ante el alumno. En 2018, la revisión de Belpaeme y sus colegas muestra efectos positivos en aprendizajes concretos, como el vocabulario, a veces cercanos a los de un tutor humano en tareas restringidas. También señala sus límites técnicos. En 2020, una revisión de van Straten y sus colegas muestra que los niños establecen fácilmente una relación con un robot. Se sienten cercanos a él y confían en él.

Esta relación plantea cuestiones éticas. En 2016, Amanda Sharkey examina la idea de los robots docentes. Señala riesgos para la privacidad, un apego del niño a la máquina, una forma de engaño cuando el niño cree que el robot se preocupa por él, y la pérdida de contacto humano. Considera defendible el robot herramienta, al servicio del docente, y no el robot que lo sustituye.

El derecho ya regula algunos usos. En la Unión Europea, el Reglamento de IA prohíbe desde febrero de 2025 reconocer mediante IA las emociones de las personas en los centros educativos. Una IA que evalúa lo aprendido u orienta a un alumno es un sistema de alto riesgo. Desde el Reglamento (UE) 2026/1744, estas obligaciones se aplican a partir del 2 de diciembre de 2027. Una escuela suiza puede verse afectada cuando atiende a alumnos en la Unión.

En Suiza, una escuela pública aplica la ley cantonal de protección de datos. La ley federal, vigente en su versión revisada desde el 1 de septiembre de 2023, se aplica a las escuelas privadas y a las empresas que suministran el robot o el servicio en línea. En ambos casos, la voz, la imagen y los rastros de actividad de un alumno son datos personales.

• ¿Funciona sin conexión? Si no, ¿qué datos envía y dónde se procesan?
• ¿Graba la voz, la imagen o la ubicación de los alumnos? ¿Cuánto tiempo los conserva el proveedor?
• ¿Hace falta una cuenta por alumno, y con qué información?
• ¿Lo ha autorizado su centro o su cantón?
• ¿Saben los padres qué se graba?