Robôs sociais, ética e dados dos alunos

Os robôs sociais falam, olham e reagem ao aluno. Em 2018, a revisão de Belpaeme e colegas mostra efeitos positivos em aprendizagens específicas, como o vocabulário, por vezes próximos dos de um tutor humano em tarefas restritas. Assinala também os seus limites técnicos. Em 2020, uma revisão de van Straten e colegas mostra que as crianças criam facilmente uma relação com um robô. Sentem-se próximas dele e confiam nele.

Esta relação levanta questões éticas. Em 2016, Amanda Sharkey examina a ideia de robôs professores. Assinala riscos para a privacidade, um apego da criança à máquina, uma forma de engano quando a criança acredita que o robô se preocupa com ela, e a perda de contacto humano. Considera defensável o robô ferramenta, ao serviço do professor, e não o robô que o substitui.

O direito já enquadra certos usos. Na União Europeia, o Regulamento da IA proíbe desde fevereiro de 2025 reconhecer por IA as emoções das pessoas nos estabelecimentos de ensino. Uma IA que avalia as aprendizagens ou orienta um aluno é um sistema de risco elevado. Desde o Regulamento (UE) 2026/1744, estas obrigações aplicam-se a partir de 2 de dezembro de 2027. Uma escola suíça pode ser abrangida quando serve alunos na União.

Na Suíça, uma escola pública aplica a lei cantonal sobre a proteção de dados. A lei federal, em vigor na sua versão revista desde 1 de setembro de 2023, aplica-se às escolas privadas e às empresas que fornecem o robô ou o serviço online. Em ambos os casos, a voz, a imagem e os registos de atividade de um aluno são dados pessoais.

• Funciona sem ligação? Se não, que dados envia, e onde são tratados?
• Grava a voz, a imagem ou a localização dos alunos? Durante quanto tempo os guarda o fornecedor?
• É preciso uma conta por aluno, e com que informações?
• O seu estabelecimento ou o seu cantão autorizou-o?
• Os pais sabem o que é gravado?