Soziale Roboter, Ethik und Daten der Schülerinnen und Schüler

Soziale Roboter sprechen, schauen und reagieren auf das Kind. 2018 zeigt die Übersichtsarbeit von Belpaeme und Kollegen positive Effekte auf gezielte Lerninhalte wie den Wortschatz, bei eng begrenzten Aufgaben manchmal nahe an denen eines menschlichen Tutors. Sie hält auch ihre technischen Grenzen fest. 2020 zeigt eine Übersichtsarbeit von van Straten und Kollegen, dass Kinder leicht eine Beziehung zu einem Roboter aufbauen. Sie fühlen sich ihm nahe und vertrauen ihm.

Diese Beziehung wirft ethische Fragen auf. 2016 untersucht Amanda Sharkey die Idee von Robotern als Lehrpersonen. Sie nennt Risiken für die Privatsphäre, eine Bindung des Kindes an die Maschine, eine Form der Täuschung, wenn das Kind glaubt, der Roboter kümmere sich um es, und den Verlust menschlichen Kontakts. Vertretbar findet sie den Roboter als Werkzeug im Dienst der Lehrperson, nicht den Roboter, der sie ersetzt.

Das Recht regelt bereits bestimmte Anwendungen. In der Europäischen Union verbietet die KI-Verordnung seit Februar 2025, die Emotionen von Personen in Bildungseinrichtungen mit KI zu erkennen. Eine KI, die Lernergebnisse beurteilt oder über die Laufbahn einer Schülerin oder eines Schülers entscheidet, ist ein Hochrisiko-System. Seit der Verordnung (EU) 2026/1744 gelten diese Pflichten ab dem 2. Dezember 2027. Eine Schweizer Schule kann betroffen sein, wenn sie Schülerinnen und Schüler in der Union unterrichtet.

In der Schweiz wendet eine öffentliche Schule das kantonale Datenschutzgesetz an. Das Bundesgesetz über den Datenschutz (DSG), in seiner revidierten Fassung seit dem 1. September 2023 in Kraft, gilt für Privatschulen und für die Unternehmen, die den Roboter oder den Onlinedienst liefern. In beiden Fällen sind Stimme, Bild und Aktivitätsspuren eines Kindes Personendaten.

• Funktioniert er ohne Internetverbindung? Wenn nicht, welche Daten sendet er, und wo werden sie verarbeitet?
• Zeichnet er Stimme, Bild oder Standort der Schülerinnen und Schüler auf? Wie lange bewahrt der Anbieter sie auf?
• Braucht es ein Konto pro Kind, und mit welchen Angaben?
• Hat Ihre Schule oder Ihr Kanton ihn zugelassen?
• Wissen die Eltern, was aufgezeichnet wird?