Die KI-Verordnung der EU aus Sicht der Nutzenden

Die 2024 verabschiedete KI-Verordnung der EU unterscheidet zwischen den Anbietern eines KI-Systems und seinen Betreibern, also den Organisationen, die es in ihrer Tätigkeit verwenden. Ein Unternehmen, das mit Learnya arbeitet, hat diese zweite Rolle. Die Verordnung kann es auch dann betreffen, wenn es in der Schweiz ansässig ist, sobald die erzeugten Ergebnisse in der Union verwendet werden.

Seit dem 2. Februar 2025 verlangt Artikel 4 von den Organisationen, die KI-Systeme verwenden, Massnahmen zu ergreifen, um bei ihrem Personal ein ausreichendes Mass an KI-Kompetenz sicherzustellen, unter Berücksichtigung seiner Kenntnisse und des Einsatzkontexts. Die Schulung der Teams ist damit nicht mehr nur eine gute Praxis. Die Lernpfade der Akademie und ihre Nachweise können als Beleg für diese Anstrengung dienen.

Die Verordnung stuft bestimmte Nutzungen als hochriskant ein, namentlich in der Beschäftigung, etwa die Sichtung von Bewerbungen oder die Leistungsbeurteilung, in der Bildung, beim Zugang zu einer Ausbildung oder bei der Beurteilung von Schülerinnen und Schülern, sowie beim Zugang zu bestimmten wesentlichen Dienstleistungen. Diese Nutzungen bringen verstärkte Pflichten für die nutzende Organisation mit sich: menschliche Aufsicht, Überwachung des Betriebs, Aufbewahrung von Protokollen, Information der betroffenen Personen.

• Ermitteln Sie unter Ihren Nutzungen jene, die eine Entscheidung über eine Person betreffen.
• Lassen Sie bei diesen eine Person entscheiden und setzen Sie die KI als Hilfe bei der Vorbereitung ein.
• Informieren Sie die betroffenen Personen über den Einsatz von KI.
• Prüfen Sie den geltenden Anwendungszeitplan, der je nach Pflicht gestaffelt ist.

Die Verordnung sieht auch Transparenzpflichten vor, zum Beispiel einen erzeugten Audio- oder Bildinhalt zu kennzeichnen, der eine reale Person nachahmt, oder einen erzeugten Text, der ohne menschliches Gegenlesen veröffentlicht wird, um die Öffentlichkeit zu informieren. Ihre Nutzungsrichtlinie kann diese Fälle in einer einfachen Regel aufgreifen: Wann sagt man, dass ein Inhalt mit KI erstellt wurde?