Die spezifischen Risiken grosser Sprachmodelle
Grösse der Korpora, trügerische Sprachgewandtheit und Machtkonzentration: die Kritikpunkte, die das Fachgebiet geprägt haben.
ZielDie wichtigsten Risiken grosser Modelle und die entsprechenden Schutzmassnahmen erklären.
2021 warnt der Artikel «On the Dangers of Stochastic Parrots» vor dem Wettlauf um immer grössere Modelle. Die Autorinnen und Autoren heben mehrere Risiken hervor. Riesige Korpora lassen sich unmöglich vollständig dokumentieren und enthalten verzerrte oder toxische Inhalte. Ein flüssiger Text weckt Vertrauen, selbst wenn er falsch ist. Die Kosten dieser Modelle konzentrieren die Macht bei wenigen Akteuren.
- Trügerische Sprachgewandtheit: Quellen verlangen und die wichtigsten Fakten prüfen.
- Undurchsichtige Korpora: Anbieter bevorzugen, die ihre Daten und Grenzen dokumentieren.
- Abhängigkeit: die Möglichkeit behalten, das Modell zu wechseln und die KI auf eigenen Servern zu betreiben.
Quellen
- Bender, Gebru, McMillan-Major, Shmitchell (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. Proceedings of ACM FAccT 2021, p. 610–623. doi.org/10.1145/3442188.3445922