Learnya Akademie
Lektion 3 von 5 · 3 Min.

Suchen vor dem Antworten: Retrieval-Augmented Generation

Das Prinzip, mit dem ein Modell auf Grundlage Ihrer Dokumente antworten und seine Quellen zitieren kann.

ZielDie Schritte von Retrieval-Augmented Generation beschreiben und erkennen, wo sie scheitern kann.

Ein Modell kennt weder Ihre Verträge noch Ihre Abläufe. Retrieval-Augmented Generation, kurz RAG, liefert ihm dieses Wissen im Moment der Antwort. Das Prinzip wurde 2020 formalisiert: Zuerst werden die relevanten Abschnitte gesucht, dann erhält das Modell sie zusammen mit der Frage.

  1. Frage«Was sagt unser Vertrag zur Kündigung?»
  2. SucheDie ähnlichsten Passagen werden in Ihren Dokumenten gefunden.
  3. KontextDiese Passagen werden vor die Frage gestellt.
  4. AntwortDas Modell antwortet und zitiert die verwendeten Passagen.
Die vier Phasen von RAG.

Dieser Aufbau verringert Erfindungen, weil sich die Antwort auf einen Text stützt, der im Kontext vorliegt, und er ermöglicht es, die Quelle anzugeben. So funktionieren die Antworten von Learnya zu Ihren Dokumenten und zum Web.

Wo es scheitern kann

  • Die Suche liefert den falschen Abschnitt. Die Antwort folgt dann treu einem Text, der am Thema vorbeigeht.
  • Der richtige Abschnitt wird gefunden, aber ungünstig zugeschnitten, und der entscheidende Satz fehlt.
  • Das Modell vermischt den Abschnitt mit seinem eigenen Wissen. Eine Übersichtsarbeit von 2023 zu Halluzinationen zählt diesen Fall zu den häufigsten.

Quellen

  1. Lewis, Perez, Piktus et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems 33, p. 9459–9474. arxiv.org/abs/2005.11401
  2. Ji, Lee, Frieske et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys 55(12), p. 1–38. doi.org/10.1145/3571730