Halluzinationen
Sie wissen, was eine Halluzination ist, wo sie am häufigsten auftritt und wie Sie sie entschärfen.
ZielAm Ende dieser Lektion können Sie Situationen erkennen, die Halluzinationen begünstigen, und sie mit einer zitierten Recherche und einer nicht suggestiven Frage entschärfen.
Als Halluzination bezeichnet man eine falsche Aussage, die ein Modell mit Überzeugung vorbringt: eine Referenz, die es nicht gibt, eine erfundene Zahl, ein Zitat, das der falschen Person zugeschrieben wird, ein Gesetzesartikel, der etwas anderes sagt. Das ist keine Lüge. Es ist die direkte Folge des Vorhersagemechanismus: Wenn das Modell etwas nicht weiss, erzeugt es trotzdem die plausibelste Fortsetzung.
Wo sie am häufigsten auftreten
- Genaue Referenzen: Titel von Artikeln, Seitenzahlen, Webadressen, Gesetzesartikel.
- Seltene Details: das Gründungsdatum eines kleinen Unternehmens, der Name einer lokalen verantwortlichen Person.
- Nischenthemen, die in den Trainingstexten kaum vorkommen.
- Fragen, die eine Antwort voraussetzen: «Welche Studie hat bewiesen, dass…» drängt das Modell, eine zu finden.
Bei sehr gut dokumentierten Themen und bei Umformulierungsaufgaben sind Halluzinationen selten. Häufig werden sie, sobald man vom Modell eine genaue Tatsache verlangt, die es nicht vor Augen hat.
Nenne mir fünf Studien, die beweisen, dass Microlearning wirksamer ist.
Suche wissenschaftliche Studien, die Microlearning mit längeren Formaten vergleichen. Zitiere jede Studie mit einem Link. Wenn die Ergebnisse gemischt sind, sag es.
Die zitierte Recherche ersetzt das Gedächtnis des Modells durch überprüfbare Quellen, und die Frage gibt die Schlussfolgerung nicht mehr vor.
Wie Learnya sie reduziert
Sobald eine sachliche Information im Spiel ist, stützt sich Learnya auf Quellen statt auf das Gedächtnis des Modells. Recherchen im Web und in der wissenschaftlichen Literatur werden zitiert, und ein Prüfagent kann kontrollieren, ob jede Quelle tatsächlich sagt, was ihr zugeschrieben wird. Bei Ihren Dokumenten liest der Agent die Datei, statt sich an sie zu erinnern.
Diese Mechanismen senken das Risiko stark, beseitigen es aber nicht. Eine Quelle kann schlecht zusammengefasst sein, oder eine Seite kann selbst fehlerhaft sein. Deshalb bleibt es die beste Gewohnheit, zwei oder drei Quellen zu öffnen, für alles, was veröffentlicht oder weitergegeben wird.