Kurs · Fortgeschritten
Vom Modell zum System
Kontext, Reasoning, Retrieval-Augmented Generation, Mixture of Experts und Ausführungsort: was aus einem Modell einen verlässlichen Assistenten macht.
5 Lektionen · 1 Quiz · 25 Min. · Abzeichen zum Abschluss
Was Sie danach können
- Erklären, was das Kontextfenster ist und wie man es nutzt, ohne Informationen zu verlieren.
- Beschreiben, was schrittweises Reasoning verändert und wann man es verlangen sollte.
- Das Prinzip von Retrieval-Augmented Generation (RAG) und seine Schwachstellen erklären.
- Eine Mixture of Experts beschreiben und was sie bei Kosten und Geschwindigkeit verändert.
- Den Ausführungsort eines Modells nach der Sensibilität der Daten wählen.
- Für wen
- KI-Verantwortliche, IT-Verantwortliche und alle, die Assistenten konzipieren oder eine Architektur wählen.
- Voraussetzungen
- Der Kurs «Im Inneren eines Sprachmodells».
- Dauer
- 25 Min.
- Niveau
- Fortgeschritten
Programm
Der Inhalt des Kurses.
- 01Mit dem Kontext arbeiten3 Lektionen
- Das Kontextfenster6 Min.
Alles, was das Modell auf einmal berücksichtigen kann, und warum die Mitte eines langen Dokuments am anfälligsten ist.
- Schritt für Schritt denken3 Min.
Warum das Anfordern von Zwischenschritten die Antworten auf mehrstufige Probleme verbessert.
- Suchen vor dem Antworten: Retrieval-Augmented Generation3 Min.
Das Prinzip, mit dem ein Modell auf Grundlage Ihrer Dokumente antworten und seine Quellen zitieren kann.
- Das Kontextfenster6 Min.
- 02Architektur und Ausführung2 Lektionen
- Mixture of Experts3 Min.
Wie ein Modell sehr viele Parameter haben und trotzdem für jedes Token nur einen Teil davon nutzen kann.
- Wo ein Modell läuft3 Min.
Online, auf einem Arbeitsplatzrechner oder auf Ihren Servern: was sich für Ihre Daten, Ihre Kosten und Ihre Nutzung ändert.
- Mixture of Experts3 Min.
- ✓Abschlussquiz6 Fragen