Schritt für Schritt denken
Warum das Anfordern von Zwischenschritten die Antworten auf mehrstufige Probleme verbessert.
ZielDie Wirkung von schrittweisem Reasoning erklären und wissen, wann man es verlangen sollte.
Ein Modell erzeugt seine Antwort Token für Token. Schreibt es das Ergebnis eines mehrstufigen Problems direkt hin, muss es alles auf einmal leisten. Schreibt es zuerst die Schritte auf, dient ihm jeder davon als Stütze für den nächsten.
2022 zeigten Forschende, dass einige Beispiele ausführlicher Denkwege in der Anfrage die Ergebnisse in Arithmetik, Logik und Alltagswissen deutlich verbessern, vor allem bei grossen Modellen. Neuere sogenannte Reasoning-Modelle erledigen diese Arbeit von sich aus, bevor sie antworten.
Wie hoch sind die jährlichen Kosten, wenn 12 Personen das Angebot zu CHF 24 pro Monat mit 15 % Rabatt nutzen?
Rechne Schritt für Schritt: die monatlichen Kosten pro Person, dann für 12 Personen, dann für zwölf Monate, und wende dann den Rabatt an. Zeige die einzelnen Schritte.
Jeder Schritt wird überprüfbar, und ein Fehler lässt sich genau dort erkennen, wo er entsteht.
Wann es nichts bringt
- Bei einer einfachen Frage oder einer Umformulierung verlängern die Schritte die Antwort, ohne sie zu verbessern.
- Ein gut ausformulierter Denkweg kann trotzdem falsch sein. Die Schritte erleichtern die Überprüfung, sie ersetzen sie nicht.
Quellen
- Wei, Wang, Schuurmans et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. Advances in Neural Information Processing Systems 35, p. 24824–24837. arxiv.org/abs/2201.11903