Werkzeuge zum Handeln

Ein Sprachmodell erzeugt nur Text. Um im Web zu suchen, exakt zu rechnen, eine Datei zu lesen oder eine E-Mail zu senden, stützt es sich auf Werkzeuge. Das Prinzip ist einfach: Das Modell schreibt eine Anfrage für einen Werkzeugaufruf mit den nötigen Parametern, das System führt das Werkzeug aus und stellt das Ergebnis in den Kontext, dann fährt das Modell fort.

2022 zeigte der Ansatz ReAct, dass ein Modell, das Denken und Handeln abwechselt, indem es aufschreibt, was es vorhat, dann handelt und das Ergebnis beobachtet, Such- und Entscheidungsaufgaben besser löst, als wenn es nur denkt oder nur handelt. Die Arbeiten zu Toolformer zeigten 2023, dass ein Modell lernen kann, wann ihm ein Werkzeug nützt.

• Eine Rechnung, die einem Werkzeug übergeben wird, ist exakt, während sich das Modell allein bei einer Zahl irren kann.
• Eine Suche liefert eine datierte und zitierbare Information statt einer Erinnerung des Modells.
• Jeder Werkzeugaufruf ist im Plan der Aufgabe sichtbar und damit überprüfbar.

Ein Werkzeug, das liest, ist für die Aussenwelt ungefährlich. Ein Werkzeug, das handelt, also sendet, veröffentlicht oder löscht, kann Schaden anrichten, wenn es falsch aufgerufen oder durch einen präparierten Inhalt missbraucht wird. Deshalb bittet Learnya vor jeder verbindlichen Aktion um Ihre Freigabe, und deshalb kann der Administrator diese Werkzeuge den Assistenten vorbehalten, die sie brauchen.