Prompt, RAG oder Feintuning

Prompt, Retrieval oder Feintuning: die Wahl

Es gibt drei Wege, eine modellgestützte Funktion zu ändern: einen besseren Prompt, Retrieval und Feintuning. Retrieval heißt auch RAG: Das Modell bekommt passende Dokumente mitgeschickt. Sie lösen verschiedene Probleme und kosten sehr unterschiedlich. Das ist wichtig, weil Teams oft zuerst das Teuerste wählen.

Ein Support-Team will Antworten im Hauston, nach der Preisliste dieser Woche, in einem festen Format. Das sind drei Bedürfnisse, und sie haben vielleicht nicht dieselbe Lösung.

Am Ende dieser Lektion

Notiz

Ich kann für ein Bedürfnis zwischen einem besseren Prompt, Retrieval und Feintuning wählen.

Schlüsselwörter

Begriff	Was er bedeutet
Prompt	die Anweisungen und Beispiele, die mit einem Aufruf gesendet werden
Retrieval	Dokumente holen und mit dem Aufruf senden
Feintuning	ein Modell mit eigenen Beispielen weitertrainieren
Trainingsbeispiel	eine Eingabe, gepaart mit der gewünschten Ausgabe
Wissen	die Fakten, von denen die Antwort abhängt

Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.

Feintuning wird hier nicht ausgeführt

Warnung

Das Labor kann kein Modell feintunen. Diese Lektion ist eine Entscheidungsübung. Sie gibt die Fragen, die man stellt, und eine Lehrregel. Sie behauptet nicht, was ein Feintuning für Sie brächte: Messen Sie das an Ihren eigenen Fällen.

Fragen Sie, um welche Art Problem es geht

Stellen Sie vier Fragen der Reihe nach. Hängt die Antwort von Fakten ab, die privat sind oder sich ändern? Scheitert das Modell an der Form, etwa Ton oder Format? Haben Sie einen klaren Prompt mit Beispielen ausprobiert? Haben Sie genug Beispiele und eine Möglichkeit zu messen?

Fakten führen zu Retrieval. Die Form führt zuerst zum Prompt, und zum Feintuning erst, wenn der Prompt scheitert und die Beispiele vorhanden sind.

Beispiel: fünf Bedürfnisse

Bedürfnis	Erste Frage	Wahrscheinlicher erster Schritt
Ein freundlicher Ton	Scheitert ein Prompt mit Beispielen?	Prompt, dann Feintuning, wenn er scheitert und Beispiele da sind
Preise, die sich wöchentlich ändern	Ändern sich die Fakten?	Retrieval: feingetunte Fakten veralten
Ein striktes Ausgabeformat	Können Beispiele es zeigen?	Prompt, mit einer Prüfung, die die Ausgabe einliest
Antworten aus privaten Handbüchern	Sind die Fakten privat?	Retrieval, mit angezeigten Quellen
Niedrigere Kosten pro Aufruf	Wie groß ist der Prompt?	Erst messen: ein kürzerer Prompt oder ein kleineres Modell

Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.

Kosten und Grenzen jeder Wahl

Ein Prompt ist billig zu ändern und leicht zurückzunehmen, verbraucht aber bei jedem Aufruf Tokens. Retrieval fügt einen Speicher und eine Suche hinzu und scheitert, wenn die Suche danebenliegt. Feintuning braucht Beispiele, einen Trainingslauf und ein neues Modell, das man pflegen muss, und es hält Fakten nicht aktuell.

Keines behebt eine fehlende Anforderung oder eine schlechte Bewertung. Schreiben Sie zuerst die Fälle, die über den Erfolg entscheiden.

Ein häufiger Fehler

Warnung

Viele glauben, Feintuning bringe einem Modell neue Fakten bei. Es formt vor allem Stil und Format. Fakten, die sich ändern, gehören ins Retrieval, wo Sie ein Dokument aktualisieren und die Antwort sich am selben Tag ändert.