KI-Vergleich
RAG oder Fine-Tuning
Nutzen Sie RAG, um einem Modell Fakten zum Nachschlagen und Aktuellhalten zu geben, und Fine-Tuning, um sein Verhalten zu ändern, etwa Format, Ton oder eine enge Aufgabe.
| Aspekt | RAG | Fine-Tuning |
|---|---|---|
| Was sich ändert | Was das Modell bei jedem Aufruf liest | Die Gewichte des Modells |
| Wissen aktualisieren | Dokumente ändern, wirkt sofort | Mit neuen Daten neu trainieren |
| Zeigt Quellen | Ja, es kann die genutzten Abschnitte zitieren | Nein, das Wissen steckt im Modell |
| Vorarbeit | Ein Suchindex und Chunking | Hunderte gute Beispiele und ein Trainingslauf |
RAG wählen, wenn
- Die Antworten hängen von Dokumenten ab, die sich ändern
- Nutzer müssen sehen, woher eine Antwort stammt
- Nicht alle Nutzer sehen dieselben Dokumente
Fine-Tuning wählen, wenn
- Sie brauchen ein beständiges Format oder einen Stil, den Prompts nicht halten
- Die Aufgabe ist eng und Sie haben viele gute Beispiele
- Sie wollen kürzere Prompts oder ein kleineres Modell für eine wiederkehrende Aufgabe
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.
Verwandte Begriffe
- Retrieval-Augmented Generation (RAG)
- RAG beantwortet eine Frage, indem es zuerst passende Abschnitte in Ihren eigenen Dokumenten sucht und sie dann einem Sprachmodell gibt, das daraus antwortet.
- Fine-Tuning (Feinabstimmung)
- Fine-Tuning heißt, ein vorhandenes Modell mit eigenen Beispielen weiterzutrainieren, damit es eine Aufgabe, einen Stil oder ein Format lernt, das es vorher nicht gut konnte.
- LoRA (Low-Rank Adaptation)
- LoRA ist ein Weg, ein Modell anzupassen, indem kleine zusätzliche Matrizen neben seinen eingefrorenen Gewichten trainiert werden, was viel weniger Speicher braucht.