Comparaison IA
RAG ou fine-tuning
Le RAG donne au modèle des faits à consulter et à tenir à jour ; le fine-tuning change sa façon de faire, comme un format, un ton ou une tâche étroite.
| Aspect | RAG | Fine-tuning |
|---|---|---|
| Ce qui change | Ce que le modèle lit à chaque appel | Les poids du modèle |
| Mettre à jour les connaissances | Modifier les documents, effet immédiat | Réentraîner sur de nouvelles données |
| Cite ses sources | Oui, il peut citer les passages utilisés | Non, la connaissance est dans le modèle |
| Travail préalable | Un index de recherche et un découpage | Des centaines de bons exemples et un entraînement |
Choisir RAG quand
- Les réponses dépendent de documents qui changent
- Les utilisateurs doivent voir d’où vient une réponse
- Tous les utilisateurs ne voient pas les mêmes documents
Choisir Fine-tuning quand
- Il faut un format ou un style constant que le prompt ne tient pas
- La tâche est étroite et vous avez beaucoup de bons exemples
- Vous voulez des prompts plus courts ou un modèle plus petit sur une tâche répétée
L’apprendre par la pratique
Ces leçons gratuites l’enseignent avec des commandes à lancer dans un lab et des tâches corrigées. Elles se lisent en entier sans compte.
Termes liés
- Génération augmentée par la recherche (RAG)
- Le RAG répond à une question en retrouvant d’abord des passages utiles dans vos propres documents, puis en les donnant à un modèle de langage pour qu’il réponde à partir d’eux.
- Ajustement fin (fine-tuning)
- L’ajustement fin consiste à continuer l’entraînement d’un modèle existant sur vos propres exemples pour qu’il apprenne une tâche, un style ou un format.
- LoRA (adaptation de rang faible)
- LoRA est une façon d’ajuster un modèle en entraînant de petites matrices ajoutées à côté de ses poids gelés, ce qui demande bien moins de mémoire.