AIの比較
RAGとファインチューニングの違い
調べて最新に保つべき事実を渡すならRAG、形式、口調、狭い作業のようにモデルの振る舞いを変えるならファインチューニングを使います。
| 観点 | RAG | ファインチューニング |
|---|---|---|
| 何が変わるか | 呼び出しごとにモデルが読むもの | モデルの重み |
| 知識の更新 | 文書を直せばすぐ反映 | 新しいデータで学習し直す |
| 出典を示せるか | はい、使った部分を引用できる | いいえ、知識はモデルの中にある |
| 事前の準備 | 検索インデックスとチャンク分割 | 数百の良い例と学習の実行 |
RAGを選ぶとき
- 答えが変わっていく文書に左右される
- 答えの出どころを利用者が確認する必要がある
- 利用者によって見られる文書が違う
ファインチューニングを選ぶとき
- プロンプトでは保てない一定の形式や文体が必要
- 作業が狭く、良い例がたくさんある
- 繰り返す作業でプロンプトを短くしたい、小さなモデルを使いたい
手を動かして学ぶ
これらの無料レッスンでは、ラボで実行するコマンドと採点される課題で学べます。アカウントなしで全文を読めます。
関連する用語
- 検索拡張生成（RAG）
- RAGとは、まず自分の文書から関係する部分を検索し、それを言語モデルに渡して、その内容に基づいて質問に答えさせる方法です。
- ファインチューニング
- ファインチューニングとは、既存のモデルを自分の例でさらに学習させ、それまで苦手だった作業、文体、形式を身に付けさせることです。
- LoRA（低ランク適応）
- LoRAとは、モデルの重みを固定したまま、その横に小さな行列を追加して学習させる調整方法で、全体を学習し直すよりずっと少ないメモリで済みます。