ファインチューニングとRAGの違い – 自社データに合うのはどちらか、5つの問いで判断する

要点まとめ

• LLM（大規模言語モデル）を自社の業務に合わせる方法は、主にプロンプト設計、RAG（検索拡張生成）、ファインチューニング（追加学習）の3つです。
• RAGはAIモデルを再学習せずに社内文書を参照させる方法で、文書を更新した場合は検索対象に取り込み直した時点で回答に反映されます。
• ファインチューニングは、知識を覚えさせるより、出力の形式・文体・特定タスクの精度を安定させる用途に向いています。
• 判断は「答えの根拠が文書にあるか」「課題は内容か形式か」「情報の更新頻度」「学習データを用意できるか」「根拠の提示が必要か」の5つの問いで整理できます。
• どの方法が合うかは、同じテスト質問のセットで正答率・形式の遵守・応答時間・1件あたりのコストを比べると客観的に判断できます。

ファインチューニングとRAGの違い 3つの方法の比較

ここでいう「重み」とは、AIモデルが学習によって獲得した内部のパラメータのことです。ファインチューニングにはモデル全体を再学習する方法のほか、LoRAのように一部のパラメータだけを調整する軽量な手法もあり、AIモデルの提供事業者の中にはAPI経由で追加学習の機能を提供しているところもあります（2026年10月時点。対応モデルと料金は各社の公式情報で確認してください）。

例えるなら、RAGは「試験に教科書を持ち込める状態」、ファインチューニングは「答案の書き方を練習した状態」に近いといえます。教科書の内容が頻繁に変わるならRAG、答案の書式をそろえたいならファインチューニング、と考えると整理しやすくなります。

なお、どの方法でも、最新の情報や社外の情報を扱うには別の工夫が必要です。モデルが学習した時点以降の出来事は、RAGで最新の文書を渡すか、検索機能と組み合わせない限り回答に反映されません。

判断のための5つの問い

実務では、まずプロンプト設計で試し、社内の知識が足りなければRAGを加え、それでも形式や特定タスクの精度が課題として残り、学習データを用意できる場合にファインチューニングを検討する、という順番が効率的です。

ファインチューニングの学習データの作り方

ファインチューニングを選ぶ場合、成否の大部分は学習データの質で決まります。実装の際に押さえる点は次のとおりです。

• 入力と理想的な出力の組で作る：実際の問い合わせや帳票を入力にし、担当者が「これが正解」と認める出力を対にします。
• 出力の書式を統一する：同じ種類の入力に対して、担当者ごとに書き方が違うと、モデルも揺れた出力を学習します。作成前に書式のルールを決めます。
• 評価用データを分けておく：学習に使わないデータを別に確保し、学習前後の比較に使います。
• 難しい例も含める：典型的な例だけでなく、判断が分かれやすい例や例外的な入力も含めると、本番での失敗が減ります。
• 個人情報を取り除く：学習データに氏名や連絡先が含まれていないかを確認し、必要なければ取り除きます。

量を増やすより、一貫性のあるデータをそろえる方が効果的な場合が多く、まず小さなデータで効果を測ってから追加するのが現実的です。

組み合わせる場合の構成

RAGとファインチューニングは対立するものではありません。たとえば、社内文書の検索はRAGで行い、回答を決まった書式で出力する部分や、問い合わせの分類だけをファインチューニングしたモデルに任せる、といった構成があります。

質問の種類によって処理を振り分ける構成もあります。たとえば、規程や手順を聞く質問はRAGで回答し、定型の分類や書式変換はファインチューニングした小さなモデルで処理する、といった形です。振り分け自体もAIや簡単なルールで行えます。

ただし、組み合わせるほど開発と運用の手間は増えます。ベースとなるモデルが更新されたときの再学習、検索の索引の更新、両方の評価が必要になるため、評価の結果を見ながら必要な部分だけを追加するのが現実的です。検索した情報をもとに業務システムの操作まで自動化する場合は、AIエージェントという構成も選択肢になります。

学習データに個人情報や機密情報が含まれる場合は、どの環境で学習を行い、誰がデータにアクセスするかを、社内ルールや法務部門と事前に整理しておきます。

実データで比べる手順と公開事例

どの方法が合うかは、机上で決めるより実データで比べる方が確実です。比較の手順は次のとおりです。

1. 実際の利用者がよく聞く質問と、間違えると影響が大きい質問の両方でテスト質問を作る
2. 方法ごとに、正答率、形式の遵守、応答時間、1件あたりのコストを記録する
3. 結果の差が、追加の準備作業と運用の手間に見合うかを判断する

費用はデータの状態と必要な品質によって変わります。プロンプト設計、RAG、ファインチューニングのそれぞれについて、準備・評価・運用の費用を比較します。

ベトナム・ハノイを拠点とするAI開発会社NKKTech Globalの公開事例として、米国のフィンテック企業（NDAにより社名非公開）向けのLLMによる文書処理があります。期間14週間、予算USD 85,000で、処理時間が80%短縮、精度95%、年間USD 200,000の削減効果と公開されています。この公開事例は米国企業向けの文書処理の成果を示しています。RAGとファインチューニングの選択は、対象業務のデータで別途比較して判断します。

RAGの構成例はRAG開発、顧客対応への応用はAIチャットボット開発のページで紹介しています。

よくある質問

社内のデータでAIを賢くするには、ファインチューニングが必要ですか？ 社内文書の内容に基づいて答えさせる目的であれば、多くの場合、最初はRAGを検討するのが適しています。RAGは文書の更新を反映しやすく、回答の根拠も示せます。ファインチューニングは、回答の形式や特定タスクの精度など、振る舞いを整えたいときに検討する方法です。

ファインチューニングとRAGはどちらが安いですか？ データの状態と必要な品質によって変わるため、一概には言えません。ファインチューニングは学習データの作成と再学習、RAGは文書の整理と検索の設計に手間がかかります。どちらもランニングコストが別途かかるため、試作の段階で実際の利用量をもとに比較するのが確実です。

RAGとファインチューニングは併用できますか？ 併用できます。知識の参照はRAGで行い、出力の形式や分類の精度をファインチューニングしたモデルで安定させる構成などがあります。構成が複雑になるほど開発と運用の負担が増えるため、まず片方で評価し、足りない部分だけを補うのがおすすめです。