知識問題をLLMの知識で答えるのではなく、外部のデータソース(例えばネット検索結果)から答えさせることでhallucinationを防ぐ技術。
主要なサーベイ¶
パラダイムの変遷¶
RAG研究の大きな流れとしては
検索して、その結果をプロンプトに入れて生成するだけの 固定パイプライン(Naive RAG)
パイプラインの各段を改良する Advanced RAG、部品を組み替え可能にする Modular RAG
LLM自身がいつ・何を検索するかを決め、推論と検索を交互に繰り返す Agentic RAG / Deep Research
と進んできており、並行して知識の表現(グラフ・マルチモーダル)、評価、頑健性の研究が広がっている(Gao et al., 2023)。
Naive RAG¶
「インデックス作成 → 検索 → 生成」の一方向のパイプライン。
問題点:
検索の質が低い(関係ないchunkが混ざる、必要なchunkを取りこぼす)
取ってきた情報を生成でうまく使えない(無視する、矛盾する情報に引きずられる)
複数の情報を組み合わせる必要がある質問(multi-hop QA)に弱い
Advanced RAG¶
検索の前後に処理を追加して改良する。
Pre-retrieval:インデックスの改良(chunking、メタデータ付与)、クエリの改良(書き換え、HyDE、分解)
Post-retrieval:reranking、コンテキストの圧縮・フィルタリング
Modular RAG¶
検索・rerank・書き換え・ルーティング・記憶などを部品として扱い、タスクに応じて組み替える。検索と生成を1回ずつではなく、
Iterative:検索と生成を交互に繰り返す(例:IRCoT はChain-of-Thoughtの1ステップごとに検索する)
Recursive:質問を分解して再帰的に検索する
Adaptive:検索が必要かどうかをモデルが判断する(例:FLARE は生成中に確信度が低いトークンが出たら検索する)
といったフローが提案された。これがAgentic RAGにつながる。
研究の軸¶
Sharma (2025) はRAGの改良を、どこに手を入れるかで次の4つに分類している。
| 分類 | 改良の対象 | 例 |
|---|---|---|
| Retriever-centric | 検索の質 | hybrid search、dense retrieverの学習、クエリ書き換え |
| Generator-centric | 取ってきた情報の使い方 | コンテキスト圧縮、検索結果に基づく生成への学習 |
| Hybrid | 検索と生成の連携 | 検索器と生成器の同時学習、反復的な検索 |
| Robustness-oriented | ノイズ・攻撃への耐性 | 無関係・誤った文書への耐性、敵対的攻撃への防御 |
検索器と生成器の学習¶
初期の研究では、検索器と生成器を一緒に学習する方向が主流だった。
Lewis et al. (2020):元祖RAG。DPR(検索器)とBART(生成器)をend-to-endで学習
RETRO (Borgeaud et al., 2021):事前学習の段階から検索を組み込む
Atlas (Izacard et al., 2022):少数ショットでの検索拡張言語モデル
LLMが大きくなりAPI経由で使うのが主流になると、LLMは固定して周辺だけ調整する方向が増えた。
REPLUG (Shi et al., 2023):LLMをブラックボックスとして扱い、LLMの出力をもとに検索器だけを学習する
RA-DIT (Lin et al., 2023):検索結果を使うようにLLMをinstruction tuningする
RAGと推論の統合(Deep Research)¶
2025年以降、推論モデル(o1、DeepSeek-R1など)の登場によって最も活発になっている領域。
Li et al. (2025) はこれを3つに整理している。
| 分類 | 内容 |
|---|---|
| Reasoning-enhanced RAG | 推論によってRAGの各段(クエリ作成、検索結果の評価、統合)を改良する |
| RAG-enhanced reasoning | 検索で推論に足りない前提知識を補う |
| Synergized RAG-reasoning | エージェント的なLLMが推論と検索を交互に繰り返す |
最後のSynergized型の代表が、強化学習で検索の使い方を学習させる手法。
Search-R1 (Jin et al., 2025):推論の途中で検索クエリを発行し、検索結果を受け取って推論を続けるという軌跡を、最終回答の正誤だけを報酬とする強化学習で学習する。検索結果のトークンは損失計算から除外(mask)する
R1-Searcher (Song et al., 2025)、DeepResearcher (Zheng et al., 2025) など多数の後続研究がある
OpenAI・Google・AnthropicなどのDeep Research機能はこの方向の製品化にあたる。人間が組んだパイプライン(どう検索するか)から、学習されたポリシー(どう検索するかをモデルが決める)への移行と見ることができる。
知識の表現¶
GraphRAG¶
chunkの集合ではなく、エンティティと関係のグラフとして知識を持つ。Peng et al. (2024) は
Graph-based indexing:文書からグラフを作る
Graph-guided retrieval:グラフ上の探索で情報を取る
Graph-enhanced generation:関係の情報を使って生成する
の3段階に整理している。
Microsoft GraphRAG (Edge et al., 2024):LLMで知識グラフを作り、コミュニティ検出でクラスタに分けて各クラスタの要約を作る。「このデータセット全体の主なテーマは?」のような、特定のchunkには答えがない大域的な質問(query-focused summarization)に強い
LightRAG (Guo et al., 2024):グラフとベクトル検索を組み合わせた軽量版
HippoRAG (Gutiérrez et al., 2024):海馬の記憶索引理論に着想を得て、知識グラフ上でPersonalized PageRankを使って検索する
PageIndex の木構造インデックスも、構造化された知識表現の一種と見ることができる。
マルチモーダルRAG¶
テキスト以外(画像・表・図・音声・動画)を検索・生成に使う。
特に実務で重要なのが、PDFなどの文書をOCRやパースせずに ページ画像のまま 検索する手法。ColPali (Faysse et al., 2024) はVision Language Modelでページ画像を埋め込み、ColBERT型のlate interactionで検索する。図表やレイアウトの情報を失わずに済む。
