Skip to article frontmatterSkip to article content
Site not loading correctly?

This may be due to an incorrect BASE_URL configuration. See the MyST Documentation for reference.

RAGとは

知識問題をLLMの知識で答えるのではなく、外部のデータソース(例えばネット検索結果)から答えさせることでhallucinationを防ぐ技術。

パラダイムの変遷

RAG研究の大きな流れとしては

  1. 検索して、その結果をプロンプトに入れて生成するだけの 固定パイプライン(Naive RAG)

  2. パイプラインの各段を改良する Advanced RAG、部品を組み替え可能にする Modular RAG

  3. LLM自身がいつ・何を検索するかを決め、推論と検索を交互に繰り返す Agentic RAG / Deep Research

と進んできており、並行して知識の表現(グラフ・マルチモーダル)、評価、頑健性の研究が広がっている(Gao et al., 2023)。

Naive RAG

「インデックス作成 → 検索 → 生成」の一方向のパイプライン。

問題点:

  • 検索の質が低い(関係ないchunkが混ざる、必要なchunkを取りこぼす)

  • 取ってきた情報を生成でうまく使えない(無視する、矛盾する情報に引きずられる)

  • 複数の情報を組み合わせる必要がある質問(multi-hop QA)に弱い

Advanced RAG

検索の前後に処理を追加して改良する。

  • Pre-retrieval:インデックスの改良(chunking、メタデータ付与)、クエリの改良(書き換え、HyDE、分解)

  • Post-retrieval:reranking、コンテキストの圧縮・フィルタリング

Modular RAG

検索・rerank・書き換え・ルーティング・記憶などを部品として扱い、タスクに応じて組み替える。検索と生成を1回ずつではなく、

  • Iterative:検索と生成を交互に繰り返す(例:IRCoT はChain-of-Thoughtの1ステップごとに検索する)

  • Recursive:質問を分解して再帰的に検索する

  • Adaptive:検索が必要かどうかをモデルが判断する(例:FLARE は生成中に確信度が低いトークンが出たら検索する)

といったフローが提案された。これがAgentic RAGにつながる。

研究の軸

Sharma (2025) はRAGの改良を、どこに手を入れるかで次の4つに分類している。

分類改良の対象例
Retriever-centric検索の質hybrid search、dense retrieverの学習、クエリ書き換え
Generator-centric取ってきた情報の使い方コンテキスト圧縮、検索結果に基づく生成への学習
Hybrid検索と生成の連携検索器と生成器の同時学習、反復的な検索
Robustness-orientedノイズ・攻撃への耐性無関係・誤った文書への耐性、敵対的攻撃への防御

検索器と生成器の学習

初期の研究では、検索器と生成器を一緒に学習する方向が主流だった。

LLMが大きくなりAPI経由で使うのが主流になると、LLMは固定して周辺だけ調整する方向が増えた。

RAGと推論の統合(Deep Research)

2025年以降、推論モデル(o1、DeepSeek-R1など)の登場によって最も活発になっている領域。

Li et al. (2025) はこれを3つに整理している。

分類内容
Reasoning-enhanced RAG推論によってRAGの各段(クエリ作成、検索結果の評価、統合)を改良する
RAG-enhanced reasoning検索で推論に足りない前提知識を補う
Synergized RAG-reasoningエージェント的なLLMが推論と検索を交互に繰り返す

最後のSynergized型の代表が、強化学習で検索の使い方を学習させる手法。

OpenAI・Google・AnthropicなどのDeep Research機能はこの方向の製品化にあたる。人間が組んだパイプライン(どう検索するか)から、学習されたポリシー(どう検索するかをモデルが決める)への移行と見ることができる。

知識の表現

GraphRAG

chunkの集合ではなく、エンティティと関係のグラフとして知識を持つ。Peng et al. (2024) は

  1. Graph-based indexing:文書からグラフを作る

  2. Graph-guided retrieval:グラフ上の探索で情報を取る

  3. Graph-enhanced generation:関係の情報を使って生成する

の3段階に整理している。

  • Microsoft GraphRAG (Edge et al., 2024):LLMで知識グラフを作り、コミュニティ検出でクラスタに分けて各クラスタの要約を作る。「このデータセット全体の主なテーマは?」のような、特定のchunkには答えがない大域的な質問(query-focused summarization)に強い

  • LightRAG (Guo et al., 2024):グラフとベクトル検索を組み合わせた軽量版

  • HippoRAG (Gutiérrez et al., 2024):海馬の記憶索引理論に着想を得て、知識グラフ上でPersonalized PageRankを使って検索する

PageIndex の木構造インデックスも、構造化された知識表現の一種と見ることができる。

マルチモーダルRAG

テキスト以外(画像・表・図・音声・動画)を検索・生成に使う。

特に実務で重要なのが、PDFなどの文書をOCRやパースせずに ページ画像のまま 検索する手法。ColPali (Faysse et al., 2024) はVision Language Modelでページ画像を埋め込み、ColBERT型のlate interactionで検索する。図表やレイアウトの情報を失わずに済む。