3Dシーンを準備しています…
RAG / GRAPHITE — DATA FLOW

RAGは、質問に資料を添える。

質問を残したまま検索し、見つけた文書と一緒にLLMへ渡す。

質問
str
→
検索
Retriever
→
取得した文書
list[Document]
→
プロンプト
messages
→
LLM
AIMessage
→
回答
str

RAG

質問に、 資料を添える。

全体像

検索した文書を、質問と一緒にプロンプトへ。

QUESTION

知りたいことを、 質問する。

str
"製品Aの保証期間は?"

RETRIEVAL

質問を手がかりに、 関連文書を探す。

Retriever.invoke(question)
検索する質問
製品Aの保証期間は?
D1 保証期間
D2 保証手続き
D3 製品Bの配送

DOCUMENTS

関連する文書を、 2件取り出す。

list[Document]
資料1
製品Aの保証期間は購入日から2年間です。
資料2
製品Aの保証を受けるには購入証明書が必要です。

KEEP THE QUESTION

元の質問を、 プロンプトに残す。

question
製品Aの保証期間は?
元の質問 → {question}

CONTEXT

検索文書も、 プロンプトへ。

context:文書本文を連結
資料1
製品Aの保証期間は購入日から2年間です。
資料2
製品Aの保証を受けるには購入証明書が必要です。

PROMPT

質問と資料が、 ひとつの依頼に。

プロンプトの要点
question
製品Aの保証期間は?
context
[1] 保証:購入日から2年間。
[2] 購入証明書が必要。

LLM INPUT

質問と参考情報を、 LLMへ渡す。

ChatPromptValue → messages
system
参考情報だけを使い、日本語で簡潔に回答してください。
human
質問と参考情報を組み込んだ依頼。

ANSWER

参考情報に沿って、 回答が返る。

AIMessage → str
製品Aの保証期間は購入日から2年間です。[資料1]
根拠:資料1

RESULT

回答は、 購入日から2年間。

str
製品Aの保証期間は購入日から2年間です。[資料1]
検索 → 質問+参考情報 → 回答
架空FAQのローカル検索。LLM応答は固定サンプル。立体と時間は説明用です。

停止・速度変更・場面送りができます。「視点を動かす」をオンにしてドラッグすると、別の角度から確認できます。スマートフォンでは横向き・全画面を推奨。

青の「質問」と緑の「文書」が、別々の経路からプロンプトへ入ります。元の質問を残し、検索文書の本文を参考情報として加えるRAGの例です。

架空のFAQをローカルのキーワード検索で取得し、LangChain Core 1.7.6でプロンプトの組み立てまで実行確認しました。LLMの回答は固定サンプルです。プロンプトの3D表示は要点を抜粋しています。

/