3Dシーンを準備しています…
RAG / GRAPHITE — DATA FLOW
RAGは、質問に資料を添える。
質問を残したまま検索し、見つけた文書と一緒にLLMへ渡す。
質問
str
→検索
Retriever
→取得した文書
list[Document]
→プロンプト
messages
→LLM
AIMessage
→回答
str
RAG
質問に、 資料を添える。
全体像
検索した文書を、質問と一緒にプロンプトへ。
QUESTION
知りたいことを、 質問する。
str
"製品Aの保証期間は?"
RETRIEVAL
質問を手がかりに、 関連文書を探す。
Retriever.invoke(question)
検索する質問
製品Aの保証期間は?
D1 保証期間
D2 保証手続き
D3 製品Bの配送
DOCUMENTS
関連する文書を、 2件取り出す。
list[Document]
資料1
製品Aの保証期間は購入日から2年間です。
資料2
製品Aの保証を受けるには購入証明書が必要です。
KEEP THE QUESTION
元の質問を、 プロンプトに残す。
question
製品Aの保証期間は?
元の質問 → {question}
CONTEXT
検索文書も、 プロンプトへ。
context:文書本文を連結
資料1
製品Aの保証期間は購入日から2年間です。
資料2
製品Aの保証を受けるには購入証明書が必要です。
PROMPT
質問と資料が、 ひとつの依頼に。
プロンプトの要点
question
製品Aの保証期間は?
context
[1] 保証:購入日から2年間。
[2] 購入証明書が必要。
[2] 購入証明書が必要。
LLM INPUT
質問と参考情報を、 LLMへ渡す。
ChatPromptValue → messages
system
参考情報だけを使い、日本語で簡潔に回答してください。
human
質問と参考情報を組み込んだ依頼。
ANSWER
参考情報に沿って、 回答が返る。
AIMessage → str
製品Aの保証期間は購入日から2年間です。[資料1]
根拠:資料1
RESULT
回答は、 購入日から2年間。
str
製品Aの保証期間は購入日から2年間です。[資料1]
検索 → 質問+参考情報 → 回答
架空FAQのローカル検索。LLM応答は固定サンプル。立体と時間は説明用です。
停止・速度変更・場面送りができます。「視点を動かす」をオンにしてドラッグすると、別の角度から確認できます。スマートフォンでは横向き・全画面を推奨。
青の「質問」と緑の「文書」が、別々の経路からプロンプトへ入ります。元の質問を残し、検索文書の本文を参考情報として加えるRAGの例です。
架空のFAQをローカルのキーワード検索で取得し、LangChain Core 1.7.6でプロンプトの組み立てまで実行確認しました。LLMの回答は固定サンプルです。プロンプトの3D表示は要点を抜粋しています。
/