RAGとは何かを踏まえた構築の進め方｜5ステップとAgentic RAG最新動向【2026年7月】

執筆: 武石幸之助（x3d株式会社代表取締役）
公開日: 2026年7月21日

【結論】RAG構築とは、社内文書などの情報源をAIが検索して回答に使える仕組みを作ることです。

構築は「データ整備 → チャンキング → 埋め込み → 検索 → 評価」の5ステップで進める
キヤノンITソリューションズの社内検証（228件評価）では、誤回答の原因の88%が文書と検索側にあり、生成AI自体の問題は12%だった
2026年7月時点では、AIが検索を自律的に繰り返す「Agentic RAG」への発展が進んでいる

この記事では、社内ナレッジ活用やAI内製化を検討する開発責任者・情報システム担当・PM向けに、RAGの仕組みのおさらいから構築5ステップ、最新動向、企業導入でつまずくポイントまでを解説します。

RAG構築とは — 仕組みのおさらい

RAG構築とは、RAG（検索拡張生成、Retrieval-Augmented Generation）の仕組み、すなわちAIが外部の情報源から関連情報を検索し、その内容を根拠に回答を生成するシステムを設計・実装することです。

RAGは「検索（Retrieval）→ 拡張（Augmentation）→ 生成（Generation）」の3段階で動きます。ユーザーの質問に対して関連文書を検索し、検索結果をプロンプトに組み込んで（拡張）、LLM（大規模言語モデル）がその根拠をもとに回答を生成する流れです。RAGの定義・メリット・活用例の基礎はRAGとは？仕組み・活用例をわかりやすく解説で詳しく解説しているため、本記事は「どう作るか」に集中します。

x3d株式会社（クロスサード）のAIエンジニアリング4層理論（プロンプト → コンテキスト → ハーネス → ループ）の視点では、RAGは第2層「コンテキスト」の代表的な実装です。AIに必要な情報を、必要なときに、最小限で渡す仕組みであり、コンテキスト設計の巧拙がそのまま回答品質になります。コンテキスト設計の全体像はコンテキストエンジニアリングとはをあわせてお読みください。

RAGとファインチューニングの違い

自社データをAIに反映させる方法として、RAGとファインチューニング（追加学習）は目的が異なります。RAGは「知識の参照」、ファインチューニングは「振る舞いの調整」が得意で、併用も可能です。構築を始める前に、解きたい課題がどちらに向くかを確認してください。

観点	RAG	ファインチューニング
知識の更新	情報源を差し替えれば即反映	再学習が必要
出典の提示	参照元を示しやすい	示しにくい
得意なこと	社内知識・最新情報の参照	文体・形式・専門的な振る舞いの調整
初期コスト	検索基盤の構築が中心	学習データ整備と学習の実行
向くケース	社内ナレッジ検索・問い合わせ対応	出力フォーマットの厳密な統一など

RAG構築の5ステップ

RAG構築は「データ整備 → チャンキング → 埋め込み → 検索 → 評価」の5ステップで進めます。各ステップの内容と設計ポイントは次のとおりです。

ステップ	やること	設計ポイント
1. データ整備	対象文書の棚卸し・重複や旧版の除去・構造化	最新版管理と、部署・日付などのメタデータ付与を初期から設計する
2. チャンキング	文書を検索単位（チャンク）に分割	サイズとオーバーラップ（重複部分）の調整で精度が大きく変わる
3. 埋め込み	チャンクを数値ベクトルに変換しベクトルデータベースに格納	埋め込みモデルの日本語性能と、ベクトルDBの運用形態を確認する
4. 検索	質問に関連するチャンクを取得しLLMに渡す	ベクトル検索＋キーワード検索のハイブリッド化、リランキングで精度を高める
5. 評価	回答品質を定量評価し改善サイクルを回す	検索精度と生成品質を分けて測り、失敗箇所を特定する

ステップ1: データ整備 — 成否の最大要因

最初に行うのは、検索対象データの棚卸しです。同じ文書の「最新版」「最終版」が混在していたり、古いマニュアルが残っていたりすると、AIはどれを正として扱うべきか判断できません。不要ファイルの削除、バージョン管理の徹底、作成日・部署・版数などのメタデータ付与を、構築の初期段階で要件に組み込みます。x3dの支援現場でも、RAGの成否はモデル選びよりデータ整備に左右されます。

ステップ2: チャンキング — 検索単位の設計

チャンキングとは、文書を検索しやすい大きさに分割する処理です。チャンクが小さすぎると文脈が欠落し、大きすぎると無関係な情報が混ざって回答品質が下がります。意味の切れ目（見出し・段落）で分割し、チャンク間にオーバーラップを設けて境界をまたぐ情報の欠落を防ぐのが基本です。表や図の扱いも含め、文書の種類ごとに分割方針を決めます。

ステップ3: 埋め込み — ベクトル化と格納

埋め込み（エンベディング）とは、テキストを意味を表す数値ベクトルに変換する処理です。変換したベクトルはベクトルデータベース（pgvector・Qdrant・Pineconeなど）に格納し、意味の近さで検索できるようにします。既存インフラにPostgreSQLがあればpgvector、大規模・本番運用ではマネージドサービスという選び方が一般的です（2026年7月時点）。

ステップ4: 検索 — ハイブリッド検索とリランキング

ベクトル検索だけでは、型番・固有名詞・コード片のような「文字列そのもの」の検索に弱いという弱点があります。そこでキーワード検索（BM25）を併用するハイブリッド検索が2026年時点の定番構成です。さらに、検索した候補を別モデルで並べ替えるリランキングを後段に置き、本当に関連する数件だけをLLMに渡すことで精度を高めます。

ステップ5: 評価 — 測れないものは改善できない

構築後は、Ragasなどの評価フレームワークで回答品質を定量評価します。代表的な指標は、回答が検索した根拠に忠実かを測るFaithfulness（忠実性）と、回答が質問に応えているかを測るAnswer Relevancy（回答関連性）です。検索側の指標（Context Precision / Context Recall）と生成側の指標を分けて測ることで、「どの工程で失敗しているか」を特定できます（出典：Ragas公式ドキュメント）。

2026年の最新動向 — Agentic RAGへの発展

Agentic RAGとは、AIエージェントが検索の要否や検索戦略を自律的に判断し、計画・検索・評価・再検索を繰り返してから回答を生成する発展型のRAGです。従来のRAGが「1回検索して1回生成する」固定的なパイプラインであるのに対し、Agentic RAGは情報が足りなければクエリを変えて再検索し、複数の情報源を横断できます（2026年7月時点の動向）。

ただし、検索回数が増えるぶんコストと応答時間は増加します。社内FAQのような定型用途は従来型RAGで十分であり、複数資料の突き合わせや多段階の調査が必要な領域からAgentic RAGを検討するのが現実的な使い分けです。エージェント設計の基礎はAIエージェントとは？仕組み・種類・活用領域も参考にしてください。

企業導入でつまずくポイント — 原因の88%は文書と検索

RAG導入の失敗要因は、LLMの性能不足ではないことがデータで示されています。キヤノンITソリューションズが自社の社員向けサポートセンターで実施したRAG試験運用では、228件の問い合わせを評価した結果、「Good」評価は全体の約3分の1にとどまりました。「Bad」評価の原因内訳は、文書の不備や不足が46%、検索精度の低さが42%、生成AIの精度が12%です（出典：キヤノンITソリューションズテクニカルレポート）。つまり誤回答の約88%は、モデルではなく文書と検索の側に原因がありました。

x3dの支援現場でも共通するつまずきは次のとおりです。

目的が曖昧なままPoCを始める: 何の質問に答えるシステムかを定義せずに作り、評価できない
文書の鮮度管理がない: 構築時は動いても、文書更新の運用がなく数ヶ月で陳腐化する
権限設計が後回し: 部署・役職ごとのアクセス制御を後から入れようとして手戻りする
出典を示さない: 根拠が見えない回答は現場に信用されず、利用が定着しない

いずれも「作って終わり」ではなく、データと検索基盤を継続的に運用する体制の問題です。業務フローの整理からデータ整備までを含めた導入は、x3dのAI導入支援（AI BPR）で支援しています。

RAGは「作る」より「回し続ける」 — RAGOpsという職能

RAG構築の本当の難所は、初期構築後の運用です。文書の更新反映、検索精度の監視、コスト管理、セキュリティ・権限の維持、評価サイクルの継続——これらを担う実務は「RAGOps」と呼ばれ、社内知識をAIで活用するデータ運用・管理を担う職能として確立しつつあります。

x3dのAI時代のエンジニア・PM育成研修では、職能別マスタープログラムの1つとして「RAGOps／運用保守マスター」を提供しています。社内知識をAIが正しく引けるRAG基盤の構築から、観測・コスト・セキュリティ・品質まで、AIシステムを本番で回し続ける力を体系的に習得するプログラムです。全職能共通の土台「AIエンジニアリング・ファンデーション」で4層理論を習得した上で受講する設計になっています。

よくある質問（FAQ）

Q1. RAG構築とは何ですか？

RAG構築とは、AIが社内文書などの外部情報源を検索し、その内容を根拠に回答を生成する仕組み（RAG）を設計・実装することです。データ整備・チャンキング・埋め込み・検索・評価の5ステップで進めます。

Q2. RAG構築で最初にやるべきことは何ですか？

検索対象データの整備です。重複・旧版の除去、バージョン管理、メタデータ付与を先に行います。キヤノンITソリューションズの検証でも、誤回答の原因の46%は文書の不備・不足でした。

Q3. チャンキングとは何ですか？

チャンキングとは、文書を検索しやすい単位（チャンク）に分割する処理です。小さすぎると文脈が欠落し、大きすぎるとノイズが混ざるため、意味の切れ目で分割しオーバーラップを設けるのが基本です。

Q4. ハイブリッド検索とは何ですか？

意味の近さで探すベクトル検索と、キーワードで探す全文検索（BM25）を組み合わせる検索方式です。型番や固有名詞の検索漏れを防げるため、2026年時点のRAG構築では定番の構成です。

Q5. RAGの精度はどう評価すればよいですか？

Ragasなどの評価フレームワークで、回答が根拠に忠実かを測るFaithfulnessと、質問に応えているかを測るAnswer Relevancyなどを定量評価します。検索側と生成側の指標を分けて測ると失敗箇所を特定できます。

Q6. Agentic RAGとは何ですか？

AIエージェントが検索の要否や戦略を自律的に判断し、計画・検索・評価・再検索を繰り返す発展型のRAGです。複雑な調査に強い一方でコストと応答時間が増えるため、用途に応じて従来型RAGと使い分けます。

Q7. RAGとファインチューニングはどちらを選ぶべきですか？

社内知識や最新情報を参照させたい場合はRAG、文体や出力形式など振る舞いを調整したい場合はファインチューニングが向きます。両者は排他的ではなく併用も可能です。

Q8. x3dにRAG構築や運用人材の育成を相談できますか？

できます。x3dは2017年から1,700社超・受講者5,000名超にAI研修・導入支援を提供しています。RAG基盤の構築・運用を担う人材育成は「RAGOps／運用保守マスター」、業務への実装はAI導入支援（AI BPR）で支援します。

参考文献・出典

本記事は2026年7月時点の公開情報に基づいています。実装技術やツールの仕様は変化するため、最新情報は各公式ドキュメントをご確認ください。

武石幸之助（たけいしこうのすけ）
x3d株式会社（クロスサード）代表取締役。15年以上にわたるDX支援の経験を経て、AI教育・組織開発の領域に活動の中心を移す。2017年からのAI導入支援で累計1,700社超の法人・5,000名超の受講者にAI研修・組織導入支援を提供。「AIエンジニアリング4層理論」「組織AI教育3軸理論」を提唱し、日本企業のAI化を推進している。

x3d株式会社では、本記事で解説したRAG構築・運用に関する企業研修・導入支援を提供しています。
「社内データを安全にAIへ活用したい」方は、まずはお気軽にご相談ください。

→ 無料相談・お問い合わせはこちら