Microsoft Copilot環境でAgentic RAGを構築する|StudioとFoundry IQの進め方【2026年9月】

【結論】Microsoft Copilot環境におけるAgentic RAGとは、Copilot StudioやMicrosoft Foundry上のエージェントが、社内ナレッジを一度きり検索するのではなく、クエリを分解・並列検索して根拠つきで回答する仕組みです。
- 従来RAGは「1クエリ→1検索→生成」。Agentic RAGはクエリ計画・並列サブクエリ・意味ランキングを挟む(出典:Azure AI Search / Microsoft Foundry の公式説明)
- 実装の置き場所は、(1) M365の宣言型エージェント+SharePoint等、(2) Copilot Studio、(3) Foundry IQ(Azure AI Search上のKnowledge Base)に分かれる
- 成否はモデルより、ナレッジ範囲・権限・評価セットの設計に左右される
この記事では、Microsoft 365/Azureを使う開発責任者・情報システム担当・PM向けに、Copilot環境でAgentic RAGを進める判断軸と構築ステップを、2026年9月時点の公開情報に基づいて解説します。
Copilot環境のAgentic RAGとは
Copilot環境のAgentic RAGとは、Microsoftのエージェント基盤(Copilot Studio、Microsoft Foundry、Azure AI Search)上で、検索をエージェントの推論タスクとして扱い、複雑な質問を複数のサブクエリに分けて並列に検索し、引用可能な根拠を返す構成です。
Microsoft Learnでは、従来のRAGが単一クエリで取得するのに対し、agentic retrieval(Agentic RAG)はクエリ計画・並列実行・構造化 grounding・セマンティックランキングを備える、と説明されています(出典:Retrieval augmented generation (RAG) and indexes in Microsoft Foundry/Agentic Retrieval Overview – Azure AI Search)。
一般論としてのRAG構築手順はRAG構築の進め方(5ステップ)にまとめています。本記事はMicrosoft製品上での置き方に絞ります。

どこに何を置くか — 3つの層
| 層 | 主な用途 | ナレッジの入り方 | 向きやすい問い |
|---|---|---|---|
| Microsoft 365 Copilot(宣言型エージェント) | 業務ユーザー向け対話 | SharePoint/OneDrive、Copilotコネクタ等(ユーザーがアクセスできる範囲) | 「このサイトの規程を根拠に答えて」 |
| Copilot Studio | ローコードの業務エージェント | ナレッジソース接続、他エージェント/ツール連携 | 定型業務+社内文書参照 |
| Microsoft Foundry + Foundry IQ(Azure AI Search) | コードファースト/深いマルチソース検索 | Knowledge Base/Knowledge Source、agentic retrieval、MCPエンドポイント | 複数資料の突き合わせ・複雑な調査 |
現場でCopilotが使われない問題の切り分けは、Microsoft 365 Copilotが現場で使われない理由を参照してください。本記事は「使われる前提のナレッジ設計」側です。
構築の進め方(6ステップ)
| ステップ | やること | 設計ポイント |
|---|---|---|
| 1. 用途と成功条件 | 答える質問の範囲、許容する誤り、人が確認する点を決める | FAQ定型なら従来型RAGで足りることが多い |
| 2. ナレッジ境界と権限 | どのサイト/索引を見せるか、誰の権限で検索するかを決める | ユーザーが読めない文書をエージェントが見ない設計にする |
| 3. 文書整備 | 旧版除去、版管理、メタデータ、SharePointの整理 | 誤回答の主因は文書と検索側になりやすい |
| 4. 索引/Knowledge Base | Azure AI Searchの索引、またはFoundry IQのKnowledge Baseを用意する | agentic retrievalはKnowledge Base+Knowledge Sourceが前提 |
| 5. エージェント接続 | 宣言型エージェント/Studio/Foundryエージェントのどれに接続するかを選ぶ | KBをMCPツールとして渡す構成もある(公式クイックスタート) |
| 6. 評価と本番観測 | 質問セットで検索・生成・権限を分けて測り、ログを残す | 根拠らしさだけの合格判定は偽陽性を生む |
ステップ1〜2: 用途と権限を先に固定する
Agentic RAGは検索回数が増えるぶん、権限設計の穴も広がります。Microsoft Learnも、取得時のアクセス制御、本番ではAPIキーよりMicrosoft Entra ID、取得文書を信頼できない入力として扱う、と注意しています。宣言型エージェントでSharePointを付ける場合、サイトURLを明示しないと「ユーザーがアクセスできる組織内の広い範囲」になる点に注意してください(出典:Add knowledge sources to a declarative agent)。
ステップ3〜4: 文書整備とKnowledge Base
Azure AI Searchのagentic retrievalは、Knowledge Baseがクエリ計画(reasoning effortに応じて)と並列検索をオーケストレーションし、Knowledge Sourceが検索対象を定義します。索引付きソースとリモートソースがあり、セマンティックランキングが内部で使われます。プレビュー機能は本番前にREST APIバージョンと可用性を確認してください(出典:Agentic Retrieval Overview)。
ステップ5: StudioとFoundryの接続
定型対話とクイック参照はCopilot Studio側、深いマルチソース検索はFoundry IQ側、という分担が現実的です。Foundry側では、Azure AI Search Context Providerで mode="agentic"(Knowledge Base)と mode="semantic"(高速ハイブリッド)を用途で切り替えられます(出典:Foundry IQ in Microsoft Agent Framework)。KBをtoolbox経由のMCPエンドポイントとしてホストエージェントに渡す手順も公式クイックスタートがあります。
エージェントが社内システムを叩く接続設計は、MCPサーバーおよびAIエージェント導入ガイドも参考にしてください。
ステップ6: 評価
Faithfulness(根拠への忠実性)だけでは足りません。古い文書、権限外、別セッションの文脈が混ざると「根拠らしく見える誤答」が残ります。評価セットに権限・鮮度・セッションを入れ、人が確認するポイント(HITL)を決めてください。評価の詳細は別記事「Agentic RAGの評価設計」で扱います。
従来型RAGとAgentic RAGの使い分け
| 観点 | 従来型(単一クエリ) | Agentic retrieval |
|---|---|---|
| 得意な問い | 単発の事実確認・FAQ | 複数条件・会話文脈・言い換えが必要な調査 |
| レイテンシ/コスト | 相対的に低い | クエリ計画と複数検索で増える |
| Foundry IQのモード例 | semantic | agentic(reasoning effortを調整) |
| 最初の一歩 | 文書整備+単一索引で評価セットを回す | 複雑な問いが残る領域だけ拡張する |
つまずきやすい点
- 権限を後回しにする: 取得時フィルタとEntra IDを最初に決める
- 文書が古い: 版管理がないとAgenticでも誤答する
- 全部をAgenticにする: FAQは単一クエリのままコストを抑える
- プレビューAPIを本番固定する: LearnのGA/preview区分と移行ガイドを確認する
- 観測がない: どのサブクエリがどのソースに飛んだかをactivityログ等で追えるようにする
業務フローと文書整備から入る場合はAI導入支援(AI BPR)、基盤実装はAIシステム/AIエージェント開発支援で支援しています。
よくある質問(FAQ)
Q1. Copilot環境のAgentic RAGとは何ですか?
Copilot StudioやMicrosoft Foundry上で、エージェントが社内ナレッジをクエリ計画・並列検索して根拠つきで回答する構成です。Azure AI Searchのagentic retrievalが中核になります。
Q2. 従来のRAGと何が違いますか?
従来は1回の検索が中心です。Agentic RAGは複雑な問いをサブクエリに分け、並列検索とランキングを行い、引用しやすい形で grounding を返します。
Q3. Copilot Studioだけで十分ですか?
定型業務と限定ナレッジならStudioで足りることが多いです。複数ソースの深い調査や再利用可能なKnowledge Baseが必要ならFoundry IQ側を検討します。
Q4. Foundry IQとは何ですか?
Microsoftのエージェント向け知識レイヤで、Azure AI Search上にKnowledge Baseを置き、agentic retrievalで検索を推論タスクとして扱います。詳細は「Foundry IQとは」の記事で解説します。
Q5. SharePointをナレッジにするときの注意は?
宣言型エージェントでは、対象サイトを明示しないとユーザーがアクセスできる広い範囲が対象になり得ます。見せてよい範囲をURL等で限定し、権限を確認してください。
Q6. 最初にやるべきことは何ですか?
答える質問の範囲と権限境界を決め、文書の旧版を整理することです。索引やAgentic機能より先に評価用の質問セットを用意します。
Q7. 料金はどう考えればよいですか?
Agentic retrievalは検索トークンと、クエリ計画に使うモデルのトークンが別途かかると公式が説明しています。単価は公式の料金ページとリージョンで確認してください。
Q8. MCPとの関係は?
Knowledge BaseをMCPエンドポイントとして公開し、エージェントがツールとして呼び出す構成が公式クイックスタートにあります。社内システム接続の一般論はMCP記事群を参照してください。
Q9. x3dに相談できますか?
できます。武石幸之助は2017年から対面で1,800社超・受講者5,000名超にAI導入支援を実施しています(認定講師分・オンラインは含まない)。Copilot/Foundry上の設計から文書整備、内製化まで支援します。
参考文献・出典
- Microsoft Learn「Retrieval augmented generation (RAG) and indexes in Microsoft Foundry」
- Microsoft Learn「Agentic Retrieval Overview – Azure AI Search」
- Microsoft Foundry Blog「Foundry IQ in Microsoft Agent Framework」
- Microsoft Learn「Add knowledge sources to a declarative agent」
- Microsoft Learn「Add a Foundry IQ knowledge base to a hosted agent with a toolbox」
本記事は2026年9月時点の公開情報に基づいています。プレビュー機能・料金・リージョンは変化するため、最新は各公式ドキュメントをご確認ください。
x3d株式会社では、本記事で解説したMicrosoft Copilot環境でのAgentic RAG構築・運用に関する企業研修・導入支援・システム開発を提供しています。
まずはお気軽にご相談ください。
