x3d CROSS THIRD
x3d AIX 総合研究所 トップへ戻る

Microsoft Copilot環境でAgentic RAGを構築する|StudioとFoundry IQの進め方【2026年9月】

9分で読めます執筆:(CTO / 主席研究員(テクニカルフェロー))
Microsoft Copilot環境でAgentic RAGを構築する|StudioとFoundry IQの進め方【2026年9月】

【結論】Microsoft Copilot環境におけるAgentic RAGとは、Copilot StudioやMicrosoft Foundry上のエージェントが、社内ナレッジを一度きり検索するのではなく、クエリを分解・並列検索して根拠つきで回答する仕組みです。

  • 従来RAGは「1クエリ→1検索→生成」。Agentic RAGはクエリ計画・並列サブクエリ・意味ランキングを挟む(出典:Azure AI Search / Microsoft Foundry の公式説明)
  • 実装の置き場所は、(1) M365の宣言型エージェント+SharePoint等、(2) Copilot Studio、(3) Foundry IQ(Azure AI Search上のKnowledge Base)に分かれる
  • 成否はモデルより、ナレッジ範囲・権限・評価セットの設計に左右される

この記事では、Microsoft 365/Azureを使う開発責任者・情報システム担当・PM向けに、Copilot環境でAgentic RAGを進める判断軸と構築ステップを、2026年9月時点の公開情報に基づいて解説します。


Copilot環境のAgentic RAGとは

Copilot環境のAgentic RAGとは、Microsoftのエージェント基盤(Copilot Studio、Microsoft Foundry、Azure AI Search)上で、検索をエージェントの推論タスクとして扱い、複雑な質問を複数のサブクエリに分けて並列に検索し、引用可能な根拠を返す構成です。

Microsoft Learnでは、従来のRAGが単一クエリで取得するのに対し、agentic retrieval(Agentic RAG)はクエリ計画・並列実行・構造化 grounding・セマンティックランキングを備える、と説明されています(出典:Retrieval augmented generation (RAG) and indexes in Microsoft Foundry/Agentic Retrieval Overview – Azure AI Search)。

一般論としてのRAG構築手順はRAG構築の進め方(5ステップ)にまとめています。本記事はMicrosoft製品上での置き方に絞ります。

Copilot環境の3層:M365宣言型、Studio、Foundry IQ
Copilot環境の3層:M365宣言型、Studio、Foundry IQ

どこに何を置くか — 3つの層

層 主な用途 ナレッジの入り方 向きやすい問い
Microsoft 365 Copilot(宣言型エージェント) 業務ユーザー向け対話 SharePoint/OneDrive、Copilotコネクタ等(ユーザーがアクセスできる範囲) 「このサイトの規程を根拠に答えて」
Copilot Studio ローコードの業務エージェント ナレッジソース接続、他エージェント/ツール連携 定型業務+社内文書参照
Microsoft Foundry + Foundry IQ(Azure AI Search) コードファースト/深いマルチソース検索 Knowledge Base/Knowledge Source、agentic retrieval、MCPエンドポイント 複数資料の突き合わせ・複雑な調査

現場でCopilotが使われない問題の切り分けは、Microsoft 365 Copilotが現場で使われない理由を参照してください。本記事は「使われる前提のナレッジ設計」側です。

構築の進め方(6ステップ)

ステップ やること 設計ポイント
1. 用途と成功条件 答える質問の範囲、許容する誤り、人が確認する点を決める FAQ定型なら従来型RAGで足りることが多い
2. ナレッジ境界と権限 どのサイト/索引を見せるか、誰の権限で検索するかを決める ユーザーが読めない文書をエージェントが見ない設計にする
3. 文書整備 旧版除去、版管理、メタデータ、SharePointの整理 誤回答の主因は文書と検索側になりやすい
4. 索引/Knowledge Base Azure AI Searchの索引、またはFoundry IQのKnowledge Baseを用意する agentic retrievalはKnowledge Base+Knowledge Sourceが前提
5. エージェント接続 宣言型エージェント/Studio/Foundryエージェントのどれに接続するかを選ぶ KBをMCPツールとして渡す構成もある(公式クイックスタート)
6. 評価と本番観測 質問セットで検索・生成・権限を分けて測り、ログを残す 根拠らしさだけの合格判定は偽陽性を生む

ステップ1〜2: 用途と権限を先に固定する

Agentic RAGは検索回数が増えるぶん、権限設計の穴も広がります。Microsoft Learnも、取得時のアクセス制御、本番ではAPIキーよりMicrosoft Entra ID、取得文書を信頼できない入力として扱う、と注意しています。宣言型エージェントでSharePointを付ける場合、サイトURLを明示しないと「ユーザーがアクセスできる組織内の広い範囲」になる点に注意してください(出典:Add knowledge sources to a declarative agent)。

ステップ3〜4: 文書整備とKnowledge Base

Azure AI Searchのagentic retrievalは、Knowledge Baseがクエリ計画(reasoning effortに応じて)と並列検索をオーケストレーションし、Knowledge Sourceが検索対象を定義します。索引付きソースとリモートソースがあり、セマンティックランキングが内部で使われます。プレビュー機能は本番前にREST APIバージョンと可用性を確認してください(出典:Agentic Retrieval Overview)。

ステップ5: StudioとFoundryの接続

定型対話とクイック参照はCopilot Studio側、深いマルチソース検索はFoundry IQ側、という分担が現実的です。Foundry側では、Azure AI Search Context Providerで mode="agentic"(Knowledge Base)と mode="semantic"(高速ハイブリッド)を用途で切り替えられます(出典:Foundry IQ in Microsoft Agent Framework)。KBをtoolbox経由のMCPエンドポイントとしてホストエージェントに渡す手順も公式クイックスタートがあります。

エージェントが社内システムを叩く接続設計は、MCPサーバーおよびAIエージェント導入ガイドも参考にしてください。

ステップ6: 評価

Faithfulness(根拠への忠実性)だけでは足りません。古い文書、権限外、別セッションの文脈が混ざると「根拠らしく見える誤答」が残ります。評価セットに権限・鮮度・セッションを入れ、人が確認するポイント(HITL)を決めてください。評価の詳細は別記事「Agentic RAGの評価設計」で扱います。

従来型RAGとAgentic RAGの使い分け

観点 従来型(単一クエリ) Agentic retrieval
得意な問い 単発の事実確認・FAQ 複数条件・会話文脈・言い換えが必要な調査
レイテンシ/コスト 相対的に低い クエリ計画と複数検索で増える
Foundry IQのモード例 semantic agentic(reasoning effortを調整)
最初の一歩 文書整備+単一索引で評価セットを回す 複雑な問いが残る領域だけ拡張する

つまずきやすい点

  • 権限を後回しにする: 取得時フィルタとEntra IDを最初に決める
  • 文書が古い: 版管理がないとAgenticでも誤答する
  • 全部をAgenticにする: FAQは単一クエリのままコストを抑える
  • プレビューAPIを本番固定する: LearnのGA/preview区分と移行ガイドを確認する
  • 観測がない: どのサブクエリがどのソースに飛んだかをactivityログ等で追えるようにする

業務フローと文書整備から入る場合はAI導入支援(AI BPR)、基盤実装はAIシステム/AIエージェント開発支援で支援しています。


よくある質問(FAQ)

Q1. Copilot環境のAgentic RAGとは何ですか?

Copilot StudioやMicrosoft Foundry上で、エージェントが社内ナレッジをクエリ計画・並列検索して根拠つきで回答する構成です。Azure AI Searchのagentic retrievalが中核になります。

Q2. 従来のRAGと何が違いますか?

従来は1回の検索が中心です。Agentic RAGは複雑な問いをサブクエリに分け、並列検索とランキングを行い、引用しやすい形で grounding を返します。

Q3. Copilot Studioだけで十分ですか?

定型業務と限定ナレッジならStudioで足りることが多いです。複数ソースの深い調査や再利用可能なKnowledge Baseが必要ならFoundry IQ側を検討します。

Q4. Foundry IQとは何ですか?

Microsoftのエージェント向け知識レイヤで、Azure AI Search上にKnowledge Baseを置き、agentic retrievalで検索を推論タスクとして扱います。詳細は「Foundry IQとは」の記事で解説します。

Q5. SharePointをナレッジにするときの注意は?

宣言型エージェントでは、対象サイトを明示しないとユーザーがアクセスできる広い範囲が対象になり得ます。見せてよい範囲をURL等で限定し、権限を確認してください。

Q6. 最初にやるべきことは何ですか?

答える質問の範囲と権限境界を決め、文書の旧版を整理することです。索引やAgentic機能より先に評価用の質問セットを用意します。

Q7. 料金はどう考えればよいですか?

Agentic retrievalは検索トークンと、クエリ計画に使うモデルのトークンが別途かかると公式が説明しています。単価は公式の料金ページとリージョンで確認してください。

Q8. MCPとの関係は?

Knowledge BaseをMCPエンドポイントとして公開し、エージェントがツールとして呼び出す構成が公式クイックスタートにあります。社内システム接続の一般論はMCP記事群を参照してください。

Q9. x3dに相談できますか?

できます。武石幸之助は2017年から対面で1,800社超・受講者5,000名超にAI導入支援を実施しています(認定講師分・オンラインは含まない)。Copilot/Foundry上の設計から文書整備、内製化まで支援します。


参考文献・出典

本記事は2026年9月時点の公開情報に基づいています。プレビュー機能・料金・リージョンは変化するため、最新は各公式ドキュメントをご確認ください。


x3d株式会社では、本記事で解説したMicrosoft Copilot環境でのAgentic RAG構築・運用に関する企業研修・導入支援・システム開発を提供しています。
まずはお気軽にご相談ください。

→ 無料相談・お問い合わせはこちら