20251206_Agent Frameworkを利用した、Foundry LocalとMicrosoft Foundryのハイブリッドエージェント
>100 Views
December 07, 25
スライド概要
なごあずの集い#7 で登壇した資料です。
https://75az.connpass.com/event/373754/
クラウドのLLMとローカルGPU LLMを組み合わせたハイブリッドAI活用を紹介します。機密データをユーザーマシン上に保持しながら、MCPを経由してクラウドエージェントと安全に連携。プライバシー保護と高度なAI推論の両立を実現する方法を解説します。
愛知 / SE / Azure / AzPoC部
関連スライド
各ページのテキスト
Agent Frameworkを利用した、 Foundry LocalとMicrosoft Foundryの ハイブリッドAIエージェント 2025/12/06 なごあずの集い#7 しろくま Hiroki, Nomura
プロフィール しろくま 愛知県在住のエンジニアです。 技術関係のブログを書いたり、登壇したりしています。 所属：AzPoC部 #AzPoC なごあず #75azu Solution Architect AI Engineer Developer Administrator Network Engineer
モチベーション ローカルマシンのNPUの活用を考えたい 推論をローカルにとどめたいシーン • プライバシー • ネットワーク通信環境が不安定 • コスト最適化
モチベーション ローカルマシンのNPUの活用を考えたい 推論をローカルにとどめたいシーン • • • • プライバシー ネットワーク通信環境が不安定 コスト最適化 ローカルマシンに対する動作
ポイント：機密データはローカルに留まり、 クラウドには匿名かされたデータのみが送信される
違い クラウドLLMだけを使う場合 クラウドには送信 したくない情報が 送信されてしまう ハイブリッドアプローチの場合
アーキテクチャ Microsoft Foundryのエージェント （Agent Framework） MCP サーバとして公開 （Foundry Local） Microsoft Foundryのモデル gpt-5.1
データフロー
デモ ・NPUを使ったローカルLLMの実行（Phi-4-mini） ・ハイブリッド構成のAIエージェントデモ
Thank you !