[AI運用勉強会#2] AIエージェントのための共通窓口 - 増えゆくMCP Serverをどう管理するか？ -

AIエージェントのための共通窓口 - 増えゆく MCP Serverをどう管理するか？ - Shuhei Kawamura © Kong Inc.

自己紹介 川村 修平 Kong株式会社 / シニアフィールドエンジニア X/GitHub/Zenn @shukawam © Kong Inc.

システム運用と AIエージェント …他にも多数あり [1]: https://www.pagerduty.com/platform/ai-agents/sre/ [2]: https://www.datadoghq.com/product/ai/bits-ai-sre/ [3]: https://speakerdeck.com/0gm/merukariibis-aigatuo-kuci-shi-dai-insidentodui-ying © Kong Inc.

• https://www.pagerduty.com/platform/ai-agents/sre/
• https://www.datadoghq.com/product/ai/bits-ai-sre/
• https://speakerdeck.com/0gm/merukariibis-aigatuo-kuci-shi-dai-insidentodui-ying

AIエージェントと MCP AIエージェント = 計画を立案し、必要な情報を集めて、アクションを起こす MCP(Model Context Protocol)が広く採用 LLM 計画の立案など、エージェントのコア AI エージェント ツール #1 例えば、チケットの起票 ツール #2 例えば、Slackとの連携 ツール #3 例えば、テレメトリーデータの収集 © Kong Inc.

AIエージェントと MCP 利用者や接続先が増えると以下のような問題が顕在化する： ● エンドポイントが複数存在することによる管理の複雑性 ● 誰がどのツールを実行して良いのか（認証と認可） AIエージェント = 計画を立案し、必要な情報を集めて、アクションを起こす ● 同じような非機能要件の実装が各ツールに点在する MCP(Model Context Protocol)が広く採用 ● などなど...。 LLM 計画の立案など、エージェントのコア AI エージェント ツール #1 例えば、チケットの起票 ツール #2 例えば、Slackとの連携 ツール #3 例えば、テレメトリーデータの収集 © Kong Inc.

では、どうするか？ エージェントとツール間の通信やLLMへの通信は、APIで行われている 👉 i.e. 今までと同様に、API Gatewayパターン [1]は有効な選択肢 と言える！ LLM 計画の立案など、エージェントのコア AI エージェント API Gateway ツール #1 例えば、チケットの起票 ツール #2 例えば、Slackとの連携 ツール #3 例えば、テレメトリーデータの収集 [1]: マイクロサービスアーキテクチャにおいて、クライアントとバックエンドサービスの間に リバースプロキシを配置するデザインパターンのこと © Kong Inc.

Kong (AI) Gatewayが実現したい世界観 AIエージェントとツール/LLMの間に配置し、横断的関心ごとを解決する！ LLM 計画の立案など、エージェントのコア AI エージェント Kong Gateway 横断的関心ごとの例： ● 複数LLMを動的に切り替え ● トークン数やコストに応じた制限 ● REST ↔ MCPの変換 ● ツール呼び出しの認証・認可 ● その他、非機能要件のオフロード ツール #1 例えば、チケットの起票 ツール #2 例えば、Slackとの連携 ツール #3 例えば、テレメトリーデータの収集 © Kong Inc.

まとめ ● 増えゆくエージェントと MCP Serverの管理アプローチの 1つに中央集権的なレイヤーを活用する手 段（= API Gateway）もある ● Kong Gatewayは、LLMだけでなくMCP周りも含みAIエージェントの開発、運用を包括的にサポート する機能を備えている 少し前にCodeZineさんで連載記事を書きました。 座学 + OSSを利用したハンズオンができるので、興味があればぜひ 🙏 © Kong Inc.

Thank you! © Kong Inc.