FPT AI Factory -スタートアップへのエンパワーメントによる実社会での AI アプリケーション推進 -

FPT AI Factory -スタートアップへのエンパワーメントによる 実社会での AI アプリケーション推進 鈴⽊ 章太郎 Executive Evangelist, FPT Data & AI Integration FPT Japan Holdings

鈴⽊ 章太郎 X (Twitter) ︓ @shosuz https︓//www.docswell.com/user/shosuz FPT ジャパン FPT データ& AI インテグレーション エグゼクティブエバンジェリスト 独⽴⾏政法⼈ 国⽴印刷局 デジタル統括アドバイザー兼最⾼情報セキュリティアドバイザー 略歴︓ AI 駆動開発勉強会主催。Microsoft エバンジェリスト時代から現職. まで⼀貫して開発者向けに最新技術を啓発。GPU クラウド技術訴求、 AI 駆動開発推進。 政府の仕事は、内閣官房 政府 CIO 補佐官、 デジタル庁 PM を経て、現職を兼務。 2 / 12

• https://www.docswell.com/user/shosuz

アジェンダ • FPT AI Factory のご紹介 • AI 駆動開発ツールによるマルチモーダルアプリ開発 • EC サイト新時代 - ハイブリッド GenAI の構築 • AI Startup Program のご紹介

FPT AI Factory のご紹介

AI 時代に必要な計算リソース 処理時間の現実: 技術的要件: 🔥GPU 並列処理: 動画‧⾳声‧画像の同時⽣成 💾 ⼤容量メモリ: 1M トークン + マルチメディア 🔄 統合環境: 複数 AI モデルの連携 📈 スケーラビリティ: 需要に応じたリソース調整 ⚠ GPU 不⾜危機: パブリッククラウドで A100/H100 /H200 が枯渇状態 6時間 従来環境 従来環境 15分 必要環境 必要環境 処理時間の⽐率（24倍の差） パブリッククラウドの課題: AWS/GCP H100 待ち時間: Azure A100 時間単価: 8 GPU 構成の⽉額: 3〜6ヶ⽉ 約$4.1/時間 約300万円 ⼆重の課題: GPU 不⾜と⾼額コストが、マルチモーダル AI 開発の最⼤の障壁に

TOP500 スーパーコンピュータランキングで⽇本第1位 FPT AI Factory は、2025年6⽉版 TOP500 において⽇本で最も優れた商⽤クラウドプロバイダーと して認定されました。※⽇本第1位、世界36位 146,304コアを搭載し、49.85ペタフロップスを達成。これは AI 及びクラウドコンピューティングにおける FPT の技術⼒を証明しており、国際的な AI 基盤としての 地位を確⽴しました。 TOP 500ランキングの重要性 TOP500 は世界中のスーパーコンピュータの性能を評価する 権威あるランキングで、LINPACK ベンチマークを基に計算能 ⼒を測定します。 このランキングは、各国の政府や研究機関、企業にとって、ハー ドウェア性能やシステム設計の国際的な基準を⽰す重要な指標 となっています。 「TOP500」ランキングで第36位および第38位に選出（出典︓TOP500.org） 圧倒的な性能 AI Factory は146,304コアを搭載し、49.85ペタフロップス の処理能⼒を誇ります。 この数値は、⼤規模なデータ処理や複雑な AI アルゴリズム の実⾏を可能にし、企業が競争⼒を 維持するための強⼒な ツールとなります。 特に、デジタル変⾰を進める企業にとって、FPT の技術は⽋か せないものとなるでしょう。

FPT AI FACTORY お客様む向けサービス ベトナム2地域と⽇本1地域 AI/ML 開発エコシステム NVIDIA 認定システムアーキテクチャ 物理インフラ クラウド インフラ ＆プラットフォーム AI プラットフォーム AI 製品 FPT AI アプリケーション デジタル顧客 オンボーディング AI メンター エージェント スタジオ インテリジェント ドキュメント処理 市場 AI コンタクトセンター 強化 FPT AIエージェント メモリ ツール 計画 会話型 AI と AI エージェント ガードレール FPT AIスタジオ AI ノートブック モデル ハブ モデルファイン チューニング AI のためのデータ 処理 管理者 モデルの事前 トレーニング AI Marketplace 微調整された LLM モデル FPT AI 推論 Model モデル as-aサービング Service NVIDIA AI Enterprise NVIDIA NGC AI Solution Workflows, Frameworks & Pretrained models NVIDIA NeMo AI & Data Science Development Tools NVIDIA Inference Microservices Cloud Native Management & Orchestration データベースプラットフォーム ベクターデータベース NVIDIA H100/H200 FPT AI インフラストラクチャ GPU コンテナ GPU 仮想マシン ハイエンドネットワーク マネージド GPU クラスター ハイエンド CPU NVIDIA Base Command Manager メタル クラウド ファイル ストレージ ⾼性能ストレージ Infrastructure Optimization Infrastructure Management

FPT AI Factory アーキテクチャは NVIDIA 認定 • • FPT AI Factory サービスは、ベトナムと⽇本の複数の地域で展開 FPT AI Factory のアーキテクチャは NVIDIA のグローバル標準に準拠し、NVIDIA によって実装および検証済み • ⼤規模要件に対応するスーパーコンピューティング クラスター • 数千台の NVIDIA Hopper GPU (H200) • 超⾼速ネットワークに包含︓⾮ブロッキング InfiniBand ファブリック、組み込みハードウェア アクセラレーション⽤のデータ処理ユニット (DPU) 2つの新しい地域をリリース （合計7ゾーン、3地域） • 各クラスターの計算能⼒は最⼤ 69 PFLOPS • 100 以上のフレームワーク、事前トレーニング済みモデル、 ライブラリを提供する NVIDIA AI Enterprise ソフト ウェアプラットフォームとの統合 NVIDIA AI Enterprise NVIDIA NGC NVIDIA 推論マイクロサービス NVIDIA NeMo NVIDIA ベースコマンドマネージャー ネットワーキング ⽇本 ペタビット、ノンブロッキング NVIDIA Infiniband ファブリック ノード1 NVIDIA HGX H200 SXM*8 400Gbps インフィニバンド 400Gbps I nfi niband グローバル ネットワーキングパートナー JPN-01 GPUクラウド ベトナム - ハノイ 波⻑多重 HNI-02 GPU クラウド 400Gbps I nfi niband グ ラ フ ィ ッ ク プ ロ セ ッ サ G P あ な た グ ラ フ ィ ッ ク プ ロ セ ッ サ グ ラ フ ィ ッ ク プ ロ セ ッ サ 400Gbps インフィニバンド 400Gbps I nfi niband 400Gbps I nfi niband グ ラ フ ィ ッ ク プ ロ セ ッ サ グ ラ フ ィ ッ ク プ ロ セ ッ サ グ ラ フ ィ ッ ク プ ロ セ ッ サ グ ラ フ ィ ッ ク プ ロ セ ッ サ 400Gbps I nfi niband 400Gbps I nfi niband 400Gbps I nfi niband 400Gbps I nfi niband HCM-03 冗⻑性 負荷分散 HCM-01 HCM-02 災害復旧 ストレージ同期 HNI-01 HNI-03 。 。 。 DPU 。 NVIDIA HGX H200 SXM*8 400Gbps インフィニバンド 400Gbps インフィニバンド グ ラ フ ィ ッ ク プ G P U ロ セ ッ サ FPTクラウドサービス GPUサーバー 監視サービス グ ラ フ ィ ッ ク プ G P U ロ セ ッ サ グ ラ フ ィ ッ ク プ G P U ロ セ ッ サ グ ラ フ ィ ッ ク プ G P U ロ セ ッ サ 900 GB/秒の NVSwitch GPU から GPUへ 900 GB/秒の NVSwitch GPU からGPUへ ベトナム - ホーチミン ノードN ⾼性能ストレージ クラウドサーバー AI 開発カタログ 安全サービス コンテナサービス サイバーセキュリティ サービス 。 。 DPU

AI 駆動開発ツールによる マルチモーダルアプリ開発

Claude Code /Gemini CLI × Cursor Pro による マルチモーダル成果物⽣成アプリ開発と⾃動デプロイ 画像⽣成 ⾳声⽣成 動画⽣成 (NVIDIA GPU) (AI Model) (並列処理) 1 2 • Cursor Chat で Claude Code と Gemini CLI を操作 • 内蔵ターミナルから デプロイを⼀元管理 3 • コード⽣成から デプロイまでを同⼀環境で完結 • 従来6時間 → 15分でマルチモーダル処理完了 4 Cursor Pro AI Chat でプロンプト設計 Claude Code / Gemini CLI に設定ファイル⾃動⽣成依頼 全設定ファイルを内部⽣成 シンプルなNode.js + Express 実装 内蔵ターミナルでデプロイ実⾏ FPT AI Factory 接続 マルチモーダルアプリ⾃動起動 Cursor 内蔵ターミナルから ワークフロー実⾏ Cursor Pro / Gemini CLI ⼀元管理: AI Chat ・ エディタ ・ ターミナルをシームレスに統合し、Claude Code と Gemin CLI の能⼒を最⼤化 ■ 処理フロー図 Cursor Cursor (AI Chat) Claude Code / Gemini CLI (ターミナル) FPT AI Factory プロンプト ⾃動⽣成 デプロイ GPU 実⾏ 実⾏結果 (15分) ⾳声 画像 動画

EC サイト新時代 – ハイブリッド GenAI の構築

なぜ今 「ハイブリッド AI 」なのか︖ EC の競争⼒ = 1 機密データ保護（ オンプレ/プライベート） 2 ⽣成 AI のクラウド活⽤（ 拡張性/速さ） 3 すべてを安全に両⽴︕

.NET on Cloud Run × GenAI アーキテクチャ Basket Service Catalog Service Identity Service Search Service オンプレミス環境 API Gateway Vertex AI Google Cloud LLM Frontend Service Google Cloud Engine オンプレ LLM Gemma, Nemotron FPT AI Factory PostgreSQL Cloud SQL Redis Memorystore Pub/Sub イベント連携 Vector DB AlloyDB/PG Vector リアルタイム・AIドリブンな顧客体験基盤 FPT AI Studio 数クリック × ハイブリッド GenAI 連携でスケーラブルな EC 体験を実現

本⽇デモする ハイブリッド EShop シナリオ Cloud Run 上のマイクロサービス＋ハイブリッド GenAI 連携を実演 Catalog Service Basket Service Identity Service Search Service オンプレミス環境 API Gateway Vertex AI Google Cloud LLM Frontend Service Google Cloud Engine オンプレ LLM Gemma, Nemotron FPT AI Factory PostgreSQL Cloud SQL Cloud Run + C#/.NET フルマネージドでスケーラブルな C# / .NET マイクロサービス Redis Memorystore Pub/Sub イベント連携 マネージドデータストア Cloud SQL + Memorystore + Pub/Sub で⾼性能バックエンド Vector DB AlloyDB/PG Vector ハイブリッド AI 連携 オンプレ＋クラウド AI を必要に応じて 即時切替

マルチクラウド - SCSK Cloud netXchange サービスの利⽤ • FPT データセンター内 ExpressRoute / Direct Connect / FastConnect クラウド接続点により、 Google Cloud /Azure / AWS / OCI と構内接続することで FPT AI Factory に閉域接続が可能 • FPT AI Factory ⽤に、新たに Express Route のような閉域接続回線を⽤意する必要がないため、 コストと接続開始時期が⼤幅に短縮可能 ExpressRoute Microsoft Azure FPT データセンター Cloud Interconnect Cloud Interconnect (既存） お客様拠点 Direct Connect Secure 閉域接続で⾼い安定性と セキュリティを確保 FPT AI Factory Direct Connect AWS Fast Connect OCI Direct Link IBM Cloud Flexible Reliable Convenient 接続⽅法と帯域を柔軟に 選べるサービスメニュー 冗⻑構成を標準とした ⾼可⽤性を実現 接続に必要な BGP ルータを フルマネージドで提供

【デモ1】セマンティック検索＆商品レコメンデーション • ⾃然⽂での検索 → ベクトル検索 → LLM 推薦 → クロスセル提案まで • Vertex AI マルチリージョン⾃動スケーリングでグローバル規模でも瞬時に体験可能 "夏⽤の軽量ハイキングシューズを探しています" ⾃然⾔語検索 ユーザーの意図を理解し、専⾨的なキーワードがなく ても最適 な商品を特定 ベクトル検索 商品説明‧特徴をベクトル化し、意味ベースの類似性でマッチング トレイルランナー 軽量 ¥12,800 サマーハイカー エアメッシュ ¥14,500 検索履歴 ‧ 好み ‧ 閲覧パターンから最適な商品を LLM が選定 あなたへのレコメンド 速乾ソックス LLM 商品レコメンド 防⽔スプレー クロスセル提案 選んだ商品との相性‧使⽤シーンに最適な関連商品を⾃動提案 Vertex AI グローバル⾃動スケーリング • • マルチリージョン展開で世界中どこでも<50ms 15秒間隔需要予測で瞬時に推論能⼒を調整

セマンティック検索 &
プライバシー判定 AI
ルーティングの発展系

AIController.cs

[HttpPost("semantic-search")]
public async Task<IActionResult> SemanticSearch([FromBody] SearchRequest request)
{
// プライバシー判定︓個⼈情報‧機密情報の有無をチェック
var usePrivateAI = _privacyAnalyzer.ContainsSensitiveData(request.Query);
string aiResponse; if

ユーザー検索クエリ受信

(usePrivateAI)
{

プライバシー判定
FPT AI Factory
プライベート環境
個⼈・機微情報あり

// 機密情報（個⼈情報）を含む場合は FPT AI Factory vLLM で処理
// プライバシー保護のためオンプレミスで処理

Vertex AI
クラウド環境

aiResponse = await _vllmK8sClient.ChatCompletionAsync($""" ECサイトの

商品検索: {request.Query}
...商品リスト...

⼀般クエリ

}
else
{

処理結果をフロントエンドに返却

// ⼀般的な検索クエリはクラウドVertex AIで⾼速処理

Point
•
•
•
•

""");

// グローバルスケールの⾃動スケーリングを活⽤

プライバシー判定による AI プロバイダー⾃動選択
機密データは Gemma/Nemotron vLLM
内部処理
⼀般クエリは Vertex AI の⾼速レスポンスを活
処理場所をレスポンスに含めて透明性を確保

aiResponse = await _vertexAIClient.GenerateContentAsync(request.Query);
}
return Ok(new {
query = request.Query,
recommendations = aiResponse,
provider = usePrivateAI ? "FPT AI Factory vLLM" : "Vertex AI",
processingLocation = usePrivateAI ? "Private" : "Cloud"
});
}

【デモ2】会話型バスケット＋パーソナライズ ショッピングカート 半袖Tシャツ（ネイビー） ¥12,500 サイズ︓L × 1 ¥2,500 サイズ︓25-27cm ¥1,800 サイズ︓27.0cm ¥8,200 ランニングソックス（3⾜組） ランニングシューズ このシューズに合うインソールを探しています ランニングシューズに最適なスポーツインソールがござい ます。クッション性に優れたタイプを追加しますか︖ いいですね。予算は3,000円以内で。あ と今⽇注⽂すると、到着はいつですか︖ ¥2,400のインソールをカートに追加しました︕本⽇ 16時までのご注⽂で明⽇の午前中にお届け可能 です。送料は無料です。 AI アシスタントに質問... AI チャットによる商品提案 FPT AI Studio vLLM テンプレートで起動した カスタム EC モデルによる会話型提案 パーソナライズド特典⾃動提案 会員状況‧購⼊履歴に基づいた最適な割引や特典 を⾃動表⽰ 配送オプション会話型案内 希望納期や配送⽅法を会話から 推測し最適な 選択肢を提⽰ Cloud Run 上のバスケットサービス .NET Pub/Sub経由で FPT AI Studio vLLM OpenAI 互換 API と連携 Cloud Run + Memorystore (Redis) でセッション管理

【デモ3】ハイブリッド AI
パーソナライズと多数決

BasketController.cs

[HttpPost("basket-chat")]
public async Task<IActionResult> BasketChat([FromBody] BasketChatRequest request)
{
// バスケット取得
var basketItems = await _basketService.GetBasketAsync(request.UserId);

会話型バスケットのデモ

// 個⼈データが含まれる場合はPrivate AI優先
var usePrivateAI = _privacyAnalyzer.RequiresPrivateProcessing(
request.Message, basketItems, request.UserId);

このシューズに合うインソールを探しています
このシューズに最適な「クッションプロ」インソールがおすすめです。
¥2,400をカートに追加しますか︖

string chatResponse; if
(usePrivateAI)

AI Provider: FPT AI Factory vLLM

{
// Gemma/Nemotron vLLM on FPT AI Factory Managed Cluster へ

バスケット状態取得

chatResponse = await _vllmK8sClient.ChatCompletionAsync($"""
バスケット: {string.Join(", ", basketItems.Select(i => i.Name))}
質問: {request.Message}

会話コンテキスト ‧ 個⼈情報分
購⼊履歴参照

⼀般質問

FPT AI Factory
プライベート処理

Vertex AI
クラウド処理

個⼈情報配慮で親切に回答、提案も追加

""");
}
else
{

バスケットQ&A: {request.Message}
バスケット: {string.Join(", ", basketItems.Select(i => i.Name))} """);

ハイブリッド活⽤ポイント
}

• 購⼊履歴 ‧ 個⼈情報は FPT AI Factory vLLM で
内部処理

return Ok(new {
basketItems, userMessage = request.Message, aiResponse = chatResponse, provider

• ⼀般的な商品質問は Vertex AI で⾼速対応

= usePrivateAI ? "FPT AI Factory vLLM" : "Vertex AI",
timestamp = DateTime.UtcNow

• Redis（Memorystore）でバスケット状態をキャッシュ
• 動的なプロバイダー選択で最適な AI 応答を実現

// ⼀般会話はVertex AI
chatResponse = await _vertexAIClient.GenerateContentAsync($"""

});
}

Vertex AI マルチリージョン展開 × Cloud Run 連携の強み • 可⽤性・⾃動スケール‧コスト効率 コンテナ単位の⾃動スケール ‧ 0〜N オートスケーリングで迅速コスト最適化 • 堅牢なマネージドデータベース PostgreSQL/Redis による⾼性能データ層 ‧VPC 経由プライベートアクセス • ⾮同期イベント駆動型の推論連携 リアルタイム連携 ‧ イベント駆動 AI レコメンド‧障害回復性の確保 Cloud Run Cloud SQL Memorystore Pub/Sub .NET / C# 分散アーキテクチャと Google Cloud ネイティブサービスの統合でスケーラビリティとコスト効率に優れた EC 基盤を実現 【Vertex AI グローバル展開の追加メリット】 • マルチリージョン配置︓us-central1, asia-northeast1, europe-west1 • A3/G2 シリーズ GPU︓15秒間隔需要予測ベース⾃動調整 • コスト効率︓⼤型マシン活⽤で総コスト最適化 Cloud Run はマイクロサービス基盤として必要。役割分担としては︓ Cloud Run = アプリケーション層のスケール ︓ Vertex AI = AI 推論層のスケール

セキュリティ / 運⽤設計の要点 1 VPC / プライベートアクセス設計 Cloud Run は VPC Connector で内部サービスと安全接続 データベース‧キャッシュは完全なプライベートアクセス 2 CMEK ＋ IAM ＋ 監査ログ 顧客管理暗号化キーと⾃動ローテーション Cloud Audit Logs 連携で全操作の完全な監査証跡 3 API 権限分離とパフォーマンス監視 サービスごとの分離サービスアカウント＆最⼩権限 Cloud Monitoring でリアルタイムパフォーマンス監視

.NET /C# アプリ × Cloud Run 導⼊ステップ 1 .NET Blazor テンプレート → Cloud Run / CICD 構成 2 Cloud SQL, Memorystore, Pub/Sub を GC でセットアップ 3 GenAI（ VertexAI API + Gemma/Nemotron on FPT AI Factory） 統合 4 すぐ 動く 開発体験＆⾃動運⽤

AI Startup Program のご紹介

10万ドル以上 AI スタートアップ向け成⻑促進プログラム FPT は“FPT Startup Innovation”を提供し、 ⽇本、ベトナム、そして世界中で影響⼒を持つ AI およびテクノロジー系スタートアップに焦点を当ててい ます。 本プログラムを通じて、スタートアップ企業は最先端の テクノロジーソリューションを、最⼤限に活⽤・アクセス でき、業務効率と事業改善を実現します。 最⼤のビッグコンセプトを育むための優位性と⽀援を 提供します。 このアクセラレーターは、以下の条件を満たす AI スタート アップ向けに設計されています︓ MVP 段階またはそれ以上の AI 搭載製品を有していること 製品を市場に投⼊し、実際のユーザーを獲得して牽引⼒を実証 すること 防御可能な成⻑モデルを備えた拡張性のある製品またはサー ビスを構築すること ベンチャーキャピタルの出資を受けているか、有⼒ファンドからの 投資を模索していること

FPT スタートアップ・イノベーションについて FPT Startup Innovation Program は NVIDIA インセプションと提携し、FPT の AI 関連リソース、NVIDIA の技術サポート、 投資家ネットワークへのアクセスを提供し、ビジネスの拡⼤を⽀援します。 学ぶ 構築する 成⻑する スタートアップ向けの実践的なトレーニングと リソースを通じてイノベーションを加速する FPT のテクノロジーエコシステムでクレジットと特別価格を 獲得し、ソリューションを構築して市場投⼊を加速させよう 市場認知度を⾼めるツールでビジネスの成⻑を加速させる Financial Benefits 対象となるスタートアップ企業は、最⼤50,000 ドルのクラウドクレジットと最⼤100,000ドルの AI Factory クレジットの受領 Go-to-market Access to AI experts FPT および NVIDIA の技術専⾨家 へのアクセス Training FPT 主催の技術ブートキャンプへの特別招待と、 NVIDIA 提供オンライン⾃⼰ペース学習コース FPT 主催技術ブートキャンプへの限定招待状 のご提供 Technical Support FPTチームによる無料サポート ︓プログラム期間中 FPT Technology Ecosystem Preferred pricing on selected FPT products and services. Early access 新しい FPT Cloud、FPT AI Factory および関連する FPT AI 製品・ツールへ の早期アクセス セミナー、イベント、ウェビナーへの参加、 及び FPT イベントへのご招待 Business connection AI スタートアップに関⼼を持つ潜在的な パートナー、ベンチャーキャピタル、エコ システム関係者各位とのコネクション確⽴ Market Awareness 選定スタートアップ企業向け 共同マーケティングの機会

FPT と共に AI イノベーションの最先端へ 今すぐ FPT スタートアップ・ イノベーションに応募しよう︕ https://startup.fptsmartcloud.com FPT AI ファクトリーで AI イノベーションを加速 https://aifactory.fptcloud.com

• https://startup.fptsmartcloud.com/
• https://aifactory.fptcloud.com

Thank you!