見せてやる！Oracle本気の Retrieval-Augmented Generation ってやつをな！

1.7K Views

September 10, 24

#RAG #Retrieval Augmented Generation #Oracle Cloud Infrastructure #OCI #ベクトル検索

スライド概要

https://open8.connpass.com/event/327581/
こちらで発表したLTセッションの資料となります。

mamiko.sasakawa

@msasakaw

スライド一覧

ソリューションエンジニアです！

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

ダウンロード

ダウンロード(pdf - 1.76MB)

関連スライド

猫でも分かるUnreal Engineの学び方 - 超初心者向け編 - 2023 v1.0

ue4 ue5 ue-beginner

エピックゲームズジャパン 1.3M

Unreal Engine5 Lumenの仕組みと肝心なところ

ue5 ue-rendering ue-lumen

エピックゲームズジャパン 1.1M

SQL滅ぶべし

株式会社ホクソエム 856.9K

猫でも分かる UE5.0, 5.1 におけるアニメーションの新機能について【CEDEC+KYUSHU 2022】

ue5 cedec+kyushu ue-animation ue-optimize ue-bp ue-physics ue-sequencer

エピックゲームズジャパン 822.7K

SPAセキュリティ超入門

security php javascript

徳丸浩 805.6K

各ページのテキスト

見せてやる！Oracle本気（マジ）の Retrieval Augmented Generationってやつをな！日本オラクル Mamiko Sasakawa

自己紹介笹川真実子（ささかわまみこ）  概要  特技 ◆ 日本オラクル新卒入社2年目 ◆ Oracle Digital Solution Architect ◆ 宿2重予約 ◆ “パクチーを抜いてください”を5カ国語話せる  趣味  今年やったこと ◆ 海外放浪 ◆ (危険な山への)登山 ◆ 飲酒 20 カ国/year 2 GitHub：msasakaw（ほとんど何も載ってない） Qiita ：msasakaw （ちゃんと書いてる） ◆ アフリカ大陸到達 ◆ 砂漠 de キャンプ ◆ 減酒（2日で終了） 4 yama/year Copyright © 2024, Oracle and/or its affiliates 4 sake/day ↑ボツワナで持ち帰ろうとしたライオン

Oracle Cloud Infrastructure AI/ML 製品ポートフォリオお客様のAI活用によるビジネス変革を実現する包括的なクラウドサービス Applications Fusion Applications Fusion Analytics NetSuite Industry Applications 3rd Party Applications Embedded Generative and Classic AI AI Services GenAI Agents Digital Assistant Speech Language Vision Document Understanding Generative AI and ML for Data Platforms Oracle Database Vector Search Autonomous Database Select AI MySQL HeatWave Vector Store Data Science ML in Oracle Database MySQL HeatWave AutoML Data Labeling Data AI Infrastructure Supercluster with RDMA networking Compute GPU: bare metal, VMs, Kubernetes Block, Object, File Storage, HPC filesystems https://www.oracle.com/jp/artificial-intelligence/ai-services/ 4 Copyright © 2024, Oracle and/or its affiliates AI Partners and ISVs GenAI

https://www.oracle.com/jp/artificial-intelligence/ai-services/

RAG(Retrieval-Augmented Generation)とは？外部の知識ベースを検索して関連情報を取得しLLMの回答を拡張する方法 • LLMの入力プロンプトに検索結果を組み込むことで、LLMのテキスト生成を調整する • よく使われる検索システムの例 • （ベクトル）データベース、全文検索エンジン、etc. 海外出張には何が必要ですか？ユーザーパスポートを準備してください。... 海外出張には何が必要ですか？ LLM RAGを使わない例 →海外旅行についての一般的な回答 6 Copyright © 2024, Oracle and/or its affiliates ユーザー連携まず、XXXのXXに申請を行ってください。次に… LLM RAGを用いた例 →社内規定に基づいた独自回答社内規定集データベース

RAG（Retrieval-Augmented Generation）とは動作フロー RAG を使ったAI チャットボット 1.海外出張の準備は？ユーザーアプリケーションアプリケーション 3. 質問文＋関連情報 4.XXXで事前申請してください LLM 2. (ベクトル※) 検索によって関連情報を連携ナレッジベース (ベクトルデータベース) 文書を(ベクトル化して) 事前に登録 ## 社内規定集内の海外出張の情報 - 海外出張については以下の準備が必要です - 1. XXXに事前申請を… 社内規定集等の文書 7 Copyright © 2024, Oracle and/or its affiliates ※ベクトル検索により質問の意味に沿ったデータの取得が可能

RAG（Retrieval-Augmented Generation）とは動作フロー RAG を使ったAI チャットボット質問に対して最も関連性のある文書を探してプロンプトに差し込むプロンプト 1.海外出張の準備は？ユーザーアプリケーション 3. 質問文＋関連情報 4.XXXで事前申請してください LLM 2. (ベクトル※) (ベクトル) 検索検索によってによって関連情報を連携ナレッジベース (ベクトルデータベース) 文書を(ベクトル化して) 事前に登録 ## 社内規定集内の海外出張の情報 - 海外出張については以下の準備が必要です - 1. XXXに事前申請を… 社内規定集等の文書 8 Copyright © 2024, Oracle and/or its affiliates ※ベクトル検索により質問の意味に沿ったデータの取得が可能

RAG（Retrieval-Augmented Generation）とは動作フロープロンプト関連情報に基づいて、質問に回答してください RAG を使ったAI チャットボット ## 社内規定集内の海外出張の情報 - 海外出張については以下の準備が必要です - 1. XXXに事前申請を… ## 質問文海外出張の準備は？ 1.海外出張の準備は？ユーザーアプリケーションアプリケーション 3. 質問文＋関連情報 4.XXXで事前申請してください LLM 2. (ベクトル※) 検索によって関連情報を連携ナレッジベース (ベクトルデータベース) 文書を(ベクトル化して) 事前に登録 ## 社内規定集内の海外出張の情報 - 海外出張については以下の準備が必要です - 1. XXXに事前申請を… 社内規定集等の文書 9 Copyright © 2024, Oracle and/or its affiliates ※ベクトル検索により質問の意味に沿ったデータの取得が可能

10.

11.

12.

OCI で実装する本気のRAG構成 RAGの真価を引き出すための Oracle RAGソリューションナレッジベース ②クエリー ①質問 Oracle DB 23ai ③検索結果 ④回答生成指示エンタープライズ用途に最適なモデル OCI Agents - 少ないパラメータで高性能 ⑥回答 ⑤回答 - 高いセキュリティとプライバシーを確保 LLM 質問・回答の保持や管理 OCI Cache キャッシュストア 12 Copyright © 2024, Oracle and/or its affiliates

13.

OCI で実装する本気のRAG構成 RAGの真価を引き出すための Oracle RAGソリューション様々なデータ、検索手法を1つのデータベースで管理データ例）画像、テキスト、音声など検索例）テキスト、ベクトルなど - データ一貫性維持と、開発生産性向上を実現ナレッジベース ②クエリー Oracle DB 23ai ③検索結果 ④回答生成指示 ①質問 OCI Agents ⑤回答 ⑥回答 LLM OCI Cache キャッシュストア 13 Copyright © 2024, Oracle and/or its affiliates

14.

OCI で実装する本気のRAG構成 RAGの真価を引き出すための Oracle RAGソリューションナレッジベース ②クエリー Oracle DB 23ai ③検索結果 ④回答生成指示 ①質問 OCI Agents ⑤回答 ⑥回答 LLM 生成AIやその他サービスとの連携ツールをフルマネージドで提供 - AIアプリケーション実装の複雑さを軽減 - 回答精度向上のための様々なツールを搭載質問・回答の保持や管理 OCI Cache キャッシュストア 14 Copyright © 2024, Oracle and/or its affiliates

15.

16.

17.

18.

Oracle Database 23ai のここがすごい！ 1. AI関連機能は全エディションで利用可能 2. Exadata なら・・・大量データに対してどえりゃー高速にベクトル検索が可能 Oracle のベクトル検索にかける思いは本気（マジ）です!! 結局DBの話になっちゃった☆ (・ω<)ﾃﾍ☆ 18 Copyright © 2024, Oracle and/or its affiliates

19.