SaaS企業内で活用される生成AIの実際

SaaS企業内で活用される 生成AIの実際 2024/06/21 Shima Tech Hub #3 アールスリーインスティテュート 西島 www.r3it.com

はじめまして！ アールスリーインスティテュート サービスグループ gusukuユニット デベロップメントチーム マネージャー 西島 幸一郎 @k_nishijima #しまてく で検索！ ハッカーズチャンプルーのなかのひと https://hackers-champloo.org/ www.r3it.com

• https://hackers-champloo.org/

アールスリーインスティテュート システムの受注開発と 法人向けSaaSの二本立て 創業 社員数 拠点 年商 2000年 41名 大阪 10億 東京 沖縄 みんなの家 www.r3it.com

琉球ゴールデンキングスのパートナーです www.r3it.com

gusuku Customine https://customine.gusuku.io/ サイボウズのkintoneをノーコードでカスタマイズしたり データのバッチ処理・帳票出力機能などを提供する法人向けSaaS フリープランを含むすべてのユーザーに テクニカルサポートを メール・チャットで提供しています www.r3it.com

• https://customine.gusuku.io/

で、このサポートが なかなかに大変🤔 ✅AIに助けてもらおう！ www.r3it.com

作ったもの ● ● ● Amazon Bedrockを活用した支援AIボットシステム サポートチームの業務を支援するボット ○ 雲行きが怪しかったらツッコミを入れてくれる ○ 回答案を考えたり ○ サポートが終わったら総括したり ○ 一定時間未回答のチャットを通知してくれたり ユーザーに直接AIが回答するわけではない というところがひとつポイント ○ これにより開発する範囲を きゅっと狭くできる www.r3it.com

例えば：ツッコミを入れるとか ● チャットサポートの成り行きを 見ていて、問題がありそうなら 「落ち着いて！」と ツッコミを入れてくれる www.r3it.com

例えば：終わったらまとめてくれる ● ● チャットサポート終了後に このサポート内容をまとめ、 ユーザーの感情分析、 満足度の推測などなどを実施 良いサポートだったら褒めてくれる （これ大事） www.r3it.com

システム概要と構成図 ● 完全にサーバレス ○ チャットは外部SaaS ● 使用言語： Go言語 ● データストア： OpenSearch ● LLMはAnthropic Claude v3 Haiku/Sonnet/Opus ● 自作のRAG ←🧐 www.r3it.com

RAGってなに？ https://aws.amazon.com/jp/bedrock/knowledge-bases/ ● 検索拡張生成🤔 なるほどわからんw ● すごく簡単に言うと AIに「昨日あったバスケの試合の結果」を 教えてあげる仕組み www.r3it.com

• https://aws.amazon.com/jp/bedrock/knowledge-bases/

RAGの効果 サポートサイト ドキュメントサイト TIPSやFAQ リファレンス・仕様 RAGを構築することにより、自社でメンテナンスしている ドキュメントに基づいて回答させることができる www.r3it.com

で、効果のほどは？：チームメンバーの声 ● ● ● ● 文章が丁寧で良いですね チャットが解決に向かっていないときに、ちょっと待って、と冷静に 突っ込んでくれるので、頭を切り替えるきっかけになります。今の方向 性で頑張って、と応援してくれることもあって、ほっこりします。 内容によっては、ほぼそのまま回答できる回答案を出してくれることが あって助かる。そうでなくても少し直せば回答できるので、時短で回答 できる点も助かります 類義語を教えてくれたりするので言葉の引き出しが増えました😁 www.r3it.com

まとめ ● 生成AIは文章の処理（読み書き、要約）は非常に得意なので、 この分野では加速度的に導入が進んでいます ● 一方、ハルシネーション（幻覚 → もっともらしい嘘）を 極力抑える必要があるので、そこは要注意 ○ ● プロンプトで頑張る、RAGで頑張る、などなど 「よき同僚・よき隣人」として、 うまく活用していきたいですね！ www.r3it.com

おわり www.r3it.com