ChatGPTのLINEボットを本番運用してみた話

LINE Developer Community 【クラウド/ChatGPT etc】LDGQ + LINEDC 勉強会@福岡 ChatGPTのLINEボットを本番運用してみた話 2022.06.03 捧 隆二 1

自己紹介 捧 隆二 (ささげ りゅうじ) ITエンジニア Arahabica @Arahabica1 大学院在学中に大阪でITスタートアップを起業。 上京後、外資系ITコンサル、フィンテック企業を経験。 2019年にボイスアップラボの創業メンバーとして参画。LINE関連 の開発に従事。 LINE BOOT AWARDS 2018 部門賞受賞。2021年よりLINE API Expert。 趣味は温泉めぐり。 2

目次 1. このセッションで共有したいこと 2. ChatGPT APIの公開 3. LINE Botの作成 4. AIチャットくんの衝撃 5. Twitter広告の導入 6. ChatGPT APIの利用制限 7. GPT4 8. その後、どうなったの？ 3

このセッションで共有したいこと • ChatGPTのLINEボットの作り方は詳しくは説明しません。 • 実際にボット運用するにあたっての知見 • ChatGPT API解放時の空気感 4

2023/03/02 03:04 5

2023/03/02 03:04 (日本時間) 6

7

ChatGPT API公開 2023/03/02 03:04 (日本時間) 8

9

10

これは革命だぞ... 11

しかも、安い！ 12

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 13

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン 値段は10分の1！ 性能もめちゃくちゃ改善！ • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 14

とりあえず 触ってみるか... 15

まずはLINEで そのまま返すやつを 作ってみよう 16

LINE Botの作成 17

使用技術 • ChatGPT API • 正確にはOpenAI APIのCreate chat completion API • LINE Messaging API • 応答メッセージ API • Firebase • Firebase function (FaaS) • Firestore (DB) 18

制作時間 30分: ChatGPT APIの挙動調査など 30分: LINEとの繋ぎこみ 1時間半: Firestore(DB)に会話を保存する処理など 19

制作時間 30分: ChatGPT APIの挙動調査など 30分: LINEとの繋ぎこみ 1時間半: Firestore(DB)に会話を保存する処理など 3時間: アイコンに使うフリー画像の探索 20

制作時間 30分: ChatGPT APIの挙動調査など 30分: LINEとの繋ぎこみ 1時間半: Firestore(DB)に会話を保存する処理など 3時間: アイコンに使うフリー画像の探索 計５時間半で完成！ 21

GPT先生誕生！ 22

23

24

弱小アカウントが1ツイートした だけとしてはかなり良い方 25

AIチャットくんの衝撃 26

27

このときは文脈未保存 アイコンはChatGPTそのまま 28

29

ちょっと悔しいなあ 30

Twitter広告で もう少し 増やしてみるか 31

増やしてから 追加機能でも 考えよう 32

Twitter広告の導入 33

Twitter広告 17,500円投入！ 34

35

5日で友だち数3,000まで増加 36

Twitter広告 37

Twitter広告 クリック単価6円 (相場は25円~100円と言われている) 38

OpenAI API 使用料 39

OpenAI API 使用料 5日で126$ 40

ChatGPT APIの利用制限 41

ChatGPT APIの利用制限 42

ChatGPT APIの利用制限 • リミットが設定可能 • ソフトリミット • 通知メールが飛ぶ • デフォルト値は96$ • ハードリミット • APIが呼べなくなる(エラーになる) • デフォルト値は120$ • 120$以上に設定するには別途申請が必要 43

ChatGPT APIの利用制限 • リミットが設定可能 • ソフトリミット • 通知メールが飛ぶ • デフォルト値は96$ • ハードリミット • APIが呼べなくなる(エラーになる) • デフォルト値は120$ • 120$以上に設定するには別途申請が必要 安心して利用可能！ 44

ChatGPT APIの利用制限 • 上限緩和申請 • 3/9 ハードリミットを120$から360$まで上げる申請 • 3/11 申請承認 45

2023/03/15 02:00 (日本時間) 46

47

GPT-4公開 2023/03/15 02:00 (日本時間) 48

GPT4 49

GPT-4 • Web版 • 月額20$の有料プランで利用可能に • API • ウェイトリストが公開 • GPT-4(8K Context): $0.06 / 1000トークン • GPT-4(32K Context): $0.12 / 1000トークン • GPT-3.5 turbo: $0.002 / 1000トークン 50

GPT-4 • Web版 • 月額20$の有料プランで利用可能に • API • ウェイトリストが公開 • 価格はGPT3.5の30倍~60倍 GPT-4(8K Context): $0.06 / 1000トークン • GPT-4(32K Context): $0.12 / 1000トークン • GPT-3.5 turbo: $0.002 / 1000トークン 51

GPT-4 3/15: ウェイトリストに申請 4/28: GPT-4 利用可能に 52

GPT-4 3/15: ウェイトリストに申請 4/28: GPT-4 利用可能に ➢ 同じ日に複数人利用可能になったと言 うツイートをしていたので、この日か ら順次解放していったぽい 53

その後、どうなったの？ 54

結局機能も増やさず、 放置してます 55

56

OpenAI API 使用料 57

別のサービスを 企画中 58

AI Prompt Apps 59

AI Prompt Apps 60

AI Prompt Apps 複雑なプロンプトを アプリ化して みんなで共有できるサービス 61

トークンの数え方 62

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 63

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 64

ChatGPTの料金 • トークン • 英語 • 1単語1トークン • 日本語 • 1ひらがな1トークン • 1漢字は2,3トークン 65

ChatGPTの料金 • トークン • 英語 • 1単語1トークン Open the refrigerator. • 日本語 • 1ひらがな1トークン • 1漢字は2,3トークン 冷蔵庫を開ける。 66

ChatGPTの料金 • トークン 1 • 英語 • 1単語1トークン 4トークン 1 1 1 Open the refrigerator. • 日本語 • 1ひらがな1トークン • 1漢字は2,3トークン 2 13トークン 3 2 1 2 1 1 1 冷蔵庫を開ける。 67

自己紹介 捧 隆二 (ささげ りゅうじ) ITエンジニア 大学院在学中に大阪でITスタートアップを起業。 上京後、外資系ITコンサル、フィンテック企業を経験。 2019年にボイスアップラボの創業メンバーとして参画。LINE関連 の開発に従事。 LINE BOOT AWARDS 2018 部門賞受賞。2021年よりLINE API Expert。 趣味は温泉めぐり。 68

自己紹介 捧 隆二 (ささげ りゅうじ) ITエンジニア 大学院在学中に大阪でITスタートアップを起業。 221トークン 上京後、外資系ITコンサル、フィンテック企業を経験。 約0.06円 2019年にボイスアップラボの創業メンバーとして参画。LINE関連 の開発に従事。 LINE BOOT AWARDS 2018 部門賞受賞。2021年よりLINE API Expert。 趣味は温泉めぐり。 69

まとめ • ChatGPT関連のスピード感凄い • 早さが命ということもある • 各種申請のリードタイム • OpenAI API 上限緩和申請: 2日(参考値) • GPT-4モデル: 1ヶ月半(参考値) • 料金 • GPT-3 turboは革命的安さ • GPT-4はまた高い • 利用制限が設定できるので怖くない • トークンの数え方 • 英語 1単語1トークン 日本語 1文字 1~3トークン 70