LLM ワークショップ 〜 色々なことをLLMにやらせる方法 〜

LLM ワークショップ 〜 色々なことをLLMにやらせる方法 〜 Beginning LLM 2024/04/30 からあげ @karaage0703

アジェンダ ・LLMを知ろう ・「焼きちゃんぽん」で学ぶプロンプトエンジニアリング ・LLMにプログラミングを教えてもらう ・データサイエンスをLLMにやってもらう

LLMを知ろう

LLMと 何か？ ・大規模言語モデル（Large Language Model） ・ChatGPTを代表とする人間みたいにかしこい便利なAI ・LLMへ 入力（指示）をプロンプトとよびます とりあえず使っておきましょう

LLM(ChatGPT)ができること 色々やりとり 引用元：面倒なこと ChatGPTにやらせよう 色々できます。大きく分けると生成・変換・解釈

色々あるLLM B: Billion 10億 モデル名 ローカル使用 開発元 モデルパラメータ数 GPT-4 不可 Open AI 非公開(GPT3で175B) Claude 3 Opus 不可 Anthropic 非公開 Gemini 1.5 Pro 不可 Google 非公開 Llama 3 可能 Meta 70B/8B Weblab 10B 可能 松尾研究室 10B Elyza 可能 Elyza 7B Calm 2 可能 Cyber Agent 7B Gemma 可能 Google 7B/2B Phi-3 可能 Microsoft 3.8B Rinna 可能 Rinna 3.6B

LLMにも個性がある Rinna Open CALM

LLMにも個性がある ELYZA

LLMにも個性がある Weblab 10B

「焼きちゃんぽん」で学ぶ プロンプトエンジニアリング

よく聞かれる質問 何にでも使える おすすめプロンプト教えてください！

よく聞かれる質問 そんなも ない

おすすめプロンプトが無い理由 なぜなら ・人によってAIにやらせたいタスクが異なる ・自分 やりたいことに合わせれる がLLM 強み ・LLMによってもプロンプト 変わる 自分 やりたいことに近い例などをもとに 自分だけ プロンプトを作る がおすすめ （書籍を参考にしてもらえると嬉しいです） と いえ、おさえておくポイント いくつかあります

プロンプトエンジニアリング 基礎 AI（主にLLM）に適切に指示をする方法。例え 以下 ・曖昧を避け、具体的に指示をする ・いくつか例を出す（Few-Shot Learning） ・考える手順を教える（Chain of Thought） 色々ポイント ありますが、基本 人間にお願いするときと同じ

プロンプトエンジニアリング 曖昧を避け、具体的に指示する ❌ ⭕ 悪いプロンプト 例 プロンプトエンジニアリング 詳しくしないでください。 概念を説明してください。説明 短く、数文で、あまり 良いプロンプト 例 高校生に対して、プロンプトエンジニアリング 概念を 2〜3文で説明してください。 ※「面倒なこと ChatGPTにやらせよう」を参考に作成

焼きちゃんぽん 例

焼ちゃんぽん 作り方 2人前をつくるとき 500ml x 2 - 100ml x 2？ 500ml x 2 - 100ml x (2-1)？ 焼きちゃんぽん 作り方で不明点

ChatGPT(GPT-4）に聞いてみる Zero-shot Learning 実際に試してみましょう。結果 変わることもあります。

ChatGPT(GPT-4） 回答 不正解（正解するときもあります）

ChatGPT(GPT-4）に聞いてみる Few-shot Learning 実際に試してみましょう

ChatGPT(GPT-4）に聞いてみる 不正解（正解するときもあります）

ChatGPT(GPT-4）に聞いてみる Chain of Thought 実際に試してみましょう。変わることもあります。

ChatGPT(GPT-4）に聞いてみる 正解（だいたい正解します）

ChatGPT(GPT-4）に聞いてみる Zero-shot Chain of Thought "Let's think step by step" 松尾研究室 小島先生 論文 Large Language Models are Zero-Shot Reasoners

ChatGPT(GPT-4）に聞いてみる Zero-shot Chain of Thoughts 正解（不正解 ときもあります）

ChatGPT(GPT-4）に聞いてみる Zero-shot Chain of Thoughts 不正解 例（自分と同じような間違い）

他 LLMに聞いてみる Zero-shot Learning

他 LLMに聞いてみる Chain of Thought

他 LLMに聞いてみる Chain of Thought

プロンプトエンジニアリング ・人へ 指示と同じようにすることが大事 ・具体例をみせる ・ステップバイステップで解説する 高性能なAIが意図通り 回答をしないとき プロンプト（指示）が悪い場合が多い 逆に考えるとAIを通じて指示力を鍛えることができる ※ 人へ プロンプト パワハラに注意

プロンプトエンジニアリング 重要性 水が多すぎてシャビシャビになっ た焼きちゃんぽん おいしい結果が出るか プロンプト次第…かも

LLMにプログラミングを 教えてもらおう

AIに教えてもらうメリット ・自分 レベルに合わせてくれる ・いつでもどこでも聞ける ・何度でも（お金 続く限り）聞ける 解説してもらったり問題を出してもらう がおすすめ

AIに解説してもらう

AIに解説してもらう

AIに練習問題を出してもらう

おすすめ 学習方法 ・解説してもらう ・練習問題を作ってもらう ポイント 自分 レベルに合わせてもらえること

データサイエンスを LLMにやってもらおう

DS Dojo 松尾研究所 データサイエンスを学べる実践的社内コンペ ※ 自己研鑽 プログラムで参加 任意

データ プロンプトとLLM 出力とラベル（LLM モデル）が教師データ

ChatGPTで データ分析 データ 情報と目的を与えておまかせしてみる

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ChatGPTで データ分析

ご清聴ありがとうございました