授業・研究における生成AIの活用事例

Itoh Laboratory, Ochanomizu University 授業・研究における 生成AIの活用事例 伊藤貴之 お茶の水女子大学 共創工学部文化情報工学科／理学部情報科学科 文理融合AI・データサイエンスセンター長 東海大学 FD・SD研修会 2024年8月1日

講演者の経歴 Itoh Laboratory, Ochanomizu University • • • • 1992年 早稲田大学大学院理工学研究科修士課程修了 1992年 日本アイ・ビー・エム(株)東京基礎研究所研究員 1997年 早稲田大学にて博士(工学) 2005年 お茶の水女子大学 理学部情報科学科 助教授 – 2011年 同大学 教授 – 2019年 同大学 文理融合AI・データサイエンスセンター長兼任 – 2024年 同大学 共創工学部文化情報工学科／理学部情報科学科 • 主な研究分野 – 情報可視化、データサイエンス、マルチメディア、 コンピュータグラフィックス、インタラクション 1

生成系AIを安直に課題に使う問題点 Itoh Laboratory, Ochanomizu University 宿題めんどくせー 自分で調べたくねー そうだ、ChatGPTに訊いてみよう それっぽい回答が出たぞ そのままコピペしちゃえ レポート提出！ しかし、時として… なんだこりゃ 間違いだらけじゃないか 2

ChatGPTによる文章生成の仕組み Itoh Laboratory, Ochanomizu University 1. 入力文（プロンプト）を単語に分割して文脈を解析する 東海大学について教えてください 東海大学に ついて 教えて ください 2. 「確率が高い語順で」単語を並べて回答文を生成する 3% 学食がある 15% 校舎がある 20% 神奈川県に 東海大学は 0% 千葉県に 3% 日本全国に 20% 総合大学です 0% 単科大学です 0% 女子大学です 確率的にもっともらしい文を生成しているだけで、正解を保証するわけではない。 3

ChatGPTは平気で嘘をつく Itoh Laboratory, Ochanomizu University ※ChatGPT3.5での事例です。現在ではこういう誤りは減っています。しかしそれでもゼロではありません。 4

生成系AIの問題点をわからせるための宿題 Itoh Laboratory, Ochanomizu University 時々間違った内容を返してくる 情報が古いことがある 質問に沿った回答になってない 自分の興味や主張からずれている もっと具体的な説明が欲しい 文章表現が自分に合わない 自分で書き直さないとベストな提出物にならない ↓ むしろ「書き直し」を宿題にして強制的に体験させるのは？ 5

試しに出した宿題 Itoh Laboratory, Ochanomizu University [Q1] 「〇〇の最新動向を教えてください」の「〇〇」に入る 単語を選んでください。質問文をアレンジしても結構です。 [Q2] Q1をChatGPT（または同等な文書生成AI）に問いかけてその 自動回答を転載してください。質問自体も工夫してください。 [Q3] Q2の回答を自分なりに修正してください。誤っていると 思われる点は修正して、深堀りした点は加筆してください。 [Q4] Q2の文書生成結果のどこに物足りなさや不適切さを 見つけたか、その結果としてQ3で具体的に何を加筆修正 したかをかについて説明してください。 6

対象科目「マルチメディア」 Itoh Laboratory, Ochanomizu University • お茶大 情報科学科の2年生必修科目 • 情報伝達・情報発信に関する技術の科目 – インターネットの仕組みと社会問題 – オンラインコミュニケーションの原理 – 情報デザイン・情報可視化 – 情報伝達手段（画像・音声） – 応用技術（VR/AR, モバイルシステム, 音楽情報処理） 7

Q1: 単語を選んで回答 Itoh Laboratory, Ochanomizu University 5人: バーチャルリアリティ(VR), 音楽情報処理 4人: 情報可視化 2人: 画像処理, 音声認識, ユビキタスコンピューティング 1人: 画像認識, 画像生成AI, 遠隔医療, 電子決済,検索エンジン, IoT, コミュニケーションデザイン, オーギュメンテッドリアリティ(AR), 人工知能, 協調システム, サイバー攻撃, テーマパーク, 脳情報処理 8

Q3: 自分なりに修正 Itoh Laboratory, Ochanomizu University 20人 単純に加筆修正 6人 加筆しつつ部分的に再構成 5人 全面書き直し 次頁以降で具体例を紹介 2人 対応が不十分 ----4人 参考文献提示 ※伊藤の主観による回答観察結果 9

Q4: 修正点の報告 Itoh Laboratory, Ochanomizu University 16人 内容に不足があるので調べた 14人 内容が抽象的で具体例がないので調べた 10人 最新情報を知りたいので調べた 10人 わかりにくい単語や読みにくい言い回しを改めた 4人 知らない点・聞き覚えのない点を調べた 4人 項目の分け方やバランスに違和感があったので直した 2人 自分の経験や知識に沿って調べた 1人 質問の意図と異なる回答があったので調べた 1人 出力された用語を検索したらもっと情報が出てきた 1人 内容に違和感があったので調べた 1人 違和感のある単語を削除した 1人 検索しても出てこない内容が誤りの可能性があるので修正 1人 文章量が多く要点が見えないので簡潔にした 1人 古い内容を割愛した 10

端的な例(1) （ChatGPTの回答の転載） Itoh Laboratory, Ochanomizu University 1. *大規模なモデルの進化*: 大規模なニューラルネットワークモデル（例：GPT-3、BERT）が注目を集め、こ れらのモデルの能力向上が進んでいます。 2. *自己学習と転移学習*: モデルが異なるタスクやドメインで学習した知識を他のタスクに応用する能力が 向上しています。 3. *AI倫理と透明性*: 人工知能の倫理的な側面や透明性に対する関心が高まっており、公平性やバイアス の問題への対処が重要視されています。 4. *自然言語処理の進歩*: 言語モデリングや対話システムの性能が向上し、より自然な対話や文書生成が 可能になっています。 5. *産業への適用拡大*: 人工知能技術がますます企業や産業に適用され、自動運転車、医療診断、製造業 などさまざまな分野での活用が進んでいます。 5項目の箇条書き 最新の動向については、信頼性のあるニュースソースや学術論文、AI関連のカンファレンスの発表をチェック すると良いでしょう。 11

端的な例(1) （学生による書き換え） Itoh Laboratory, Ochanomizu University 1. *大規模なモデルの進化*: 大規模なニューラルネットワークモデル（例：GPT-3、BERT）が注目を集め、こ れらのモデルの能力向上が進んでいます。chatgptがリリースされた当初は使用者が打ち込んだ文字にしか 答えることができませんでしたが、最新のOpenAIでは画像認識、生成技術が備わっており、写真に写ってい るものの名前を調べたり、写真が撮られた場所を提示したりなどに利用されています。 2. *自己学習と転移学習*: モデルが異なるタスクやドメインで学習した知識を他のタスクに応用する能力が向 上しています。今までのAIはあらかじめ備え付けられた多量のデータ、知識、パターンに基づいたことしかで きなかったが、自己学習ができることになったことで、人の力を借りずに自律して存在することができるように なりました。データ解析などの分野では人間が処理できないような膨大なデータ量を処理し、今までのパター ンから学んだ新たな知見で人間が発見できないようなことを見つけ出すということができるため、人工知能は よく利用されています。 3. *AI倫理と透明性*: 人工知能の倫理的な側面や透明性に対する関心が高まっており、公平性やバイアス の問題への対処が重要視されています。今までのAIは自分に組み込まれている知識に基づいて結果のみ提 示するものであったが、近年はその結果に行き着いた納得できる根拠を一緒に提示するようになっています。 このようになった背景はAIが導き出した結論の責任を取るのが人間であるため、多くの人に気軽にAIを利用 してもらいたいという背景があると思います。 4. *自然言語処理の進歩*: 言語モデリングや対話システムの性能が向上し、より自然な対話や文書生成が 可能になっています。特に日本語は他の言語よりも複雑で構文解析、意味解析、文脈解析など様々な解析 から自然言語処理がされています。 5. *産業への適用拡大*: 人工知能技術がますます企業や産業に適用され、自動運転車、医療診断、製造業 などさまざまな分野での活用が進んでいます。無人レジ、自動運転等に利用されています。 各項目の大幅な内容拡充 12

端的な例(2) （ChatGPTの回答の転載） Itoh Laboratory, Ochanomizu University 音楽を対象とした情報処理分野においては、いくつかのトピックやトレンドが存在しています。 1～5の箇条書き 1. **音楽生成の進化:** 機械学習やディープラーニングの進展により、AIによる音楽生成の研究が進んでい ます。生成モデルを用いて新しい楽曲の作成や既存のスタイルからの派生が試みられています。 2. **音楽分類と推薦:** 音楽プラットフォームは、ユーザーの好みに基づいて音楽を推薦するために機械学 習アルゴリズムを使用しています。これにより、ユーザーエクスペリエンスが向上し、よりパーソナライズされ た音楽推薦が可能になっています。 3. **音楽情報検索:** 音楽に関する情報検索技術が進化しており、例えば、音楽を聴いているときに歌詞や アーティストの情報を瞬時に取得できるような機能が開発されています。 4. **音楽と感情の関連:** 音楽と感情の関係に焦点を当てた研究も進んでいます。感情分析技術を用いて、 音楽が聴取者の感情に与える影響や、逆に感情に基づいて音楽を生成する研究が行われています。 5. **リアルタイム音楽処理:** リアルタイムで音楽を処理し、その場で新しい音楽を生成する技術も注目され ています。これには、リアルタイムの演奏や即興演奏を支援する技術も含まれます。 最新の動向に関しては、学術論文、業界のニュース、音楽技術のカンファレンスなどが参考になります。特に 音楽と技術の交差する領域では、急速な進展が見られることがあります。 13

端的な例(2) （学生による書き換え） Itoh Laboratory, Ochanomizu University 機械学習やディープラーニングの進展により、AIによる音楽生成の研究が進んでおり、AIが新しい楽曲を作 成するための生成モデルが進化してきている[1]。楽曲の簡約や木構造による表現をする音楽理論計算機を 実装・応用することで、メロディを簡約化したり演算したりすることが可能になる。この技術によって、AIは楽曲 を作成することができる。 同時に、音楽配信プラットフォームは、ユーザーの好みに基づいて音楽を推薦するために機械学習アルゴ リズムを使用している。これにより、ユーザーエクスペリエンスが向上し、よりパーソナライズされた音楽推薦 が可能になっている[2]。嗜好が類似するユーザに好まれる楽曲を推薦したり、ユーザの聴取履歴に含まれる 楽曲と特徴が類似する楽曲を推薦したりするなど、楽曲推薦方法には様々な方法がある。また、このような推 薦技術は音楽配信プラットフォームに限らず、動画配信プラットフォームやWebサイト上の広告でも使われて いる。 音楽と感情の関係に焦点を当てた研究も進んでいる。感情分析技術を用いて、音楽が感情に与える影響 や、逆に感情に基づいて音楽を生成する研究が行われている[2]。人間の感情状態を推定する感情モデルに はESTMというものがあり、ユーザの現在の感情状態と楽曲の感情特徴をそれぞれ表現することができる。 つまり、ESTMはユーザの状態と楽曲とを関連付けるための橋渡しの役割を担う技術である。 また、音楽に関する情報検索技術が進化してきており、リアルタイムで歌詞やアーティスト情報を取得できる 機能が開発されている[3]。例として、鼻歌で楽曲情報を検索することのできる、「鼻歌検索」が挙げられる。こ れを実現する技術は、まずユーザーが検索画面で口ずさんだメロディーを、機械学習モデルが一連の数字で 構成された数列に変換する。そして生成された数列と世界中の大量の楽曲の数列を比較して、候補の曲をリ アルタイムで識別することで検索結果を表示している。 更に、リアルタイムで音楽を処理し、その場で新しい音楽を生成する技術も注目されている。これには、リア ルタイムの演奏や即興演奏を支援する技術も含まれる[4]。深層学習を使った選曲アルゴリズムを使って曲を 選択するシステムを使い、それを発展させることによって、その場でAIが生成した楽曲を用いてDJを行うとい う、即興性の高いパフォーマンスにも成功した。 箇条書きを含まない完全論述型に書き換えられている ※参考文献4件の掲載付き 14

端的な例(3) （ChatGPTの回答の転載） Itoh Laboratory, Ochanomizu University 1. **ランサムウェア攻撃の増加:** ランサムウェア攻撃は特に顕著で、組織や個人に対する攻撃が増加して います。攻撃者はデータを暗号化し、復号化のための身代金を要求します。また、攻撃者は身代金を支払わ なければデータを永久に失うと脅迫することもあります。 2. **供給チェーン攻撃の増加:** サプライチェーンを標的とする攻撃が増えています。サプライチェーンの一 部である企業やベンダーが攻撃され、それが関連する複数の組織や顧客に影響を及ぼすことがあります。 3. **ソーシャルエンジニアリング攻撃:** 技術的な脆弱性だけでなく、人間の心理や誤った信頼を悪用する攻 撃も増えています。フィッシング、スミッシング、CEOフラウドなどがその例です。 4. **国家レベルのサイバー攻撃:** 国家や政治的な動機に基づくサイバー攻撃が増えています。これには、 政府や重要インフラを標的にした攻撃が含まれます。 5. **AIと機械学習を利用した攻撃:** 攻撃者もAIや機械学習を使用して、攻撃を洗練させることが増えていま す。これにより、攻撃の追跡や検出が難しくなる可能性があります。 これらのトレンドは、サイバーセキュリティの専門家が常に対策を強化する必要性を強調しています。情報セ キュリティの強化、定期的なデータバックアップ、教育とトレーニングなど、対策を総合的に考えることが重要 です。 15

端的な例(3) （学生による書き換え） Itoh Laboratory, Ochanomizu University 2023年は、*ランサムウェア攻撃の被害報道が目立った一年だった（*ランサムウェア攻撃：マルウェア攻撃の 一種で、攻撃者はファイルを暗号化したり、データを持ち出して公開すると脅したり、あるいはその両方を行う ことで通常は暗号通貨による身代金の支払いを被害者に要求する。）。今年注目すべきは名古屋港の港湾コ ンテナターミナルの管理システムがランサムウェア攻撃により停止した事例と言える。総取扱貨物量で日本 一を誇る港湾事業の停止は、経済活動に広く影響を及ぼした。こうした社会インフラがサーバー攻撃により数 日でも停止するに至った事態は国内では初の事例で、深刻である。ランサムウェアの動向を予測する上で押 さえておきたい点が、サイバー犯罪者の分業化が進んでいる実態である。攻撃に使用するツールや攻撃手 法を開発し、サービスとして提供する者、そしてそれを利用する者というように、ランサムウェア攻撃において ビジネスモデルが構築されている。これにより技術的スキルの低い犯罪者であっても容易に洗練された方法 で攻撃に参加できるようになり、ランサムウェア攻撃が増加しているのだ。 アタックサーフェス（攻撃対象領域）の点では、2023年はデータセンターへの攻撃による利用者への被害が 相次いだ。アタックサーフェス拡大状況について理解を深めるため過去数年の状況を振り返る。まず2020年 ごろからネットワーク機器の脆弱性を狙い攻撃したり、不正に入手したアカウントを利用したりする手口で侵 入するサイバー攻撃が常套化した。2022年にはサプライチェーンのつながりを悪用した攻撃が顕在化した。 セキュリティの脆弱な組織を踏み台に、取引先や本社などに、信頼された内部のネットワークを使い侵入を図 るサイバー攻撃である。そして2023年はデータセンターがサイバー攻撃を受けることで、利用している組織の 事業がストップするケースが相次いだ。これは、クラウド（データセンター）への社内リソースの移転が進む中 、組織のセキュリティリスクも組織外に分散していることを象徴する事例だと言える。 組織においては、サプライチェーン全体でセキュリティを考える必要があると同時に、組織内のセキュリティに 関しては、拡大するアタックサーフェスや高度化する脅威への対策のアップデートが求められる。 文章構成を根本から練り直している 16

この課題で学生に体験させた点 Itoh Laboratory, Ochanomizu University • AIの回答文が不十分であることに気づかせる – 誤報や古い情報の可能性 – 説明不足の可能性 • 自分が納得できる文章に書きあげさせる – 語彙の置き換え、構成の練り直しなど • 自分の興味に沿って深堀りさせる – 質問文の練り直し、検索エンジンの併用など 17

実施する上での留意点 Itoh Laboratory, Ochanomizu University • 見本を提示する – 「書き換えるとはどういうことか」を示す （今回は時間がなくて見本の用意まで思いつかなかった） • 問題も学生に考えさせる – 全員同じ問題だとネガティブな協力体制が生まれてしまう – 学生自身が興味を有する問題にしたほうが効果が高い • 「書き直した回答を作ってください」とChatGPTに問わせない – 「どう書き直したかの説明」を具体的に提出させる必要あり 18

生成系AIの回答を雛形にさせる意義 Itoh Laboratory, Ochanomizu University • 文章執筆力はお手本となる文章から学べる点が多い • AIの回答文から学べる点の例 – フォーマルな文章表現 – 複数の情報源からの統合 – 回答内容の分類や構造化 – 質問者が知らない語彙 • AIの回答文は「お手本」としての効果が見込める – レポートに不慣れな1年生に大きな効果の可能性 – 卒業論文のような長大な文書を効率よく作成する一手段 19

学生に伝えたいメッセージ Itoh Laboratory, Ochanomizu University • AIを使いこなすために必要なことは… – 例えば、専門知識、文章力、ITリテラシ • つまり、もともと大学生が勉強すべきだったことが 「AIの普及でますます必要になった」と考えるべき • 生成系AIを活用しつつ自力で文章を書くスキルは大切 – 例えば就職活動のエントリーシート • 生成系AIの発達により 「人間がAIに置き換わる仕事」の定義が変わってきたことを 職業選択時にも意識してほしい 20

結言： 生成系AIから学生が進化する Itoh Laboratory, Ochanomizu University ポール・セザンヌ 「サント＝ヴィクトワール山」 パブロ・ピカソ 「マンドリンを持つ少女」 ※ピカソはセザンヌから多くの画風を学んだ上で独自の作風を築いたと言われている 偉大な画家が先人の作風を学んだ末に進化したように 現代は「AIの回答を学ぶことで」学生が進化する時代 21