--- title: 松尾研LLMコミュニティLLMATCHS4成果発表会_堀田 大智 tags: #llmatch author: [松尾研LLMコミュニティ](https://docswell.com/user/matsuo-lab_llm) site: [Docswell](https://www.docswell.com/) thumbnail: https://bcdn.docswell.com/page/KE4WNXXYJ1.jpg?width=480 description: ■ 2026/9/16(金)開催 LLMATCH [Season4] 成果発表会 2026年4月にスタートしたSeason4では、約6ヶ月にわたり58名の学生がLLMの研究開発に挑戦し、最先端の技術に取り組んできました。2026/9/16(金)にオンラインにて、 "LLMATCH [Season4]" の成果発表会を行いました。 ▼発表内容：発表者(3名) 1. GNN評価のための引用ネットワークにおける視覚的類似性と構造的集約：小野塚　荘一さん（WI-IAT 2026 採択者） 2. BabyLMにおける再帰的Transformerの可能性とマルチモーダル学習の壁：堀田 大智さん（EMNLP 2026 Workshop（BabyLM） 採択者） 3.Graph RAGにおける研究成果の報告：清 恵人さん (AACL-IJCNLP 2026 採択) ▼アーカイブ動画はこちら https://youtu.be/G1-Z9ljJtwc ---- ■ LLMATCHとは 「LLMATCH」という名称は、"Large Language Model Advanced Training & Challenging Hub" に由来し、学生の皆さんが持つLLM（大規模言語モデル）に関するアイデアを、研究として発展させることを目的としたプログラムです。 本プログラムでは、東京大学 松尾・岩澤研究室の研究員が、最大1年を目安に、参加者一人ひとりの関心やスキルに応じて、次のキャリアや挑戦につながる支援を行っています。 また、研究メンバーの活動を支える「アシスタント」ポジションも設けており、学生・社会人を問わず、コミュニティの一員として研究の進行をサポートしてくださる方を広く募集しています。 ■ LLMATCH仮応募について LLMATCHにご関心のある方や、次期プログラムへの参加を検討されている方向けに、2027年4月スタート予定のSeason6に向けた「仮登録」の受付を開始しております。 正式な募集開始時に優先的にご案内をお送りいたしますので、ぜひお気軽にご登録ください。 ▼ 仮登録フォームはこちら https://forms.gle/qKvLoobRdip5pzKi9 published: October 01, 26 canonical: https://docswell.com/s/matsuo-lab_llm/KL36E6-LLMATCHS4-hottadaichi --- # Page. 1 ![Page Image](https://bcdn.docswell.com/page/KE4WNXXYJ1.jpg) # Page. 2 ![Page Image](https://bcdn.docswell.com/page/L71Y5NNNJG.jpg) LLMATCH 【 Season 4 】成果発表会 BabyLM における 再帰的 Transformer の可能性と マルチモーダル学習の壁 堀田 大智 LLMATCH 研究員 EMNLP 2026 併設 BabyLM Workshop 2026 年 9 月 16 日 1 # Page. 3 ![Page Image](https://bcdn.docswell.com/page/G7WGWMMME2.jpg) BabyLM Challenge とは  コンペと研究発表のワークショップを組み合わせた取り組み 人間と LLM の学習データ量の違い  現在の大規模言語モデル（ LLM ）は 人間の子どもが経験する言葉の量をはる かに上回る大量のデータで学習  一方 子どもは赤ちゃんから思春期までに触れる比較的少ない言葉から言語を 獲得 BabyLM Challenge の目的  子どもが触れる言葉の量を参考に 文章を 1 億語以下に制限し その中で言語 能力の向上を競うコンペ  参加者による 学習方法やモデル構造の工夫 BabyLM Challenge 公式サイト； Hu et al. (2024) 2 # Page. 4 ![Page Image](https://bcdn.docswell.com/page/4JZL5QQME3.jpg) BabyLM のマルチモーダルトラック  2024 ・ 2025 年に 文章と画像を使うマルチ モーダルトラックを実施 画像とキャプション  子どもは 言葉を聞くだけでなく物や人の動 きも手がかりに 言葉を習得  画像も学習の手がかりに加え 文章のみの場 合を上回る言語能力の獲得を目指すトラック  学習データは「文章のみのデータ」と「画像 とキャプション（説明文）の組」の 2 種類 A dog is running. 写真： SpanishSnake / Wikimedia Commons / CC0 3 # Page. 5 ![Page Image](https://bcdn.docswell.com/page/YE6W9665EV.jpg) BabyLM で画像を活かす難しさ 大会の結果とトラックの統合  2024 ・ 2025 年の大会集計では ベースラインを上回る提出なし  提出数の少なさもあり 2026 年に独立したマルチモーダルトラックを統合 Hu et al. (2024) ； Charpentier et al. (2025) ； BabyLM 2026 募集要項 文章のみで学習したモデルとの比較  画像と文章で学習したモデルについて 文章のみのモデルより言語成績が改善 しない例や 文法課題の正答率が低下する例の報告 Klerings et al. (2024) ； Takmaz et al. (2025)  画像と言語の情報を組み合わせて理解するための計算量が足りていないので はないかという仮説 4 # Page. 6 ![Page Image](https://bcdn.docswell.com/page/GE5MN66GE4.jpg) Looped Transformer とは 標準 Transformer との違い text tokens x embedding E(x)  標準 Transformer ：層ごとに異なる重みを 使う構造 E(x)  Looped Transformer ：同じ層のまとまりを 同じ重みで繰り返し使う構造 k<K shared core 繰り返し 12 layers 本研究での設定 +  12 層の処理結果を同じ 12 層へ戻し 合計 4 回の処理 nal RMSNorm  重みを使い回すため パラメータ数は一定 tied LM head k=K next-token prediction standard: K = 1, a = 0, Ninj = 0 looped: K = 4, a = 1; Ninj = 0 (prex once) or 2 (loop_mm) 図1 本研究の Looped Transformer 5 # Page. 7 ![Page Image](https://bcdn.docswell.com/page/97295MMDJR.jpg) モデルの比較条件 標準型 ループ型 同じパラメータ数 12 層 12 層 × 4 回 同じ推論計算量 48 層 12 層 × 4 回 図2 比較するモデルの層数と繰り返し回数  上段はパラメータ数 下段は推論時の計算量をそろえた比較 6 # Page. 8 ![Page Image](https://bcdn.docswell.com/page/DJY4KXXM7M.jpg) 画像を使う条件と使わない条件の比較 使う文章の量を 1 億語にそろえて 4 つの条件で比較 モデル 文章のみ 画像と文章 標準 Transformer 標準型 × 文章のみ 標準型 × 画像と文章 Looped Transformer ループ型 × 文章のみ ループ型 × 画像と文章  キャプションも 1 億語に含めるため 画像を使う条件では 学習する文章の構成 も変化  すべての条件を 文法課題 BLiMP の正答率で評価 文法的に自然な英文を選べるかを測る課題 7 # Page. 9 ![Page Image](https://bcdn.docswell.com/page/V7NYR113E8.jpg) 分かったこと 同じ推論計算量での比較  12 層を 4 回使うループ型は 48 層の標準型より高い文法課題の正答率を記録 画像を使う条件と使わない条件の比較  過去の報告と同様に 画像を使う条件は 文章のみの条件より低い正答率  ループ型でも 画像を使う条件と使わない条件の正答率の差に 明確な縮小なし  画像の有無だけでなく 学習する文章の構成にも違い 8 # Page. 10 ![Page Image](https://bcdn.docswell.com/page/YJ9PM55P73.jpg) 論文情報 EMNLP 2026 併設 BabyLM Workshop Loop Before You Leap: What Recurrent Depth Can and Cannot Buy in Data-Limited Pretraining Daichi Hotta, Yohei Kobashi, Takeshi Kojima, Yusuke Iwasawa, Yutaka Matsuo 詳しい実験条件や追加分析は 公開後の論文で紹介 9 # Page. 11 ![Page Image](https://bcdn.docswell.com/page/GJ8DLYYXJD.jpg) 効率的なGraph RAG 2026.9.16 LLMATCH 研究員 清 恵人 # Page. 12 ![Page Image](https://bcdn.docswell.com/page/LJLML44NER.jpg) Retrieval Augmented Generation (RAG) • Pre-trainした情報しか答えられない • 外部データからcontextを 取得し、回答をする • 再学習不要 [1] Wenqi Fan, Yujuan Ding, Liangbo Ning, Shijie Wang, Hengyun Li, Dawei Yin, Tat-Seng Chua, Qing Li, A Survey on RAG Meeting LLMs: Towards Retrieval-Augmented Large Language Models, 2024, arxiv # Page. 13 ![Page Image](https://bcdn.docswell.com/page/47MYMKKQ7W.jpg) Graph RAGとは • グラフ構造を活用して知識を整理・検索するRAGのサブフレームワーク • 外部知識をベクトル→構造データを採用し知識間の依存関係をモデル • 全体フロー： • Knowledge Organization: 外部知識を構造化する • Knowledge Retrieval : 関連情報を検索する (論理的な一貫性) • Knowledge Integration : 検索結果を統合して回答を出力する [2] Qinggang Zhang, Shengyuan Chen, Yuanchen Bei, Zheng Yuan, Huachi Zhou, Zijin Hong, Hao Chen, Yilin Xiao, Chuang Zhou, Junnan Dong, Yi Chang, Xiao Huang, A Survey of Graph Retrieval-Augmented Generation for Customized Large Language Models,2025,arxiv # Page. 14 ![Page Image](https://bcdn.docswell.com/page/P7R9VXXKE9.jpg) Graph RAGの処理フロー • Q : Which language do Jamaican people speak? Jamaican English language spoken ・・・・ ・・・・ Jamaican English Close to Official language Haiti 関係するpathを 抽出する Jamaica -> official language -> English Jamaica -> language spoken -> Jamaican English Jamaica -> close to -> Haiti LLMを用いて推論 English , Jamaican English # Page. 15 ![Page Image](https://bcdn.docswell.com/page/PJXQZ6657X.jpg) Graph RAG (prompt 例) I NST RUCT I ON Based on the reasoning paths, please answer the given question. Please keep the answer as simple as possible and return all the possible answers as a list. REASO NI NG PAT HS ▸Jamaica → official language → English ▸Jamaica → language spoken → Jamaican English ▸Jamaica → close to → Haiti QUEST I ON Which language do Jamaican people speak? # Page. 16 ![Page Image](https://bcdn.docswell.com/page/3JK9811RJD.jpg) Graph RAGとRAGの違い 1. 文章間の関係を考慮する 2. 構造データにより低コスト 3. 画像・数値データ・グラフデータ など様々なデータが扱える 4. 推論パスの出力により解釈性 [2] Qinggang Zhang, Shengyuan Chen, Yuanchen Bei, Zheng Yuan, Huachi Zhou, Zijin Hong, Hao Chen, Yilin Xiao, Chuang Zhou, Junnan Dong, Yi Chang, Xiao Huang, A Survey of Graph Retrieval-Augmented Generation for Customized Large Language Models,2025,arxiv # Page. 17 ![Page Image](https://bcdn.docswell.com/page/LE3W2QQGE5.jpg) Graph RAGの難しさ 多hop推論が求められる Q :The person educated at Chase Lane Primary School played for what team in 2011 (チェース・レーン・プライマリー・スクールで教育を受けた人 物は、2011年にどのチームでプレーしましたか？) Student graduates Chase Lane Primary School David Beckham World cup team Current squad Current club LA Galaxy # Page. 18 ![Page Image](https://bcdn.docswell.com/page/8EDKZ99N7G.jpg) 既存研究で行っていること • モデルの学習 GNNを学習して推論する • 複数のLLM callによる推論 plan-> 検索 -> 推論-> 強化 新しいデータに対応できない コストが高い # Page. 19 ![Page Image](https://bcdn.docswell.com/page/V7PKDZZNJ8.jpg) 提案手法 Training free かつ Single LLM call メリット • Training free → 変化するデータ(Knowledge) に対応できる 学習データが不要になること • Single LLM call → モデルのコストを抑えることができる # Page. 20 ![Page Image](https://bcdn.docswell.com/page/2JVV1WWYJQ.jpg) まとめ BACKGROUND • Graph RAG はグラフ構造で外部知識を整理し、関係性を辿った解釈性の高い 回答を生成する PROBLEM • GNN 学習型は新しい知識に対応できず、複数 LLM call 型は推論コストが高い PROPOSAL • Training free かつ Single LLM call の Retrieval により、両者の弱点を同時に解 消する 詳しい内容は公開後の論文を参照ください。 Title : 「Training-Free Residual-Guided Retrieval for Multi-hop KGQA with SingleStep LLM Inference」にて公開予定です。