[DLHacks] DLHacks説明資料

DLHacks 説明資料 2017年9月時点 松尾研 曽根岡侑也 1

DLHacks 概要 • 目的 最新論文を実装できる人に最短でなるための修業の場 • 活動内容 - 各自論文を読んで実装し共有 - 毎週の勉強会（1名ずつ発表）で解説・ノウハウシェア - その他、実装で役に立つTipsも共有 - Slack + Githubで随時相談 - 計算リソースの提供 • コミット必須 2

DL Hacksでのサポート 個々人が別々に調査・実装 世 の 研究活動 中 の 論 文 ビジネス 3

DL Hacksでのサポート 論文選択と実装のサポート Reddit 世 Twitter の 中 の 論 文 リソースA リソースB リソースC ① フ ィ ル タ リ ン グ よ さ げ な 論 文 研究活動 ② 実 装 ビジネス ・ ・ ・ 4

参加者がやること 論文選択 実装 発表 論文リストやその他リソースから自分の興味に応じて 実装する論文を選択 or こちらで推薦 選択した論文をTensorFlowやPytorchで実装 計算機リソース等のインフラは提供 実装後に週次勉強会で論文と実装を発表・フィードバック その後、githubやブログで公開 5

サポート①：論文フィルタリング 松尾研提供 松尾研研究員等がリストを作成 • 岩澤 有祐 松尾研特任研究員 • 鈴木雅大 松尾研博士3年 • その他研究室内で話題の論文 自分で探す • 学会 - NIPS, ICML, ICLR等 • SNS - Reddit - Twitter - その他 • まとめサイト - Creative AI - GAN Zoo - Arxiv-Sanity など 6

サポート②：実装 • 計算機リソース提供 - GPUマシン1台確保 • ノウハウ共有 - 勉強会での共有・フィードバック - Slackでの随時質問 - Githubでのコードレビュー 7

目標：世界のトップは3日で実装 Star：67（現在302） Reddit：5位 TensorFlow 6/17 実装開始 19 完了 韓国人 Attention Is All You Need Star：126 6/12 arxiv投稿 Reddit：45位 Chainer 6/14 実装開始 17 完了 PFN （6/19 13時時点） 8

DL Seminersよりコミット必要 • 3～4ヶ月に1回発表 • 目安：最初は最低80時間ほどかかるかも - DL基礎講座修了レベル ✕ 最近の論文（TextGAN） - 論文精読：20 ～ 30時間 - frameworkの勉強：30時間 - 実装：30時間～ • TextCNN：10時間 • TextGAN：30時間 - データテスト：10時間 9

進め方 1. 実装する論文と各自の発表日時を決める 2. 毎週のミーティングで進捗共有（必須） - 必ず進捗を持ってきてください 3. 毎週のミーティングで実装発表 - 月曜日20:30～@φカフェ 4. ブログなどにして外部発信（1に戻る） 10

勉強会の時間構成 【担当】スケジュールで決まっている人 実装発表 45分 論文発表 15分 LT 15分 進捗報告・相談 15分 • 10分：発表論文のRecap • 35分：実装&質問 （再現だけでなく+αがあるといい） 【担当】次の週実装発表する人 • 次週発表する論文の内容 【担当】有志 • 実装していて気づいたTipsなどの共有 【担当】全員 • 現在やっていること、困りごとの共有 • 以前に発表したもののアップデートなど • 最近やっている取組など 11