企業で3年間言語処理と働いて思ったこと #NLP2021 #NLP2021WS4

企業で3年間言語処理と 働いて思ったこと 2021年3月19日 資料中のイラストは「いらすとや」を使⽤ ヤフー株式会社 馬緤美穂（Miho Matsunagi） Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved.

⾃⼰紹介 ⾺緤美穂（まつなぎみほ） 2009年~2013年 東京⼤学教養学部理科⼀類→超域⽂化科学科 2013年~2015年 東京⼯業⼤学奥村・⾼村研究室（修⼠課程） 2015年~2018年 東京⼯業⼤学奥村・⾼村研究室（博⼠課程、博⼠号は未取得） 2018年~2021年 ヤフー株式会社 ⼤学時代のテーマ︓⾃然⾔語処理（Twitterからの情報抽出） 現在の仕事︓⾃然⾔語処理（ウェブ検索のクエリ処理）＋α Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. 2

今⽇話すこと • ⽬的︓⼤学での研究→企業での開発のギャップ を補完できるようなイメージを付ける • ⼤学の研究⽣活が現職に与えたインセンティブ • 研究⽣活において成果が思うように出ない時の過 ごし⽅ • 企業での開発・研究において学⽣時代に意識して おくといい点 ※ 本⽇の内容はすべて個⼈の体験に基づくものです Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. 3

⼤学→企業の経緯 • 博⼠課程⼊学直後はあまり企業を意識せず • D2くらいから︓アカデミアに限らず視野を広げる • • • NLPのスポンサーをしている企業を主にサーベイ 学会に来ている企業の⽅と話す その時の疑問 → @pawjunさん (乾・岡崎研→ヤフー) • 「しっかりとNLPをやっている会社ってあるんだろうか︖」 • 「（会社を⾃由に選べる程優秀ではなくても充⾜できる会社は あるんだろうか）」 → 「意外とあるかも︖」と興味を持つ Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. 4

⼤学→企業の経緯 • 選考を受ける中で疑問を解消していく NLPを実務に活かせている • • • • そして外部にも発信できている↓ 社員の⼈柄にも親近感を覚え、充⾜できそうだと思う 先⽣⽅とも相談した上、卒業せずに⼊社することに https://randd.yahoo.co.jp/jp/aboutus Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. https://www.slideshare.net/techblogyahoo 5

• https://randd.yahoo.co.jp/jp/aboutus
• https://www.slideshare.net/techblogyahoo

⼤学→企業の経緯 • ⾃然⾔語処理を扱う部署に配属 • • • 対話システムの発話や検索クエリ解析 これらのシステムを安定して提供する ための運⽤ ユーザー数の多いWebサービスに ⾃分の仕事が反映される→楽しい︕ • 現在も恵まれた同僚・環境の下、 楽しく⽣きてます Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. 6

研究⽣活が現職に与えたインセンティブ • 「⾃然⾔語処理をn年触ってきた」経験は役に ⽴った • 会社において⾃然⾔語処理のニーズは⼤きい • 研究室で培った⾃然⾔語処理の「勘所」は当たり 前のようで貴重 • ⾔語処理に限らず研究経験も⽇々の業務で活⽤ できる Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. 7

社内の⾃然⾔語処理ニーズ ⾔語情報の含まれる⼤量のデータを処理したいサービスは多い ショッピング 商品がまだ届かない 商品がまだ届かない アプリが起動しない 商品がまだ届かない オークション アプリが起動しない 店舗からメールが来ない アプリが起動しない ニュース 店舗からメールが来ない 商品の到着⽇を確認したい 店舗からメールが来ない 商品の到着⽇を確認したい アプリが落ちる 商品の到着⽇を確認したい 様々なサービスに アプリが落ちる … アプリが落ちる … 含まれるユーザーの声 … を問題の種類ごとに 分けたい 福岡 賃貸 北九州 新築 ⼩倉駅近く 地名解析の開発 コストを抑えたい 送料無料 福岡 もつ鍋 もつ鍋セッ ト 2⼈前 期⽇指定不可 おいしい キーワードを ⾃動判定したい Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. ニュースの⾒出し ⽣成を楽にしたい 8

⾃然⾔語処理経験の活⽤⽅法 • ⾔語処理の課題に対して「勘所」がある • 社内の全員が⾔語処理の専⾨家ではないため、「当たり前」に⾒える知⾒の共有も役に⽴つ ショッピング 商品がまだ届かない ドメイン(サービス)が多い 商品がまだ届かない アプリが起動しない 商品がまだ届かない オークション から、まずは汎⽤⽂書分類 アプリが起動しない 店舗からメールが来ない モデルである程度対応 アプリが起動しない ニュース 店舗からメールが来ない 商品の到着⽇を確認したい 店舗からメールが来ない 商品の到着⽇を確認したい アプリが落ちる 商品の到着⽇を確認したい 様々なサービスに アプリが落ちる … アプリが落ちる … 含まれるユーザーの声 … を問題の種類ごとに 分けたい 送料無料 福岡 もつ鍋 もつ鍋セッ ト 2⼈前 期⽇指定不可 おいしい ストップワードで 「送料無料」は 除外できる︖ キーワードを ⾃動判定したい Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. ドメインが地名だけなら ルールベースで様⼦⾒して 福岡 賃貸 北九州 新築 ⼩倉駅近く から機械学習も検討 地名解析の開発 コストを抑えたい 深層学習による要約 技術＋今までの⾒出し データで学習 ニュースの⾒出し ⽣成を楽にしたい Murao et al. NAACL 2019 9

研究経験がどう役に⽴つか • 研究経験で得た能⼒はずっと使える • • • 問題に対して⼿順を踏んでアプローチした経験 ⼝頭や⽂書での発表経験 他者の成果にレビューして改善していく経験 • 採⽤⾯接〜普段の業務までずっと活きてくる • ⾔語処理以外の分野でも活かせる • 他分野→⾔語処理部署に来た⼈でも研究経験を活かして 活躍 Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. 10

学⽣時代と企業時代の違い • ⽬指す⽅向性がやや異なる ルールベースで様⼦⾒し たけどこれで⼗分だった • 学⽣︓何かしらの前⼈未到を成し遂げる • 企業︓何かしらビジネスとして有益なことをする • 研究も「サービスで応⽤できるか」という視点が重要 • ⼀⽅で「枯れた技術」で⽬的を達成しても⽴派な成果 • 重要︓問題の解決を⽬指す上での過程が 学⽣時代と⼤きく変わることはない Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. 11

学⽣時代に意識してほしいこと • 今のままで⼗分 学⽣時代にできることをしっかりとやってほしい • • ドメイン知識、サーベイ習慣、実装⼒、（⾃⾝の研究についての）コ ミュニケーション能⼒、…… • • （会社でだけ必要なことは⼊社してからで⼗分） 学会等のイベントで作る⼈脈は重要 • • • ⼈⽣の参考になる⼈や相談できる⼈を研究室の内外に アカデミア以外の選択肢も実感できるように 学会には不参加の研究室 ⼈⽣に困った時は「困りごとの先輩」にも Copyright (C) 2021 Yahoo Japan Corporation. All Rights Reserved. の仲間にも伝えておいて ください︕ 12