メディアサービスの基盤としてのナレッジベースの活用と生成方法について / YJTC19 in Shibuya A-3 #yjtc

1.

2.

3.

4.

5.

6.

7.

8.

9.

10.

11.

12.

13.

14.

15.

ナレッジベースの構造化とは？エンティティは Id:1234 クラス情報と ID を持つ Person オントロジー Id:33455 Person Film Id:34 Person Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. Person 出演 Id:905 Id:1334 Thing Person Id:1759 Person 著述 Film Product Broadcast Publication

16.

17.

18.

https://search.yahoo.co.jp/search?p=ブラックジャックによろしく

19.

https://search.yahoo.co.jp/search?p=ブラックジャックによろしく

20.

一般的な KB の活用例3: 推薦システムの強化ナレッジベースを活用し、ニュース記事の推薦システムの精度を向上 Hongwei Wang+ : DKN: Deep Knowledge-Aware Network for News Recommendation, TheWebConf 2018 より引用 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

21.

“Knowledge Base”を引用している論文数の増加 “KB”を引用している ACM/IEEEの新規論文数 1973年 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 年度 2018年参考: http://www.mkbergman.com/2244/a-common-sense-view-of-knowledge-graphs と同様の方法で検証

http://www.mkbergman.com/2244/a-common-sense-view-of-knowledge-graphs

22.

https://search.yahoo.co.jp/search?p=ブラックジャックによろしく

23.

24.

25.

KB 生成の流れ: 入力データデータ抽出構造化データ非構造化データ Wikipedia LOD スキーマ統一社内データエンティティマッチエンティティ接続 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. ・・・ Web上のデータ入力データを同じ形式で取り込む https://ja.wikipedia.org/wiki/%E7%A6%8F%E5%B1%B1%E9%9B%85%E6%B2%BB より引用

https://ja.wikipedia.org/wiki/福山雅治

26.

KB 生成の流れ: 抽出後のデータデータ抽出福山雅治 birth date 1969/2/6 spouse スキーマ統一吹石一恵福山雅治エンティティマッチエンティティ接続 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. perform そして父になる marriage 吹石一恵吹石一恵 birth day 1982/9/28

27.

KB 生成の流れ: オントロジーを用いたスキーマ統一データ抽出福山雅治 birth date 1969/2/6 spouse スキーマ統一吹石一恵福山雅治エンティティマッチエンティティ接続 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. perform そして父になる marriage 吹石一恵吹石一恵 birth day 1982/9/28

28.

KB 生成の流れ: オントロジーを用いたスキーマ統一データ抽出 Person 福山雅治生年月日 1969/2/6 配偶者スキーマ統一吹石一恵 Person エンティティマッチエンティティ接続 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. オントロジー Thing 出演福山雅治配偶者 Person Person ・・・そして父になる出演著述 Broadcast 吹石一恵吹石一恵生年月日 Product 1982/9/28 Publication

29.

KB 生成の流れ: 同一のエンティティのマッチングデータ抽出 Person 福山雅治生年月日 1969/2/6 配偶者スキーマ統一吹石一恵 Person エンティティマッチエンティティ接続 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 出演福山雅治配偶者 Person 吹石一恵吹石一恵そして父になる同一のエンティティ生年月日 1982/9/28

30.

31.

32.

33.

34.

ヤフーでの KB 生成において難しいこと 1. 誤った情報の掲出を可能な限り無くす → 高い精度のエンティティマッチング・データバリデーション 2. ユーザーの多様なニーズに答える → Web上のデータから知識を獲得して KB を拡充 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. ユーザーのニーズはロングテール写真：アフロ

35.

エンティティマッチングについてルールベース手法とグラフベース手法の組み合わせ (Kedar Bellare+ VLDB 2013 の手法の拡張) マッチングに Precision 使用する属性ルールベース識別子 (ISBNなど) Good グラフベースエンティティの持つ様々な属性ルールベース・グラフベースともに Good 制約の調整が必要 Recall Bad Good Good Fair 99% のprecision 詳細は T.Yamazaki+: A Scalable and Plug-in Based System to Construct a Production-Level Knowledge Base, DI2KG 2019 を参照 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 処理速度

36.

データのバリデーションについて既存のKBには不正確な情報が多く存在する人手でのバリデーション機構 • ビジネスロジックやユーザーからのフィードバックに対応自動でのバリデーション機構 • 各情報 (ファクト) の信頼度に基づくバリデーション • オントロジーの制約によるデータバリデーション • … Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

37.

ファクトの信頼度に基づくデータのバリデーションについて各ファクトに信頼度を定義するエンティティマッチング前福山雅治 0.7 生年月日配偶者 0.7 1969/2/6 吹石一恵福山雅治 0.8 配偶者エンティティマッチング後 0.7 福山雅治 !(0.7, 0.8) 出演 0.8 そして父になる吹石一恵 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 生年月日配偶者吹石一恵出演 0.8 1969/2/6 そして父になる

38.

ファクトの信頼度に基づくデータのバリデーションについて各ファクトに信頼度を定義するエンティティマッチング後 0.7 信頼度マージ関数 )* ! ), * = )* + -(1 − ))(1 − *) where - = 0.1 福山雅治 !(0.7, 0.8) = 0.989 信頼度が低いファクトは削除する Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 生年月日配偶者吹石一恵出演 0.8 1969/2/6 そして父になる

39.

バリデーションされたファクトについてファクト数 3.7億 KBに残す全ファクト数 2.7億 1.2億バリデーションされたファクト数 3,000万 18ヶ月間の推移 T.Yamazaki+: A Scalable and Plug-in Based System to Construct a Production-Level Knowledge Base, DI2KG 2019 より引用 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

40.

ヤフーでの KB 生成において難しいこと 1. 誤った情報の掲出を可能な限り無くす → 高い精度のエンティティマッチング・データバリデーション 2. ユーザーの多様なニーズに答える → Web上のデータから知識を獲得して KB を拡充 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. ユーザーのニーズはロングテール写真：アフロ

41.

42.

Webからの知識獲得 • エンティティの公式サイト情報を抽出する場合坂の上の雲ミュージアム公式サイト http://sakanouenoku... 秋山兄弟生誕地公式サイト http://www.akiyama-... 愛媛県美術館ナレッジベース Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 情報抽出対象のページ http://www.bansuisou.org/links/ より引用

43.

Webからの知識獲得 HTMLツリーのパターンを活用して、 KBで未知の知識を獲得 • エンティティの公式サイト情報を抽出する場合坂の上の雲ミュージアム KBで既知公式サイト http://sakanouenoku... 秋山兄弟生誕地 KBで既知公式サイト http://www.akiyama-... KBで未知愛媛県美術館ナレッジベース Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 情報抽出対象のページ http://www.bansuisou.org/links/ より引用

44.

Webからの知識獲得 HTMLツリーのパターンを活用して、 KBで未知の知識を獲得 • エンティティの公式サイト情報を抽出する場合坂の上の雲ミュージアム dl 公式サイト http://sakanouenoku... 秋山兄弟生誕地公式サイト http://www.akiyama-... 愛媛県美術館 dt dd span a 坂の上の雲ミュージアムナレッジベース Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. http://... KBで既知 … dt dd span a 愛媛県美術館 http://... KBで未知

45.

Webからの知識獲得 • エンティティの公式サイト情報を抽出する場合エンティティ名から抽出対象の情報までの HTMLのパスを保存 span -> dt -> dd -> dl -> dd -> a dl dt dd span a 坂の上の雲ミュージアム http://... KBで既知 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. … dt dd span a 愛媛県美術館 http://... KBで未知

http://...

46.

Webからの知識獲得 • エンティティの公式サイト情報を抽出する場合保存したパターンのパスで、 KBで未知の情報の抽出を行う span -> dt -> dd -> dl -> dd -> a dl dt dd span a 坂の上の雲ミュージアム http://... KBで既知 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. span -> dt -> dd -> dl -> dd -> a … dt dd span a 愛媛県美術館 http://... KBで未知

http://...

47.

Webからの知識獲得各パターンの信頼度 • パターンの抽出結果のうち、KBで既知情報であった割合 • 例: 同じパターンから100個情報抽出でき、その内80個が既知の場合: 0.8点例パターン1: span -> dt -> dd -> dl -> dd -> a : 0.8点パターン2: span -> dt -> dd -> a : 0.7点 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

48.

[beta]

Webからの知識獲得
最終的に抽出された知識の信頼度

• 同じ知識を抽出したパターンの信頼度を以下の式でマージ
"$
! ", $ =
"$ + '(1 − ")(1 − $)
例
パターン1: span -> dt -> dd -> dl -> dd -> a : 0.8点
パターン2: span -> dt -> dd -> a : 0.7点

両パターンから抽出した同じ知識の信頼度: ! 0.8,0.7 = 0.989点
信頼度を定義することで、不正確な情報を削除できる

Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

49.

Webからの知識獲得できていること • クローラーが日々ウェブを巡回しコンテンツを収集し、ナレッジベースに新規情報を追加クロール結果を表示今後の課題 • 他の属性への拡張 • エンティティ自体の獲得 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. https://search.yahoo.co.jp/search?p=京都鉄道博物館より引用 (右図)

https://search.yahoo.co.jp/search?p=ブラックジャックによろしく

50.

ヤフーでの KB 生成において難しいこと 1. 誤った情報の掲出を可能な限り無くす → 高い精度のエンティティマッチング・データバリデーション 2. ユーザーの多様なニーズに答える → Web上のデータから知識を獲得して KB を拡充 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. ユーザーのニーズはロングテール写真：アフロ

51.

52.

53.

54.

55.

56.

57.

エンティティマッチングについてグラフベース手法 (Kedar Bellare+ VLDB 2013の手法の拡張) 1. マッチングの対象となるエンティティを絞る (計算量削減のため) 例: クラスで絞る福山雅治そして父になる木村拓哉木村拓哉福山雅治福山雅治 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 木村拓哉そして父になる

58.

エンティティマッチングについてグラフベース手法 (Kedar Bellare+ VLDB 2013の手法の拡張) 2. 各ブロックの中で、属性に矛盾のないエンティティに枝を張る例: 「誕生日」属性を使用 1969年2月福山雅治 1969年2月6日福山雅治 1972年11月13日木村拓哉 1972年4月15日 1969年2月6日福山雅治 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. そして父になる木村拓哉木村拓哉 1972年そして父になる

59.

エンティティマッチングについてグラフベース手法 (Kedar Bellare+ VLDB 2013の手法の拡張) 2. 各ブロックの中で、属性に矛盾のないエンティティに枝を張る例: 「誕生日」属性を使用 1969年2月福山雅治 1969年2月6日福山雅治 1972年11月13日木村拓哉 1972年4月15日 1969年2月6日福山雅治 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. そして父になる木村拓哉木村拓哉 1972年そして父になる

60.

61.

62.

https://lod-cloud.net/

63.

なぜ KB を使うのか？ • 構造の拡張が容易 -> オントロジーの修正 Thing Thing Person Film Product Person 出演著述 Broadcast Publication Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 著述 Film Product Broadcast Publication

64.

65.

66.

https://lod-cloud.net/

67.

ナレッジベースの歴史 Semantic Web Linked Data 2001 2007 Knowledge Graph LOD DBpedia Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 2012 画像: https://googleblog.blogspot.com/2012/05/introducing-knowledge-graph-things-not.html

https://googleblog.blogspot.com/2012/05/introducing-knowledge-graph-things-not.html

68.

ナレッジベースの歴史 Semantic Web Linked Data 2007 Linked 2001 Knowledge Graph • Google による大規模な構造化検索 Open Data (LOD) Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 2012 2014 ヤフーでのナレッジベース作成プロジェクトの開始

メディアサービスの基盤としてのナレッジベースの活用と生成方法について / YJTC19 in Shibuya A-3 #yjtc

Yahoo!デベロッパーネットワーク

関連スライド

深層学習による自然言語処理入門: word2vecからBERT, GPT-3まで

ゼロから始める転移学習

ヤフーにおける WebAuthn と Passkey の UX の紹介と考察 #idcon #fidcon

OpenID Connectとネイティブアプリを取り巻く仕様と動向 Yahoo! JAPANの取り組み #openid #openid_tokyo

運用業務とスクラムは本当に組み合わせにくいのか︖運用業務が大半を占めるプロダクト開発での試行錯誤

ヤフーのオンプレ機械学習基盤AIPFについて #ml_kubernetes

各ページのテキスト