[DL輪読会]Driven by Data or Derived Through Physics? A Review of Hybrid Physics Guided Machine Learning Techniques With Cyber-Physical System (CPS) Focus

DEEP LEARNING JP [DL Papers] “Driven by Data or Derived Through Physics? A Review of Hybrid Physics Guided Machine Learning Techniques With Cyber-Physical System (CPS) Focus” 1 Kensuke Wakasugi, Panasonic Corporation. http://deeplearning.jp/

• http://deeplearning.jp/

書誌情報 2 タイトル： Driven by Data or Derived Through Physics? A Review of Hybrid Physics Guided Machine Learning Techniques With Cyber-Physical System (CPS) Focus (IEEE, 2020)[1] 著者： RAHUL RAI AND CHANDAN K. SAHU（ニューヨーク州立大学バッファロー校） 選書理由： 物理モデルと機械学習の融合による性能向上方法に興味があったため ※特に断りがない限り，本資料の図・表・式は上記論文より引用したものです． [1] Rai, R., & Sahu, C. K. (2020). Driven by Data or Derived Through Physics? A Review of Hybrid Physics Guided Machine Learning Techniques With Cyber-Physical System (CPS) Focus. IEEE Access, 8, 71050-71073. Wakasugi, Panasonic Corp.

背景 3 Cyber-Physical System (CPS)にDLを導入するにあたって物理モデルの併用が重要 Cyber-Physical System ■Cyber-Physical Systemとは？ • • SensorやActuatorを通じて物理世界と関与し， それらの情報をコンピュータ上で処理し，反応する システム Sensor，Actuator，Computer，Networkの4要素 から構成される • 言葉自体は新しいものではない（2006~） • 自動運転システムなどもこれに該当する • Computerの実装としてモデルベース(MB)と機械学 習ベース(ML)とがある • DLの進展でMLの性能が上が向上したが， さらなる性能向上にはMBとMLを融合すべきなので， その関連研究をまとめた． Wakasugi, Panasonic Corp.

全体の構成 4 • SectionⅡ 現在のCPSについて • Section Ⅲ CPSの課題 • Section Ⅳ MB・ML融合の必要性 • Section Ⅴ MB・MLの融合方法 • Section Ⅵ ハイブリッドモデルの評価指標 • Section Ⅶ Future work • Section Ⅷ Conclusion Wakasugi, Panasonic Corp.

SectionⅡ 現在のCPSについて 5 CPSは様々な人間の作業を代替する形で変遷 大きく4種の方法でCPSを実現 ■自動化の対象の変遷 dirty dangerous work dull activity make decisions AI in general machine learning Wakasugi, Panasonic Corp.

Section Ⅲ CPSの課題 6 MBとMLのそれぞれを用いた場合の課題4項目 A. DISCRETIZATION OF THE CONTINUUM ➢ コンピュータの処理は本質的に離散なので，連続的な現象をモデリングするためには 数値近似などが必要 ➢ 離散ダイナミクスをモデリングするには，それよりも細かな時間精度が必要． ➢ 現実的には，コンピュータの処理可能な時間精度には上限があるため，高頻度な離散イベン トは扱えなくなる 例：ボールのバウンド（Zeno behaviorと呼ばれる現象の一例） ある高さから自由落下させたボールは空気抵抗と，地面との非弾性衝突の繰り返しにより， 次第にエネルギーを失い，高度を落とす． 一定時刻が経過すると，バウンドの時間間隔が無限小になる(Zeno behavior） 理論上は定義できてもごく短時間に生じる無限回のイベントを コンピュータで扱うことが難しい Wakasugi, Panasonic Corp.

Section Ⅲ CPSの課題 7 MBとMLのそれぞれを用いた場合の課題4項目 B. ENVIRONMENTAL CHAOS AND LIMITS OF DETERMINISM OF MODELS ➢ 決定論モデルは完全ではなく，現実の事象には少なからずカオス挙動が含まれ，不確実性がある． ➢ 区別できない状態がある場合は，ハイゼンベルグ描像と関連するが ニュートン力学まで拡張されていない C. EVOLUTION FROM NEWTONIAN SYSTEMS TO MERTONIAN SYSTEMS ➢ ニュートンシステムでは因果律が優勢だが，第一原理でうまく説明できない事象に対しては， メルトンシステムが必要（自由意思に基づく決定を含む場合？．交通量や消費行動など） ➢ 両者のメリットを得るためには，両システムの統合方法も必要 Wakasugi, Panasonic Corp.

Section Ⅲ CPSの課題 8 MBとMLのそれぞれを用いた場合の課題4項目 D. ADVENT OF BIG DATA ➢ MBは，逐次増えるデータの処理や，小中規模のデータの処理には有効 因果関係も読み取りやすい ➢ 一方， ➢ 大規模あるいは多様なデータを対象にすると，モデルの複雑化,・説明変数の増大につながり， 悪影響を及ぼす可能性がある． ➢ MLであれば，ビッグデータの処理が可能で，より広範囲の状態空間をカバーできるが， 説明可能性が犠牲になる ここまでを総括すると，CPSにおいてMB、MLをそれぞれ単独で使うと 離散・連続の違い，決定論・確率論の違い，ビッグデータの処理で良い点悪い点があるので， 統合することでうまく解決できるといいよね，ということ Wakasugi, Panasonic Corp.

Section Ⅳ MB・ML融合の必要性 9 両者のメリットが互いに補っているので，融合することでより良いモデルが実現できる MB ML データ 不要 必要 ダイナミクスの知見 必要 不要 カバー範囲 原理が成立する範囲すべて データが得られた範囲のみ 正確さ 近似を含む データ範囲では MBより正確 データ追加時の修正 困難 容易 Zeno behaviorの考慮 知見として 埋め込み可能 データに含まれなければ 困難 Wakasugi, Panasonic Corp.

Section Ⅴ ハイブリッドモデル 10 MLの予測が物理的に不整合にならないようにMBで制約 Wakasugi, Panasonic Corp.

Section Ⅴ ハイブリッドモデル 11 ML（NN）にMBを組み込む方法は3通り A. PHYSICS BASED PREPROCESSING (PBP) B. PHYSICS BASED NETWORK ARCHITECTURES (PBNA) C. PHYSICS BASED REGULARIZATION D. MISCELLANEOUS ARCHITECTURES ※左記Dは分類できなかったもの SVRやRFとの組み合わせもあるが，サーベイではNNに限定 Wakasugi, Panasonic Corp.

Section Ⅴ ハイブリッドモデル 12 NNへの入力にMBを考慮したデータを渡す A. PHYSICS BASED PREPROCESSING (PBP) ➢ 規格化や、データクレンジング相当の処理も含む ➢ 物理的な処理としては，信号処理で用いられる フーリエ変換などを指す Wakasugi, Panasonic Corp.

Section Ⅴ ハイブリッドモデル 13 NNの各レイヤーでMBの出力と統合 B. PHYSICS BASED NETWORK ARCHITECTURES (PBNA) ➢ CNNやRNNの入力にMBの出力を統合 ➢ 最も有機的に手法の融合ができそうな方法 ➢ 引用文献の中には，ラグランジュ方程式の 関係式をNNの中に組み込む手法もある※ ※Deep Lagrangian Networks: Using Physics as Model Prior for Deep Learning Wakasugi, Panasonic Corp.

Section Ⅴ ハイブリッドモデル 14 正則化項としてMBを統合 C. PHYSICS BASED REGULARIZATION ➢ モビリティの経路予測だとすれば，運動方 程式を満たすように要請する ➢ NNを分布とみなす場合，物理的な要請は Priorに相当する． Wakasugi, Panasonic Corp.

Section Ⅴ ハイブリッドモデル 15 その他の関連研究 D. MISCELLANEOUS ARCHITECTURES ➢ データからの物理法則の導出 既定関数を複数用意して，データを説明できる規定を選出するなど ➢ 三次元構造間の類似性をNNで測る ➢ ダイナミクスの不明な要素をNNで代替して，モデルを構築 Wakasugi, Panasonic Corp.

Section Ⅵ 評価指標 16 誤差指標は一般的なものを利用 A. UNIVERSAL ERROR MEASURES ➢ MSEやMAE，相関係数など Wakasugi, Panasonic Corp.

Section Ⅵ 評価指標 17 一般的な誤差指標は利用可能 B. UNIVERSAL METRICS OF A MODEL 1) INTERPOLABILITY 2) EXTRAPOLABILITY 4) ROBUSTNESS TO NOISY DATA 5) MODEL COMPLEXITY FLOPs 処理は軽いほうがいい 3) OPTIMAL SIZE OF DATA 追加データの誤差の差分が 閾値を下回ったら，十分 Wakasugi, Panasonic Corp.

Section Ⅶ FUTURE WORK 18 今後取り組むべきポイント A. HYBRID MODELS: MODEL SELECTION ➢ 物理モデル，DLのそれぞれでは処方箋があるが，統合する場合にはまだ整備されていない ➢ ガイドラインが欲しい B. BENCHMARK PROBLEMS IN HYBRID DOMAIN ➢ ImageNetのようなベンチマークが欲しい ➢ アプリケーションが多岐にわたるので，ドメイン間での比較もできるとよい C. REGRESSION PROBLEMS WITH LOW AMOUNT OF DATA ➢ データの少ない問題設定でいかに精度を上げるか ➢ MB＋MLの組合せで，それぞれ単体よりも性能向上した事例は報告済みだが，シンプルな設定に留まる Wakasugi, Panasonic Corp.

Section Ⅶ FUTURE WORK 19 今後取り組むべきポイント D. LEARNING WITH LESS LABELS ➢ semi-supervised、unsupervisedでもよいので， ラベルの少ない問題設定に対するアプローチの研究が必要 E. INTELLIGENT COLLECTION OF DATASETS FOR HYBRID MODELS ➢ 状態空間すべてを網羅するデータセットが理想 ➢ 少なくともシステムが破綻しない程度に，未知の（外挿的な）データを収集しておきたい F. GEOMETRIC MACHINE LEARNING IN CYBER-PHYSICAL SYSTEMS ➢ システムが複雑になると多様なデータを扱うようになるので，データの構造を考慮した手法が必要 G. IMBALANCED DATA AND DATA AT TAIL ➢ 生起確率の低いデータは，データ生成も予測も困難 場合によっては危険なこともあるため，単純に生成すればよいわけではない Wakasugi, Panasonic Corp.

Section Ⅷ Conclusion 20 ➢ Cyber-Physical System (CPS)においてMBとML(DL)を組み合わせることで 互いに補完し，性能向上が期待できる ➢ 統合方法としては，DLをベースとして，下記３つ分類される． -入力にMBの出力を統合する -NNの中間層に統合する -正則化項として統合する ➢ データの不足，ベンチマークの不足等々の課題は，他の分野同様に山積している Wakasugi, Panasonic Corp.

感想 21 ➢ CPS特有の課題や手法は少なく，機械学習一般に認識されていることが多かった． ➢ 基本的にはMBで解釈ができない部分をMLで代替し，データから学習するという方針． 実装上はNNのどこにMBを組み込むかといった視点になるが， 実際にはMBをできるだけ正確に構築し，解釈できない個所にNNをあてがうイメージ ➢ ラグランジュ方程式のNNへの組み込み等，物理モデルとの統合方法については， 参考文献をあたりたい． Wakasugi, Panasonic Corp.