【ゼロから作るDeep Learning】2.1~2.3

2024年度前期輪読会 ゼロから作るDeep Learning 2.1~2.3 パーセプトロンの概要と事例紹介 栗林 雷旗 0

パーセプトロンの概要 コンピュータが物事の判断基準とするルール ● 複数の⼊⼒信号→ひとつの出⼒信号 ● ⼊⼒の重要性に応じて重みを導⼊ ● 出典: zero to one 1

• https://www.google.com/url?sa=i&url=https://zero2one.jp/learningblog/origin-of-neural-networks/&psig=AOvVaw0GwXS5ouys3yDrfcKMYbs5&ust=1714726638378000&source=images&cd=vfe&opi=89978449&ved=0CBQQjhxqFwoTCLj0udPM7oUDFQAAAAAdAAAAABAE

パーセプトロンの事例紹介 本⽇紹介する論⽂ ● 論⽂タイトル 殿⾕徳和⽒「多層パーセプトロンによるパターン識別に適した特徴抽出器の再学習」 リンクをクリックするとすぐダウンロードされるため注意 ● 論⽂の流れ ⽬的: ⼈の顔画像のパターン識別に適した特徴を得て識別精度を向上させること • 識別⼿法 • • • • 主成分分析(PCA) 3層パーセプトロン サポートベクターマシン(SVM) 提案⼿法 実験 • 結果 • • 出典論文より引用 2

• https://naist.repo.nii.ac.jp/?action=repository_action_common_download&item_id=6851&item_no=1&attribute_id=12&file_no=1

主成分分析(PCA)と3層パーセプトロン ● PCA • • • ● 次元削減を⾏い、最も情報量の多い特徴空間*を得る抽出器 主成分: 共分散⾏列の固有値のうち⼤きいものに対応する固有ベクトル ⽬的関数(モデル性能評価に使⽤)を最⼩にする直交⾏列Wを決めたい 3層パーセプトロン • • • • • 下位パーセプトロン: 特徴抽出器 上位パーセプトロン: 識別器 →上位と下位の同時学習 問題点: 局所解*に陥る危険性(多次元) →PCAで得た主成分を初期値*に使⽤ 3層パーセプトロン(出典論文より引用) 3

結果 ● 出典元研究の狙い: パターン識別に適した特徴を得て精度向上 →3層パーセプトロン特徴抽出層の再学習により実現 出典論文より引用 6

7