[DL輪読会]Deep Learning 第9章 畳み込みネットワーク

 % 
 
"$  &    !#

�� n�� ���������� ���������� ����������� ��������� ��������������������������� ����������������� �������� ���������� ������������������ ������������������� ����������������������� ������������������������ ��������������������������������������

D9,(*2%
• D9+./0,(*2%
–    
  
  

– ;4?*-1&$8)'>5:#"!+./0,(*2%
•

 
3@B)'
<C)'

– = AD9$76

 )"$! • 


    • 
    –  #$!)"&('%  I :  K :  :   
2

 

#

 
  
   



• %-!'0)"0),($.+&*/
+

-"

&=3

S3 !$. (receptive field)
-"

*%!$.#
> )%!$.#
*%

  
"



/(,

-

   
  
   "%  
1   $ ! #  1!


 
• /


#&$%-
!,



"

(*

+'

.

)

320x280

319x280
http://www.deeplearningbook.org/slides/09_conv.pdf

畳み込み

全結合

畳み込みによる効率性

要素数

2

319*280*320*280 > 80億

1 / 40億

演算数 (乗算, 加算)

319*280*3 = 267,960

> 160億

1 / 6万

• http://www.deeplearningbook.org/slides/09_conv.pdf

 <8;6=?
 
         
• WM+G#2
– 2IPZS


FJUL!$DB+AJEX+UL#2

•

 
 
  
*1. 
) 
-ZS

•

 
 
 
\/R/
 
 
FJ36:9#2IP

– FJ@,QK3WM 
AJ,NO-E"C% WM

• \/R/-T[,75>?40HV)&$UY+G!'-ZS(-*


  • !   –  

  


 "#%
•



 


    

– ).! $(*86(*-+2/417
–  
  
:509',&(*3

http://cs231n.github.io/convolutional-networks/

• http://cs231n.github.io/convolutional-networks/


 ),-$
• L:3

;H<

– 27!@IH8),-$4"/7MH8
– DS. FTPQAEDS.FT NG



6B 

10K=5L:3 RV<C9

"
"

 (#!


• (+*'>O?
• JH%#&27!U







) 



   

  • 
% – , !/ * 
0#"$ – . 
)("$ &' – - 

&' 1+ 

��� ����������������������� • ���������������������������������� ������������������ – ������ ���������������������������� – ������ ���������������������������� – ���������������������������������������� ���������� • ����������������������������������� ����� – ����������������� – ��������������������������������������� ��������

 1%'>0(,56
• "



 
-*>0

– 9?4;:2<=
.37/

8+>0(,&)
$$!#$
stride=2

 -&(2,)+/0
• !$#"%

 


 

– '* 
 1. 
 
 

valid: 
  




same: 
  



��� ������������� •  ������������������������� – ������� 

��������������������� – ��������������������������������������� ������� ���������  &,  =2  - & % - )!
(#  '") $(, & =2 

 1%*;/+-36
• 

 




 



– 4)&2:(,5,0'98#$!.
– 
678 "$



 , 2
- 




��� ���� • �������������������������� – ������������ – ������� ���������������������������� $"%  &    ! → 10# $   

��� ������ • ������������������ 単一チャネル 複数チャネル 1次元 音声波形 スケルトンのアニメーションデータ 2次元 フーリエ変換で事前処理された音声データ カラー画像データ 3次元 体積データ カラー動画データ • �))������������������������� – (�� ������������������ – )�� �������� ������������������������������� ���

 LF:$R'D'*5+4,0
•  


 

– /31-A%PC
–

  

–  

  

 

 
 (https://qiita.com/yu4u/items/34cd33b944d8bdca142d)








• 2.5%Q<)O$!#$ R'D'G?)8M>"(9;%=7&E7$
INKJ

H6:B@

 AD;@"2#-SX*&T\V
•


,T\V,JY-^Z,89=$F#

• SX"1JY4NI('+_.Q.6!>B4R/2

  
*T\V,LP

AD;@+OKH%3)?5B:

SX*&JY+016!>B4JY
•  
*`]EGJY
• 
W[_.Q.MU><=C!7   
 


���� ������������������ • ������I ������������ • �������C��� ���������� ���� �������� ������������������������� ��������� ���������   �������� ���������   ������������ ��
 ������������� �������������� ������� • �������� ������ ��� – ����C ��������������IC���

���� ������������������ ������������������� • ����������� – ��� ���������������������F – ����������������������F – �������������������F – ������ ������������F – ��������� ���������������������������������F • ������� �����������������������������F • ��� – ����������������������������������� ����vowF – ���������������������������������������������

 n3R3@<>E;1YJaKHSk
 
 

•

– ^dic0G(7?BDF1[NI:M6\%*Q`-U_
– ?BDF1P31Wj:V47
–


07fm1O+P3 

 

• LlKeA=C#Ke'*]h.





-Z987]h2^dH0bj

– g0&!'*]h#T58, / /5)1A=C 



2Ke-$, /

.X"587







����������������������� • ������������������������������������ • ������������������������������ – �������������������������� • �������� �������������������������������������������������� – ������� ����������� ������������ ��������������������� • ����������������������������������� – ����� ����������������������������������� – )��� �������� ������� ������

ecdj • ������������� – ���������������������� ����������������������� – ���� ���������������������������������������������������������� �������������������������������� • ����������������������������������������������������������� – ��������������������������� ������������������������������