>100 Views
November 22, 18
スライド概要
2018/11/22
Deep Learning JP:
http://deeplearning.jp/hacks/
DL輪読会資料
tnh u Nm a 6 -5 1 -5 1 po le c 1 5A 1 6 45 1 1 1 1. 5 5 5 . 1. 1 . 45 3 7 N G l l V l Ni D Ni FD sg d rkf 27 1
210 00 / 00 / • 3 -3 3 3 ( • . -3 . . • . . 1 . . 1 . ) - / 3 . , 3 .) 3 3 .) 3 ( .3 3 . ( 3 .( , .3 . .( .) 3 (. ) .( .) 3 ) ). , 3 ) .( ,. , - . 3 (3 . 3 . (3.) 3 3 - . -3 ,3 3 ( .) 3 , 3 3 - (3 3 ). ( . 3 . .) 3 3 . , . .
A A ond c K n t Av A d G K A 4 on eA N A i A c Aon
• • • • 5 5 5 5 5 5 5 5 5
• • • • • 6 •
• 1 • • g g 7 K t te i F 0 3 s • r • • s 1 0 1
) • • l a l • • ( l n G d d a o • G • • 8 a A i a G N t A a i C N i N
• • T 9 • • O N T 9 TGTVM • • 9 A M A N N N 9
• • 01 01 01 • • • • • 1
- • • • • • • 1 1 1
• • • Sa e i • N Dc Dc J G h g a D G a J J G D )11 D G • A d 1 ( ) 21 - 1
• • • 1 ) 3 ( 3 ) a S
• .2 1 • • • • • • L L 4 3 .2 . 3 . 4 . 4 3.2F 4 34
• oL=2 • • • 5 U t= = f w t oL= = 2 i= G P G p= a ( lt a 1 r 2 1( c
• F • • •d 2 2 a )( 6 e 2 14
• • 17 • 7 0 7 1 • • 7 1 0
• M ia • a r • i 8 • o n a wp m 1 8 1 1 wp z 0
• •e M M G • M • • • • l • M 2 M A 0 H 0 2 1NduM d M a 0 W1 M 9 rG 0 A s9 0 9 0 M
• • • • • • 0 K a 2 1 a
• 2 • • • • 2 K T 1
• • • c K 1 • +- + + 2 T a
• • x • nc t • FG a • 50 2 2 • lN d • • • i A if k w 55 3 t p FG a 1 xV i AG o A t ( ) i ( ) i G e i A ((
• 7 ( • •A 4 7 )( 4 F ( G 2) 4 ) 2
• • • • • ( ) 2 8 2 F 5 ( 5 5 ( ( ) 2 F 2 5 F 5
• - - • 2 • • • 2 2 2 2 2 62 2 2
•l i • •l l c f7 l • r 0 • r od p a 0 od i p t 2 0 2 c
• • • F 89 ) ( 2 9
• • • • E t u ng = d h • 2 E g F o n 9F r E n = 3F • 9 • 3F dE d 3F
• ga s 3 • •l • n 3 m i0 3 1 3 3 p 1
• • ha • 5 t 6 • l o • 5 • • G 3 0 A 6 W G8 w 5 124 6 * c o N M A 6 6 G f P 6
• x x LNa D • s a •3, • 591 •3 0 5 • 0 *9 068 • 068 • M a r K U p 4 U x p =B D 0G I, d e ( P D D U 068A 2 D i S VM )0. n P V 068 D P D
• • • • C 3 -2 • C 3 21)- -21 -) 2 )c b a T 2 1) 2 2 1) - -1 2 2 3-1 3
-/ -- • •f c •38 0 ... -/ e 4 a e i - r tW d h • n d b a i d el n a i • 8 *1 V L w 38 0 4 NFLu D e W F 8 5 p o u 28 11 FL ah F gb
• • 97 62 9 d M racra racra s p re N • t d s u • 5 10 3S ns ea M • h yN n p CG --R N or a y u i i A A i M K A K s
• • • • / C / 1 a e C 1 1 0 i 7 3 1 c
/ .88 / 8 8 1 0 8 1 / .821 • 0 1 1 5 sCc F 4 • C o7 Cr nC F 4 • C 5 3 c gc F 4 •c 7 8 3 d 5 CgC a 5 y 3g e F 4 • gC a 5 gC i F 4 • g7 8 F 4 • 5 c 3 c F 4
• 37 7 1 •a p P p 9 8 8 bD D n 8 D pu 8s T 9 • 251 351 *412 351 Y bD e to0320 12 1 9 • T D O D P 8 D O D PD D p c D D 8 T 9
• • h S O 4 T r CTGV s r t S H c tV cin l T V a ofec B • c 44 2V GtDa HTV pu O t • yD p Vpu O O V c znk B c aHTS B d • 4 0 c O Vx dSB CV S w c B
• 4 2 . 4 A 12 2 2 2 C 21 2 : 2 : : 2 2 A 12 C : 2: 2 24 2: :
• 2. : 4 3 32 3 2 3 2 2. 3 .
• .: .3 4 : 4 4 3 43 4. . .: : . 4 : 4. 4. 4. 4 : 3 4 .4
• •
• • • I ) u 4 • ig 4 I • D • • ( ) r C ( D De s ) N D p n t D N o 5 Dnd u 4 5 D 4 s F s c D I 4 D 4 h 4 4
• - 6 - 5 6 6 . 4 56 4 : 46 -: . 6 - .4 5
•) . ( 47 . 76 . :6 - ,. -.6 . : . .: 4 7 6 : . . : 6 : . 4. - ,. : - .. : , 6: -6 - . . : 46: 6 . : . 6: . : 6 7 . : 6 - . . : - ,. . .
• • 4 • •t a F x b8TD Td io I D o I x F A C •t C • A 0 5 D 1 1 d 8 0 y i D c e s l C iD p D p i I d e n p i C C
• • 10 2 H F 2 H • •g • H 3 T H S D 4 HV 9 F r V H 3 2 2 F CH x 3e D 4 uH 4 Oi r 3 4 D 4 p D p 3 4 4 D H r
• hq t H • sf f i • 54 i • pgau i •e i • 54 EW 25 •0 4 4 9 5 • 2 hq t i F l F FH 54 i m o rq 4 i i F FH H M n E T i cu wb
• • • • • . 1 . ug l a r . 1 p l s m5 1 . l F 1 • i 5 e 3 F 4 4 4 1 1 l
• - . • F on • g on6 u • • - 5 s 2i i i u 6 . 6 a e c i s on o 2c r 6
• 64 2 : 645 : 2 6 2: 2 2 . 2 6 6: 2 : : 723 7 : 723 4 : 2 . : : 5 645
•
• 2 i f G A5tl A5 h • •d A5 u n f r 2 2 A5 2 2 e a G f h c A . A sD A5 A5 A5 f 3 N e o
• 6 • 5 • 6 6 5
• )5 1 (, 1 1 1 : - 1 1 5: 7 1 1 -81 177 - : - 51 1 : 7: 1 5 1: 5 - 8.1 : 18- 5 7-.17 8- 1 58- 1 - : 1 5 1 81 5- 1 1 7: 8- 1 8-
• 5 1 () , 1 91 5 1: , 1 -.1 -9 21 59 : 1 5 1 91 : 881 -9 21 1 259- 58- 1 : - 51 1 2: 8- -9 1 5: 2 -81 : 1 91 : , 19 -9 1 - - 1 :2 1 : 59 : -9: 1 1 51 :2 1 5 5 1 1 : 5:9 - 1 : 9 -8 1 1 21- 1 2 :8 1 1 91 : - 1 - .: ::
. • • • • f9 c w • d c • •u F ) (5 o g c t d9a e e ) ) i mpun 8 w F 5) 8 m t sl F ) (5 8 r 8 f9 . 8
•i e 9 i e • a g ) 6 F ln d d9 e d • • • 0 e 0 ln )( F F m F e l F n o
• •b •N a •m o •l 6 d N d 6 k K6 A w A a 1- d K 6 A 6sG c Ga c G 1N • nu A h N p N • 6N 6ec K G N N N P G G 6 G tK kc kc A
• •N .. N G • • • • • G 1 6L G A 6 1 6 1 6L V21 6 1 G 6 1 A 6 6 2 6
• / • • : 1 • / : i 1 :6 . l mF : . 5 :3 n r 5:9 :2 02 / . g DdO DhO Dhs g eaDhN 5/. : 02 k c op Df 5 . 5:9 5 r E 11
- : • • 11.0 /3 2 / 0 , , -
• GI A : FD 2 0,0 FME GO F • • OF ADG D E AFE F . FM2 - F AFE F G A . FM -I AD AFE MA , G 2 MF I • 1 AG / 7 AEAE AI I GGF E F GF A I N DG I F AEAE F AE E FE 1 0 AE E E AE I I 6 I D FDD E I E : I F AEAE F AE E MA F I I : FM F DF A • 0E E IAE G ( G AIAFE AI IF I GGF ()
8. 8. : P . • • 24 / 20 18. . 8. o n 4 /2 4 : 8. c np 6 P ab 4. 4 /2 4 /0 ab b_ /0 b P n G G 4. 8 is b 12 4. is r t h 8 8 U
•U G 6 1 G G 1 9 • • 6 9 = 4 = = 6 • 6 G 1 4 8 G 6 4 8 1 9 4 1 8 2 7 7 G 6 9 = 1 8 6 1 = 4 = P4 6 G
•- 10 - U 3 ng 2 3 s • u U g f •- 0 u3 3 P U P a_ G p 2- 7 0 2 G 2 u7 a_ 2 3 2e r P m 7 u 3
• • 1 1 7 l = 1 1 m _ a r 2 = • 1 1 2 7 = 7 s 3 • D3 m _ on r it l 3f c m 3 1 1 3i = _ r 1 e r 1 1 2 = i p a = 3 =
/5 A 3 45 /1 3 45 D : 14 3 45 .5AD 3 45 45: 3 45 5 1A 3 45 3 • 7AA 1A 6 A7 2 3 3 45 . 4 4
- - . . . -
• 2 9 4 . 3 . 9 5 4 5 4 4 -3 9- 4 9 9 3 4 9 93 14 1 4 9 3 9 4 - - 01
.
2 . .
. 2
• 8B 7 : : 8 B2-AI0ID . / BB : 8BA 9 =H: # 9 .75 : 1 2 = 8 B 5B A 7 83 #
• :0 :0 •/ 6 • 2 35. 30: 55 16 2 ws t n yr 2 2 • u p _ gd b / 43 t mo • U /0: ,D ,D Pa 12 239 9 C 3 . D 1 / 3 D & 3 A D 0A 92 2/ f 3C D & cilv 3 / & 3A w 93 2. /1 /53 D /99 U hke &&
• D d •e 4 D 4D v s 4 H d D po n 4 3 3 4 i 3 211 xH D3 4 H 4
: 9 2 02 : 44 / / A 9 0. :
• p 1 • 1 • 1 1 2 2 •x 2 1 0D 0D 14 2 i • 2 • 1 • •2 2 2 4 1 2 2 H 2 0D 2 D
• a • • • r P 4 2 r 2 p 1 1 e 1 1 1 1
• 4 • 1 1 0 14 24 K 2 • • 1 1 3 2 1 2
2 • 11/0 - - 1 - 0 2 . 1. 2 . 04-1 00
• • ( D AC I G8 A 1 DA A 2 DD 82 A H )A 8 A ( D 4A 6 •0 0 fx ohtw I gt 0 0 s r T N dw vhtw C AC ip nN S m S YP l ohtw C AC ipP R T D C AC y a Mb uePRT c
• ) 4 • 1 D N I A A ( V (2 7 4 A 7
• 4 • 1 8 4 4 4 4 8
• • 9 1 4
• 1 5 0 0 1
• • 09968 2 A 791 3/ :54/ 26 ./9 13 7 • • 09968 I 791 3/ :54/ 26 ./9 13 7
• 2 - )) A A ( A I ( ( 2 5 A 2 1 - ( 5 A 5
• • 5 1 3 1 c ac f