рдкрд╣рд▓реЗ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдХреЗ рдЕрдВрдд рдореЗрдВ, "MNIST for ML Beginners", рдореЗрдВ рдпрд╣ рдкреИрд░рд╛рдЧреНрд░рд╛рдл рд╣реИ:
рдорд╣рддреНрд╡рдкреВрд░реНрдг рдпрд╣ рд╣реИ рдХрд┐ рд╣рдордиреЗ рдЗрд╕ рдореЙрдбрд▓ рд╕реЗ рд╕реАрдЦрд╛ред рдлрд┐рд░ рднреА, рдпрджрд┐ рдЖрдк рдЗрди рдкрд░рд┐рдгрд╛рдореЛрдВ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдереЛрдбрд╝рд╛ рдирд┐рд░рд╛рд╢ рдорд╣рд╕реВрд╕ рдХрд░ рд░рд╣реЗ рд╣реИрдВ, рддреЛ рдЕрдЧрд▓рд╛ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рджреЗрдЦреЗрдВ рдЬрд╣рд╛рдВ рд╣рдо рдмрд╣реБрдд рдмреЗрд╣рддрд░ рдХрд░рддреЗ рд╣реИрдВ, рдФрд░ TensorFlow рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдЕрдзрд┐рдХ рдкрд░рд┐рд╖реНрдХреГрдд рдореЙрдбрд▓ рдмрдирд╛рдиреЗ рдХрд╛ рддрд░реАрдХрд╛ рдЬрд╛рдиреЗрдВ!
рд▓реЗрдХрд┐рди рдЕрдЧрд▓рд╛ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ "рдбреАрдк рдПрдордПрдирдЖрдИрдПрд╕рдЯреА рдлреЙрд░ рдПрдХреНрд╕рдкрд░реНрдЯреНрд╕" рд╣реИ, рдФрд░ рдпрд╣ рдЪреАрдЬреЛрдВ рдХреЛ рд▓рдЧрднрдЧ рдкрд╣рд▓реЗ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдирд╣реАрдВ рдмрддрд╛рддрд╛ рд╣реИред рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, рджреВрд╕рд░рд╛ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ Build a Multilayer Convolutional Network
рд╕реЗрдХреНрд╢рди рдореЗрдВ рднрд┐рдиреНрди рд╣реЛрдирд╛ рд╢реБрд░реВ рд╣реЛрддрд╛ рд╣реИ, рд▓реЗрдХрд┐рди Weight Initialization
рддрд╣рдд рдкрд╣рд▓рд╛ рдкреИрд░рд╛рдЧреНрд░рд╛рдл рдЙрди рдЕрд╡рдзрд╛рд░рдгрд╛рдУрдВ рдХреА рд╡реНрдпрд╛рдЦреНрдпрд╛ рдирд╣реАрдВ рдХрд░рддрд╛ рд╣реИ рдЬрд┐рдирдХрд╛ рд╡рд╣ рдЙрдкрдпреЛрдЧ рдХрд░ рд░рд╣рд╛ рд╣реИ:
рдЗрд╕ рдореЙрдбрд▓ рдХреЛ рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП, рд╣рдореЗрдВ рдмрд╣реБрдд рд╕рд╛рд░реЗ рд╡рдЬрд╝рди рдФрд░ рдкреВрд░реНрд╡рд╛рдЧреНрд░рд╣ рдмрдирд╛рдиреЗ рд╣реЛрдВрдЧреЗред рд╕рдорд░реВрдкрддрд╛ рдХреЛ рддреЛрдбрд╝рдиреЗ рдХреЗ рд▓рд┐рдП, рдФрд░ 0 рдЧреНрд░реЗрдбрд┐рдПрдВрдЯ рдХреЛ рд░реЛрдХрдиреЗ рдХреЗ рд▓рд┐рдП рдЖрдо рддреМрд░ рдкрд░ рд╡рдЬрди рдХреЛ рдХрдо рдорд╛рддреНрд░рд╛ рдореЗрдВ рд╢реЛрд░ рдХреЗ рд╕рд╛рде рд╢реБрд░реВ рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдПред рдЪреВрдВрдХрд┐ рд╣рдо ReLU рдиреНрдпреВрд░реЙрдиреНрд╕ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░ рд░рд╣реЗ рд╣реИрдВ, рдЗрд╕рд▓рд┐рдП "рдореГрдд рдиреНрдпреВрд░реЙрдиреНрд╕" рд╕реЗ рдмрдЪрдиреЗ рдХреЗ рд▓рд┐рдП рдЙрдиреНрд╣реЗрдВ рдереЛрдбрд╝рд╛ рд╕рдХрд╛рд░рд╛рддреНрдордХ рдкреНрд░рд╛рд░рдВрднрд┐рдХ рдкреВрд░реНрд╡рд╛рдЧреНрд░рд╣ рдХреЗ рд╕рд╛рде рдкреНрд░рд╛рд░рдВрдн рдХрд░рдирд╛ рднреА рдЕрдЪреНрдЫрд╛ рдЕрднреНрдпрд╛рд╕ рд╣реИред рдореЙрдбрд▓ рдмрдирд╛рддреЗ рд╕рдордп рдЗрд╕реЗ рдмрд╛рд░-рдмрд╛рд░ рдХрд░рдиреЗ рдХреЗ рдмрдЬрд╛рдп, рдЖрдЗрдП рдЗрд╕реЗ рд╣рдорд╛рд░реЗ рд▓рд┐рдП рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рджреЛ рдЖрд╕рд╛рди рдХрд╛рд░реНрдп рдмрдирд╛рдПрдВред
"ReLU рдиреНрдпреВрд░реЙрдиреНрд╕" рдХреНрдпрд╛ рд╣реИрдВ? рд╣рдо рдЙрдирдХрд╛ рдЙрдкрдпреЛрдЧ рдХреНрдпреЛрдВ рдХрд░ рд░рд╣реЗ рд╣реИрдВ? рдХреНрдпрд╛ _is_ рдПрдХ рджреГрдврд╝ рдиреЗрдЯрд╡рд░реНрдХ рднреА?
рдореИрдВ рдХрд╣реВрдВрдЧрд╛, рдпрд╛ рддреЛ
the next tutorial
рдирд╣реАрдВ рдХрд╣рдирд╛ рдЪрд╛рд╣рд┐рдП, рдмрд▓реНрдХрд┐ рдЗрд╕рдХреЗ рдмрдЬрд╛рдп a later tutorial on MNIST for Experts
рдХрд╣рдирд╛ рдЪрд╛рд╣рд┐рдПредрдзрдиреНрдпрд╡рд╛рдж!
рд╕реЗрдХреЗрдВрдбреЗрдбред рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рдПрдордПрдирдЖрдИрдПрд╕рдЯреА рдЕрдВрдХреЛрдВ рдХреЗ рд╕рдВрджрд░реНрдн рдореЗрдВ рд░реВрдкрд╛рдВрддрд░рдг рдЬрд╛рд▓ рдХреА рд╡реНрдпрд╛рдЦреНрдпрд╛ рдорджрджрдЧрд╛рд░ рд╣реЛрдЧреАред
TensorFlow рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдбреАрдк рд▓рд░реНрдирд┐рдВрдЧ рдпрд╛ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдЯреЗрдХреНрд╕реНрдЯрдмреБрдХ рдпрд╛ рдХреЛрд░реНрд╕ рдХреА рдЬрдЧрд╣ рдирд╣реАрдВ рд▓реЗ рд╕рдХрддрд╛ред рдЬреИрд╕реЗ рд╣реА рд╡реЗ рдЙрдкрд▓рдмреНрдз рд╣реЛрддреЗ рд╣реИрдВ рд╣рдо рдЕрддрд┐рд░рд┐рдХреНрдд рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдореЗрдВ рд╕рдВрдХреЗрдд рдЬреЛрдбрд╝ рд╕рдХрддреЗ рд╣реИрдВред
рди рдХреЗрд╡рд▓ рдпрд╣ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдЬрдЯрд┐рд▓ рд╣реИ, рдпреЗ рд╕рднреА рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдЬрдЯрд┐рд▓ рд╣реИрдВред
рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, рдореИрдВ рдЬреЛ рдХрд░рдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реВрдВ рд╡рд╣ рд╣реИ:
рд▓реЗрдХрд┐рди Tensorflow рдореБрдЭреЗ рдкрд╣рд▓реЗ рд╕реЗ рд╣реА рдПрдХ 4-рдлрд╝рд╛рдЗрд▓ MNIST рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рджреЗрддрд╛ рд╣реИ, рдЬрд┐рд╕рдореЗрдВ рдЬрдЯрд┐рд▓ рдЧреНрд░рд╛рдлрд╝ рдФрд░ рдиреЗрдЯрд╡рд░реНрдХ рдореЗрдВ рдлрд╝рд╛рдЗрд▓реЛрдВ рдХреЛ рд▓реЛрдб рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЬрдЯрд┐рд▓ рддрдВрддреНрд░ рд╣реИрдВред
рд╕рдмрд╕реЗ рдЙрдкрдпреЛрдЧреА рдЯрд┐рдкреНрдкрдгреА
рди рдХреЗрд╡рд▓ рдпрд╣ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдЬрдЯрд┐рд▓ рд╣реИ, рдпреЗ рд╕рднреА рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдЬрдЯрд┐рд▓ рд╣реИрдВред
рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, рдореИрдВ рдЬреЛ рдХрд░рдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реВрдВ рд╡рд╣ рд╣реИ:
рд▓реЗрдХрд┐рди Tensorflow рдореБрдЭреЗ рдкрд╣рд▓реЗ рд╕реЗ рд╣реА рдПрдХ 4-рдлрд╝рд╛рдЗрд▓ MNIST рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рджреЗрддрд╛ рд╣реИ, рдЬрд┐рд╕рдореЗрдВ рдЬрдЯрд┐рд▓ рдЧреНрд░рд╛рдлрд╝ рдФрд░ рдиреЗрдЯрд╡рд░реНрдХ рдореЗрдВ рдлрд╝рд╛рдЗрд▓реЛрдВ рдХреЛ рд▓реЛрдб рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЬрдЯрд┐рд▓ рддрдВрддреНрд░ рд╣реИрдВред