Tensorflow: SSE4.1, SSE4.2 рдФрд░ AVX рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдХреЛ рдХреИрд╕реЗ рд╕рдВрдХрд▓рд┐рдд рдХрд░реЗрдВред

рдХреЛ рдирд┐рд░реНрдорд┐рдд 3 рдорд╛рд░реНрдЪ 2017  ┬╖  44рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ  ┬╖  рд╕реНрд░реЛрдд: tensorflow/tensorflow

рдмрд╕ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдЪрд▓ рд░рд╣рд╛ рд╣реИред рдЕрдм рдЗрд╕ рддреНрд░реБрдЯрд┐ рдореЗрдВ рдЪрд▓ рд░рд╣рд╛ рд╣реИред

рд╡рд░реНрддрдорд╛рди рдореЗрдВ рдореИрдХ рдпреЛрд╕реЗрдорд╛рдЗрдЯ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реБрдП, рдПрдирд╛рдХреЛрдВрдбрд╛ рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ pip3 рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдбрд╛рдЙрдирд▓реЛрдб рдХрд┐рдпрд╛, рдЕрдЬрдЧрд░ 3.5 рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗред

W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.1 instructions, but these are available on your machine and could speed up CPU computations.

W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.2 instructions, but these are available on your machine and could speed up CPU computations.

W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use AVX instructions, but these are available on your machine and could speed up CPU computations.

рдЗрд╕рд▓рд┐рдП рдЪреВрдВрдХрд┐ рдПрдирд╛рдХреЛрдВрдбрд╛ рдореЗрдВ рдХрдорд╛рдВрдб рдХрд╛ рдПрдХ рд╡рд┐рд╢реЗрд╖ рд╕реЗрдЯ рд╣реИ, рдЖрдк рдПрдирд╛рдХреЛрдВрдбрд╛ рдХрдорд╛рдВрдб рд╕рд┐рд╕реНрдЯрдо рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдПрд╕рдПрд╕рдИ 4.1, рдПрд╕рдПрд╕рдИ 4.2 рдФрд░ рдПрд╡реАрдПрдХреНрд╕ рдкрд░ рдЪрд▓рдиреЗ рдХреЗ рд▓рд┐рдП рдЯреЗрдВрд╕рд░рдлреНрд▓реЛ рдХреИрд╕реЗ рдкреНрд░рд╛рдкреНрдд рдХрд░рддреЗ рд╣реИрдВ? рдореИрдВ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рдЙрд▓рдЭрди рдореЗрдВ рд╣реВрдВ рдХрд┐ рдЗрд╕ рдмрд╛рд░реЗ рдореЗрдВ рдХреИрд╕реЗ рдЬрд╛рдирд╛ рд╣реИред

рд╕рдмрд╕реЗ рдЙрдкрдпреЛрдЧреА рдЯрд┐рдкреНрдкрдгреА

рдпрд╣ рдХреЛрдИ рддреНрд░реБрдЯрд┐ рдирд╣реАрдВ рд╣реИ, рдХреЗрд╡рд▓ рдпрд╣ рдХрд╣рддреЗ рд╣реБрдП рдЪреЗрддрд╛рд╡рдирд┐рдпрд╛рдБ рд╣реИрдВ рдХрд┐ рдпрджрд┐ рдЖрдк рд╕реНрд░реЛрдд рд╕реЗ TensorFlow рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░рддреЗ рд╣реИрдВ рддреЛ рдпрд╣ рдЖрдкрдХреА рдорд╢реАрди рдкрд░ рддреЗрдЬрд╝ рд╣реЛ рд╕рдХрддрд╛ рд╣реИред

рддреЛ рдЗрд╕ рдмрд╛рд░реЗ рдореЗрдВ рд╕рд╡рд╛рд▓: http://stackoverflow.com/questions/41293077/how-to-compile-tensorflow-with-sse4-2-and-avx-instructions
рд╕реНрд░реЛрдд рд╕реЗ рдирд┐рд░реНрдорд╛рдг рдХреЗ рд▓рд┐рдП TensorFlow рдЧрд╛рдЗрдб: https://www.tensorflow.org/install/install_sources

рд╕рднреА 44 рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

рдпрд╣ рдХреЛрдИ рддреНрд░реБрдЯрд┐ рдирд╣реАрдВ рд╣реИ, рдХреЗрд╡рд▓ рдпрд╣ рдХрд╣рддреЗ рд╣реБрдП рдЪреЗрддрд╛рд╡рдирд┐рдпрд╛рдБ рд╣реИрдВ рдХрд┐ рдпрджрд┐ рдЖрдк рд╕реНрд░реЛрдд рд╕реЗ TensorFlow рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░рддреЗ рд╣реИрдВ рддреЛ рдпрд╣ рдЖрдкрдХреА рдорд╢реАрди рдкрд░ рддреЗрдЬрд╝ рд╣реЛ рд╕рдХрддрд╛ рд╣реИред

рддреЛ рдЗрд╕ рдмрд╛рд░реЗ рдореЗрдВ рд╕рд╡рд╛рд▓: http://stackoverflow.com/questions/41293077/how-to-compile-tensorflow-with-sse4-2-and-avx-instructions
рд╕реНрд░реЛрдд рд╕реЗ рдирд┐рд░реНрдорд╛рдг рдХреЗ рд▓рд┐рдП TensorFlow рдЧрд╛рдЗрдб: https://www.tensorflow.org/install/install_sources

рдЬреИрд╕рд╛ рдХрд┐ @Carmezim рдиреЗ рдХрд╣рд╛ рд╣реИ рдХрд┐ рдпреЗ рдХреЗрд╡рд▓ рдЪреЗрддрд╛рд╡рдиреА рд╕рдВрджреЗрд╢ рд╣реИрдВред
рдЖрдкрдХреЗ рдкреНрд░рддреНрдпреЗрдХ рдкреНрд░реЛрдЧреНрд░рд╛рдо рдХреЗ рд▓рд┐рдП, рдЖрдк рдЙрдиреНрд╣реЗрдВ рдХреЗрд╡рд▓ рдПрдХ рдмрд╛рд░ рджреЗрдЦреЗрдВрдЧреЗред
рдФрд░ рдЬреИрд╕реЗ рдЪреЗрддрд╛рд╡рдирд┐рдпрд╛рдВ рдХрд╣рддреА рд╣реИрдВ, рдЖрдкрдХреЛ рдХреЗрд╡рд▓ рдЯреАрдПрдл рдХреЛ рдЗрди рдЭрдВрдбреЛрдВ рдХреЗ рд╕рд╛рде рд╕рдВрдХрд▓рд┐рдд рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдП рдпрджрд┐ рдЖрдкрдХреЛ рдЯреАрдПрдл рдХреЛ рддреЗрдЬ рдмрдирд╛рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИред

рдЖрдк SIMD рдирд┐рд░реНрджреЗрд╢ рд╕реЗрдЯ рдХреЗ рд╕рдорд░реНрдерди рдХреЗ рд╕рд╛рде TF рдХреЛ рд╕рдВрдХрд▓рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕реНрд░реЛрддреЛрдВ рд╕реЗ TensorFlow рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╣рдорд╛рд░реЗ рдЧрд╛рдЗрдб рдХрд╛ рдЕрдиреБрд╕рд░рдг рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред

рдареАрдХ рд╣реИ рдзрдиреНрдпрд╡рд╛рджред рдореИрдВ рд╕рдордЭ рдЧрдпрд╛ред

рдХреНрдпрд╛ рдХреЛрдИ рддрд░реАрдХрд╛ рд╣реИ рдЬрд┐рд╕рд╕реЗ рд╣рдо рдЗрд╕реЗ рдЪреБрдк рдХрд░рд╛ рд╕рдХрддреЗ рд╣реИрдВ?

рдЗрди рдЪреЗрддрд╛рд╡рдиреА рд╕рдВрджреЗрд╢реЛрдВ рдХреЛ рдореМрди рдХрд░рдиреЗ рдХрд╛ рдПрдХрдорд╛рддреНрд░ рддрд░реАрдХрд╛ --config opt рд╡рд┐рдХрд▓реНрдк рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рд╕реНрд░реЛрддреЛрдВ рд╕реЗ рдирд┐рд░реНрдорд╛рдг рдХрд░рдирд╛ рд╣реИред

рдПрдХ рдкреНрд░рдХрд╛рд░ рдХрд╛ "рд╡рд░реНрдХрдЕрд░рд╛рдЙрдВрдб" (рдпрджреНрдпрдкрд┐ рдЕрдкреВрд░реНрдг) рдЬреЛ рдпреВрдирд┐рдХреНрд╕/рд▓рд┐рдирдХреНрд╕/рдУрдПрд╕рдПрдХреНрд╕ рдкрд░ рд╕рдВрджреЗрд╢реЛрдВ рдХреЛ рдкреБрдирд░реНрдирд┐рд░реНрджреЗрд╢рд┐рдд рдХрд░рддрд╛ рд╣реИ:
рдЕрдЬрдЧрд░ myscript.py 2>/dev/null

@CGTheLegend @ocampesato рдЖрдк TF рдкрд░реНрдпрд╛рд╡рд░рдг рдЪрд░ TF_CPP_MIN_LOG_LEVEL рдЙрдкрдпреЛрдЧ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ рдФрд░ рдпрд╣ рдирд┐рдореНрдирд╛рдиреБрд╕рд╛рд░ рдХрд╛рдо рдХрд░рддрд╛ рд╣реИ:

  • рдпрд╣ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рд░реВрдк рд╕реЗ 0 рдкрд░ рд╣реИ , рд╕рднреА рд▓реЙрдЧ рдкреНрд░рджрд░реНрд╢рд┐рдд рдХрд░рддрд╛ рд╣реИ
  • INFO рд▓реЙрдЧ рдХреЛ рдлрд╝рд┐рд▓реНрдЯрд░ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрд╕реЗ 1 . рдкрд░ рд╕реЗрдЯ рдХрд░реЗрдВ
  • WARNINGS рдЕрддрд┐рд░рд┐рдХреНрдд рд░реВрдк рд╕реЗ, 2
  • рдФрд░ рдЕрддрд┐рд░рд┐рдХреНрдд рд░реВрдк рд╕реЗ ERROR рд▓реЙрдЧ рдХреЛ рдлрд╝рд┐рд▓реНрдЯрд░ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрд╕реЗ 3 . рдкрд░ рд╕реЗрдЯ рдХрд░реЗрдВ

рддреЛ рдЖрдк рдЪреЗрддрд╛рд╡рдирд┐рдпреЛрдВ рдХреЛ рд╢рд╛рдВрдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдирд┐рдореНрди рдХрд╛рд░реНрдп рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ:

import os
os.environ['TF_CPP_MIN_LOG_LEVEL']='2'
import tensorflow as tf

@gunan @mrry рдореИрдВрдиреЗ рдЪреЗрддрд╛рд╡рдирд┐рдпреЛрдВ рдХреЛ рд╢рд╛рдВрдд рдХрд░рдиреЗ рдореЗрдВ рд░реБрдЪрд┐ рд░рдЦрдиреЗ рд╡рд╛рд▓реЗ рдХрдИ рд▓реЛрдЧреЛрдВ рдХреЛ рджреЗрдЦрд╛ рд╣реИ, рдХреНрдпрд╛ рдЗрд╕ рддрд░рд╣ рдХреА рдЬрд╛рдирдХрд╛рд░реА рдХреЛ рджрд╕реНрддрд╛рд╡реЗрдЬрд╝реЛрдВ рдореЗрдВ рдЬреЛрдбрд╝рдиреЗ рдореЗрдВ рд░реБрдЪрд┐ рд╣реЛрдЧреА?

рдореИрдВ tensorflow рдЗрдВрд╕реНрдЯреЙрд▓ рдЧрд╛рдЗрдб рд╕реЗ рдЗрдВрд╕реНрдЯреЙрд▓ рдХрд░рддрд╛ рд╣реВрдВ, рдпрд╣ рдЪреЗрддрд╛рд╡рдиреА рднреА рдорд┐рд▓реА рд╣реИред

pip3 install --upgrade tensorflow

@jadeydi рд╕реНрд░реЛрдд рд╕реЗ рд╕рдВрдХрд▓рди рдХрд░рдиреЗ рдХреЗ рдмрдЬрд╛рдп, "рдкрд╛рдЗрдк" рдмрд╕ рдмрд╛рдЗрдирд░реА рднреА рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ, рддрд╛рдХрд┐ рдЖрдкрдХреЛ рдЕрднреА рднреА рдпреЗ рдЪреЗрддрд╛рд╡рдирд┐рдпрд╛рдВ рдорд┐рд▓реЗрдВред

рдореИрдВрдиреЗ рдЕрднреА SSE4.1 SSE4.2 AVX AVX2 рдФрд░ FMA рдХреЗ рд╕рдорд░реНрдерди рдХреЗ рд╕рд╛рде рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рд╕рдВрдХрд▓рд┐рдд рдХрд┐рдпрд╛ рд╣реИред рдмрд┐рд▓реНрдб рдпрд╣рд╛рдВ рдЙрдкрд▓рдмреНрдз рд╣реИ: https://github.com/lakshayg/tensorflow-build ред рдореИрдВ рдЙрдореНрдореАрдж рдХрд░рддрд╛ рд╣реВрдБ рдпрд╣ рдЙрдкрдпреЛрдЧреА рд╣реИред

рд╣рд╛рдп @lakshayg , рд╕рд╛рдЭрд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдзрдиреНрдпрд╡рд╛рджред рдЖрдк https://github.com/yaroslavvb/tensorflow-community-wheels . рдХреА рдЬрд╛рдБрдЪ рдХрд░рдирд╛ рдЪрд╛рд╣ рд╕рдХрддреЗ рд╣реИрдВ

рдЙрдмрдВрдЯреВ рдкрд░ рдорд╛рдирдХ pip install tensorflow-gpu рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдмрд┐рд▓реНрдб рд▓рдЧрднрдЧ рдмрд╣реБрдд рддреЗрдЬ рд╣реИ? рдХреНрдпрд╛ рдпрд╣ рдХреЗрд╡рд▓ CPU рд╕рдВрдЧрдгрдирд╛рдУрдВ рдХреЗ рд▓рд┐рдП рддреЗрдЬрд╝ рд╣реИ, рдпрд╛ GPU рд╕рдВрдЧрдгрдирд╛рдУрдВ рдХреЗ рд▓рд┐рдП рдХреЛрдИ рд▓рд╛рдн рд╣реИ?

http://www.anandtech.com/show/2362/5

рдпрд╣ Google рдкрд░ рдЖрдпрд╛ рдФрд░ рдЗрд╕рдореЗрдВ рдХреБрдЫ рдЕрдЪреНрдЫреЗ рддрдХрдиреАрдХреА рд╡рд┐рд╡рд░рдг рд╣реИрдВред

рдкрд░реАрдХреНрд╖рдг VirtualDub 1.7.6 рдФрд░ DivX 6.7 рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдПрдХ DivX рдПрдирдХреЛрдб рд╣реИред SSE4 рддрдм рдЖрддрд╛ рд╣реИ рдЬрдм рдЖрдк рдЧрддрд┐ рдЕрдиреБрдорд╛рди рдХреЗ рд▓рд┐рдП рдПрдХ рдирдпрд╛ рдкреВрд░реНрдг рдЦреЛрдЬ рдПрд▓реНрдЧреЛрд░рд┐рджрдо рд╕рдХреНрд╖рдо рдХрд░рдирд╛ рдЪреБрдирддреЗ рд╣реИрдВ, рдЬрд┐рд╕реЗ рджреЛ SSE4 рдирд┐рд░реНрджреЗрд╢реЛрдВ рджреНрд╡рд╛рд░рд╛ рддреНрд╡рд░рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ: MPSADBW рдФрд░ PHMINPOSUW ред рд╡рд┐рдЪрд╛рд░ рдпрд╣ рд╣реИ рдХрд┐ рдЧрддрд┐ рдЕрдиреБрдорд╛рди (рдпрд╣ рдкрддрд╛ рд▓рдЧрд╛рдирд╛ рдХрд┐ рд╡реАрдбрд┐рдпреЛ рдХреЗ рдмрд╛рдж рдХреЗ рдлрд╝реНрд░реЗрдореЛрдВ рдореЗрдВ рдХреНрдпрд╛ рд╣реЛрдЧрд╛) рдХреЗ рд▓рд┐рдП рдирд┐рд░рдкреЗрдХреНрд╖ рдЕрдВрддрд░реЛрдВ рдХреЗ рдпреЛрдЧ рдХреА рдмрд╣реБрдд рдЕрдзрд┐рдХ рдЧрдгрдирд╛ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрддреА рд╣реИ, рд╕рд╛рде рд╣реА рдЙрди рд╕рдВрдЧрдгрдирд╛рдУрдВ рдХреЗ рдкрд░рд┐рдгрд╛рдореЛрдВ рдХреЗ рдиреНрдпреВрдирддрдо рдореВрд▓реНрдпреЛрдВ рдХреЛ рдЦреЛрдЬрдиреЗ рдХреА рднреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрддреА рд╣реИред SSE2 рдирд┐рд░реНрджреЗрд╢ PSADBW 16B рдЕрд╣рд╕реНрддрд╛рдХреНрд╖рд░рд┐рдд рдкреВрд░реНрдгрд╛рдВрдХреЛрдВ рдХреА рдПрдХ рдЬреЛрдбрд╝реА рд╕реЗ рджреЛ рдЕрдВрддрд░реЛрдВ рдХреА рдЧрдгрдирд╛ рдХрд░ рд╕рдХрддрд╛ рд╣реИ; SSE4 рдирд┐рд░реНрджреЗрд╢ MPSADBW рдЖрда рдХрд░ рд╕рдХрддрд╛ рд╣реИред

...

рд╣рдорд╛рд░реЗ QX9650 рдкрд░, SSE4 рд╕рдХреНрд╖рдо рдХреЗ рд╕рд╛рде рдкреВрд░реНрдг рдЦреЛрдЬ рдХреЗрд╡рд▓ SSE2 рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рд▓рдЧрднрдЧ 45% рддреЗрдЬ рдЪрд▓рддреА рд╣реИ

рдЕрдм рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░реЗрдВ рдХрд┐ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдХрд┐рди рдХрд╛рд░реНрдпреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░ рд░рд╣рд╛ рд╣реИ, рд▓реЗрдХрд┐рди рдпрд╣ рдкреНрд░рдпрд╛рд╕ рдХреЗ рд▓рд╛рдпрдХ рд╣реЛ рд╕рдХрддрд╛ рд╣реИред

рдХреНрд╖рдорд╛ рдХрд░реЗрдВ, рд▓реЗрдХрд┐рди рдбрд┐рдлрд╝реЙрд▓реНрдЯ рд░реВрдк рд╕реЗ рд╕рднреА TF рд╕реНрдХреНрд░рд┐рдкреНрдЯ рдореЗрдВ рдЖрдЙрдЯрдкреБрдЯ рд╣реЛрдирд╛ рдПрдХ рд╣рд╛рд╕реНрдпрд╛рд╕реНрдкрдж рдмрд╛рдд рд╣реИред рдЬреНрдпрд╛рджрд╛рддрд░ рд▓реЛрдЧ рд╢рд╛рдпрдж рд╕реНрд░реЛрдд рд╕реЗ рдЯреАрдПрдл рд╕рдВрдХрд▓рд┐рдд рдирд╣реАрдВ рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдФрд░ рди рд╣реА рдЪрд╛рд╣рддреЗ рд╣реИрдВред

@ TomAshley303 , рдпрд╣ рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдПрдХ рдмрд╣реБрдд рдмрдврд╝рд┐рдпрд╛ рдЬрд╛рдирдХрд╛рд░реА рд╣реИ! рдореИрдВ рд╕реНрд░реЛрдд рд╕реЗ рдкреБрди: рд╕рдВрдХрд▓рд┐рдд рдХрд░рдиреЗ рдХреА рдпреЛрдЬрдирд╛ рдирд╣реАрдВ рдмрдирд╛ рд░рд╣рд╛ рд╣реВрдВред рдореИрдВ рдирд╣реАрдВ рдЪрд╛рд╣рддрд╛ред рд▓реЗрдХрд┐рди рдЬрд╛рдирдХрд╛рд░реА рдореБрдЭреЗ рдмрддрд╛рддреА рд╣реИ рдХрд┐ рдЕрдЧрд░ рдореЗрд░рд╛ рдореЙрдбрд▓ рдмрдбрд╝рд╛ рдФрд░ рдзреАрдорд╛ рд╣реЛ рдЬрд╛рддрд╛ рд╣реИ рдФрд░ рдкреНрд░рджрд░реНрд╢рди рдХреЛ рдмрдврд╝рд╛рд╡рд╛ рджреЗрдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрдЧреА рддреЛ рдореБрдЭреЗ рдХреНрдпрд╛ рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдПред рдирдП рд╣рд╛рд░реНрдбрд╡реЗрдпрд░ рдЦрд░реАрджрдиреЗ рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдПрдХреНрд╕рдЯреЗрдВрд╢рди рдХреЗ рд╕рд╛рде рдкреБрди: рд╕рдВрдХрд▓рд┐рдд рдХрд░рдирд╛ рдЖрдорддреМрд░ рдкрд░ рд╕рд╕реНрддрд╛ рд╣реЛрддрд╛ рд╣реИ, рдпрд╣ рджреЗрдЦрддреЗ рд╣реБрдП рдХрд┐ рдЕрдЪреНрдЫреЗ рд╡реЙрдХрдереНрд░реВ (рдЬреЛ рд╣рдорд╛рд░реЗ рдкрд╛рд╕ рд╣реИрдВ) рд╣реЛрдиреЗ рд╕реЗ рдкреБрди: рд╕рдВрдХрд▓рди рдХреА рд╢реНрд░рдо рд▓рд╛рдЧрдд рдХрдо рд╣реЛ рдЬрд╛рддреА рд╣реИ (рд╕реАрдкреАрдпреВ рд╕рдордп рдХреЛрдИ рдлрд░реНрдХ рдирд╣реАрдВ рдкрдбрд╝рддрд╛, рд░рд╛рдд рднрд░ рдЪрд▓ рд╕рдХрддрд╛ рд╣реИ)ред

рдореИрдВ рдЗрд╕ рдкреНрд░рдХреНрд░рд┐рдпрд╛ рд╕реЗ рдЧреБрдЬрд░рд╛... рд╕реАрдзрд╛-рд╕рд╛рджрд╛ рдерд╛ рдФрд░ рдмрд┐рд▓реНрдХреБрд▓ рднреА рд╕рдордп рдирд╣реАрдВ рд▓реЗрддрд╛ рдерд╛ред рдЖрдкрдХрд╛ рд╕рд╛рдорд╛рдиреНрдп рд╕реЗрдореЗрдХ рд╕реА ++ рдереЛрдбрд╝реЗ рджреБрдГрд╕реНрд╡рдкреНрди рдирд╣реАрдВред

рдореИрдХреЛрдЬрд╝/рд▓рд┐рдирдХреНрд╕ рдХреЗ рддрд╣рдд рдЯреАрдПрдл рд╕рдВрдХрд▓рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдореЗрд░реЗ рдкрд╛рд╕ рдПрдХ рдЫреЛрдЯреА рдмреИрд╢ рд╕реНрдХреНрд░рд┐рдкреНрдЯ рд╣реИред рдпрд╣ рдЧрддрд┐рд╢реАрд▓ рд░реВрдк рд╕реЗ рд╕реАрдкреАрдпреВ рд╕реБрд╡рд┐рдзрд╛рдУрдВ рдХреА рдЧрдгрдирд╛ рдХрд░рддрд╛ рд╣реИ рдФрд░ рдЙрдиреНрд╣реЗрдВ рдмрд┐рд▓реНрдб рдкреИрд░рд╛рдореАрдЯрд░ рдХреЗ рд░реВрдк рдореЗрдВ рд░рдЦрддрд╛ рд╣реИред рдореИрдВ рдПрдХ рдкреАрдЖрд░ рдмрдирд╛рдиреЗ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рд╕реЛрдЪ рд░рд╣рд╛ рдерд╛, рд▓реЗрдХрд┐рди рд╕реНрдерд╛рдиреАрдп рдмрд┐рд▓реНрдб рдХреЗ рд▓рд┐рдП рд╕реНрдХреНрд░рд┐рдкреНрдЯ (рд╣реЗрд▓реНрдкрд░реНрд╕) рдХреЗ рд╕рд╛рде рдПрдХ рдлрд╝реЛрд▓реНрдбрд░ рдирд╣реАрдВ рдорд┐рд▓рд╛, рдХреЗрд╡рд▓ ci_buildред рдЕрдЧрд░ рдпрд╣ рд╕рдордЭ рдореЗрдВ рдЖрддрд╛ рд╣реИ рддреЛ рдореИрдВ рдХрд░реВрдБрдЧрд╛

рд╕рд╛рд░
https://gist.github.com/venik/9ba962c8b301b0e21f99884cbd35082f

@gunan . рдХреЗ рд▓рд┐рдП рдПрдХ рдиреЛрдЯ

рдЬрдм рдореИрдВ рдкрд╣рд▓реА рдмрд╛рд░ TensorFlow рд╕реНрдерд╛рдкрд┐рдд рдХрд░ рд░рд╣рд╛ рдерд╛ рддреЛ рдореБрдЭреЗ рдЗрд╕ рд╕рдорд╕реНрдпрд╛ рдХрд╛ рд╕рд╛рдордирд╛ рдХрд░рдирд╛ рдкрдбрд╝рд╛ред рдЕрдм рдореБрдЭреЗ рдпрд╣ рдкрддрд╛ рд▓рдЧрд╛рдирд╛ рд╣реИ рдХрд┐ рдЗрд╕реЗ рдлрд┐рд░ рд╕реЗ рдХреИрд╕реЗ рд╣рд▓ рдХрд┐рдпрд╛ рдЬрд╛рдП рдХреНрдпреЛрдВрдХрд┐ рдореИрдВ рдПрдХ рдирдИ рдорд╢реАрди рдкрд░ TensorFlow рд╕реНрдерд╛рдкрд┐рдд рдХрд░ рд░рд╣рд╛ рд╣реВрдВред рдпрд╣ рдЧрд░реНрджрди рдореЗрдВ рджрд░реНрдж рд╣реИ, рдФрд░ рдЖрдкрдХреЗ рджреНрд╡рд╛рд░рд╛ рдкреНрд░рджрд╛рди рдХрд┐рдпрд╛ рдЧрдпрд╛ рджрд╕реНрддрд╛рд╡реЗрдЬ рдмрд┐рд▓реНрдХреБрд▓ рд╕реНрдкрд╖реНрдЯ рдирд╣реАрдВ рд╣реИред

рддрдереНрдп рдпрд╣ рд╣реИ рдХрд┐ рдореБрдЭреЗ рдЗрд╕реЗ рдЕрдкрдиреЗ рдЕрдВрдд рдореЗрдВ рдХрд░рдирд╛ рд╣реИ рд╣рд╛рд╕реНрдпрд╛рд╕реНрдкрдж рдФрд░ рдХреНрд░реБрджреНрдз рдХрд░рдиреЗ рд╡рд╛рд▓рд╛ рд╣реИред pip/pip3 рд╕реЗ рдХреБрдЫ рдЙрдкрд▓рдмреНрдз рдХрд░рд╛рдирд╛ рдХреЛрдИ рдЕрдЪреНрдЫреА рдмрд╛рдд рдирд╣реАрдВ рд╣реИ, рдпрджрд┐ рдпрд╣ рдкреВрд░реЗ рджрд┐рди рдХреЗрд╡рд▓ рдЖрдк рдкрд░ рдЪреЗрддрд╛рд╡рдирд┐рдпрд╛рдБ рдлреЗрдВрдХрддрд╛ рд╣реИред

рдХрдо рд╕реЗ рдХрдо, рдЖрдкрдХреЛ https://www.tensorflow.org/install/install_sources рд╕рдВрдкрд╛рджрд┐рдд рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдП рдФрд░ рд╕реНрдкрд╖реНрдЯ рд░реВрдк рд╕реЗ рд╕рдордЭрд╛рдирд╛ рдЪрд╛рд╣рд┐рдП рдХрд┐ рдЗрд╕реЗ SSE / AVX рдХреЗ рд╕рд╛рде рдХреИрд╕реЗ рд╕рдВрдХрд▓рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рдП

рд╕рдорд╛рдзрд╛рди рдЬреЛ рдореЗрд░реЗ рд▓рд┐рдП рдХрд╛рдо рдХрд░рддрд╛ рд╣реИ: рдЗрдирдкреБрдЯ "-mavx -msse4.1 -msse4.2" рдЬрдм рдХреЙрдиреНрдлрд╝рд┐рдЧрд░реЗрд╢рди рдкреНрд░рдХреНрд░рд┐рдпрд╛ рдХреЗ рджреМрд░рд╛рди рд╕рдВрдХреЗрдд рджрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ (рдЬрдм рдЖрдк ./configure рдЪрд▓рд╛рддреЗ рд╣реИрдВ)ред

рдХреНрдпрд╛ рдЗрд╕реЗ рдЕрдкрдиреЗ рдЗрдВрд╕реНрдЯреЙрд▓реЗрд╢рди рдирд┐рд░реНрджреЗрд╢реЛрдВ рдореЗрдВ рдЬреЛрдбрд╝рдирд╛ рдЗрддрдирд╛ рдХрдард┐рди рд╣реИ?

рдзрдиреНрдпрд╡рд╛рдж, @Carmezim рдЙрддреНрддрд░ рдХреЗ рдЕрдиреБрд╕рд╛рд░, рдореБрдЭреЗ avx рдФрд░ sse рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рд╕реАрдкреАрдпреВ рд╕реНрдкреАрдб рдЕрдк рд╕рдВрд╕реНрдХрд░рдг рдорд┐рд▓рддрд╛ рд╣реИред рдореИрдВрдиреЗ рдЗрдВрдЯреЗрд▓ рдкрд░ рддреЗрдЬ-рдЖрд░рд╕реАрдПрдирдПрди (рд░реЗрд╕рдиреЗрдЯ-101) рдХрд╛ рдкрд░реАрдХреНрд╖рдг рдХрд┐рдпрд╛ рд╣реИред рд▓рд╛рдЧрдд рд╕рдордп рд▓рдЧрднрдЧ 30% рдмрдврд╝ рдЬрд╛рддрд╛ рд╣реИ, рдпрд╣ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рдЙрдкрдпреЛрдЧреА рд╣реИред

рдЖрдк рдЪреЗрддрд╛рд╡рдирд┐рдпреЛрдВ рдХреЛ рдЪреБрдк рдХрд░рд╛ рд╕рдХрддреЗ рд╣реИрдВред
рдмрд╕ рдЗрди рдХреЛрдб рдХреЛ рд╕рдмрд╕реЗ рдКрдкрд░ рдЬреЛрдбрд╝реЗрдВред
рдЖрдпрд╛рдд рдУрдПрд╕
os.environ['TF_CPP_MIN_LOG_LEVEL']='2'
tf . рдХреЗ рд░реВрдк рдореЗрдВ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдЖрдпрд╛рдд рдХрд░реЗрдВ
рдЬреИрд╕рд╛ рдХрд┐ рдпрд╣рд╛рдВ рдмрддрд╛рдпрд╛ рдЧрдпрд╛ рд╣реИ: https://stackoverflow.com/a/44984610

рдЖрдк рд╕рд┐рд╕реНрдЯрдо рдкрд░реНрдпрд╛рд╡рд░рдг рдЪрд░ рдореЗрдВ рдЖрд╕рд╛рдиреА рд╕реЗ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рдЪрд░ рдЬреЛрдбрд╝ рд╕рдХрддреЗ рд╣реИрдВ:
TF_CPP_MIN_LOG_LEVEL, рдорд╛рди = 2. рдлрд┐рд░ рдЕрдкрдирд╛ IDE рдкреБрдирдГ рдкреНрд░рд╛рд░рдВрдн рдХрд░реЗрдВ

GPU рд╕рдВрдЧрдгрдирд╛ рдХреЗ рд▓рд┐рдП @mikayoung рд╕реБрдзрд╛рд░ рдХреА рдЙрдореНрдореАрдж рдирд╣реАрдВ рдХреА рдЬрд╛ рд╕рдХрддреА, рдХреНрдпреЛрдВрдХрд┐ рд╡реЗ рдирд┐рд░реНрджреЗрд╢ рд╕реЗрдЯ рдХреЗрд╡рд▓ CPU рд╣реИрдВ, рдФрд░ рд╡реЗ рд╡реЗрдХреНрдЯрд░рдХреГрдд рд╕рдВрдЪрд╛рд▓рди рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддреЗ рд╣реИрдВред
рдЗрд╕рд▓рд┐рдП рдпрджрд┐ рдЖрдк GPU рдкрд░ рдЪрд▓ рд░рд╣реЗ рджреЛ рдХреЛрдб (рдЖрджрд░реНрд╢ рд░реВрдк рд╕реЗ) 100% рдХреА рддреБрд▓рдирд╛ рдХрд░рддреЗ рд╣реИрдВ, рдПрдХ SIMD рд╕рдорд░реНрдерди рдХреЗ рд╕рд╛рде рд╕рдВрдХрд▓рд┐рдд Tensorflow рдЙрджрд╛рд╣рд░рдг рдкрд░ рдФрд░ рдПрдХ рдмрд┐рдирд╛, рдЖрдкрдХреЛ рдЧрддрд┐ рдХреЗ рд╕рдВрджрд░реНрдн рдореЗрдВ рд╕рдорд╛рди рдкрд░рд┐рдгрд╛рдо рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдЪрд╛рд╣рд┐рдП (рдФрд░ рдЙрдореНрдореАрдж рд╣реИ рдХрд┐ рд╕рдВрдЦреНрдпрд╛рддреНрдордХ рд░реВрдк рд╕реЗ рднреА)ред

IC:\tf_jenkinshome\workspace\rel-win\M\windows\PY\36\tensorflow\core\platform\cpu_feature_guard.cc:137] рдЖрдкрдХрд╛ CPU рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХрд╛ рд╕рдорд░реНрдерди рдХрд░рддрд╛ рд╣реИ рдХрд┐ рдЗрд╕ TensorFlow рдмрд╛рдЗрдирд░реА рдХреЛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕рдВрдХрд▓рд┐рдд рдирд╣реАрдВ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛: AVX AVX2

рдЬреИрд╕рд╛ рдХрд┐ рдЖрдк рджреЗрдЦ рд╕рдХрддреЗ рд╣реИрдВ рдХрд┐ рдЪреЗрддрд╛рд╡рдиреА рдореЗрд░реЗ рд╕рд┐рд╕реНрдЯрдо рдХреЗ рд╕рд╛рде рднреА рд╣реИ рд▓реЗрдХрд┐рди рдЙрд╕рдореЗрдВ, рдореИрдВ рдЪреЗрддрд╛рд╡рдиреА рдХреА рд╢реБрд░реБрдЖрдд рдореЗрдВ 'рдореИрдВ' рдХреЛ рд╕рдордЭрдиреЗ рдореЗрдВ рд╕рдХреНрд╖рдо рдирд╣реАрдВ рд╣реВрдВ, рдЗрд╕рд▓рд┐рдП рдЙрд╕ рдорд╛рдорд▓реЗ рдореЗрдВ рдХреЛрдИ рдореЗрд░реА рдорджрдж рдХрд░ рд╕рдХрддрд╛ рд╣реИ

"I" рдмрд╕ "INFO" рдХреЗ рд▓рд┐рдП рдПрдХ рд╢реЙрд░реНрдЯрд╣реИрдВрдб рд╣реИред рдЕрдиреНрдп рдЕрдХреНрд╖рд░ рдЖрдк рджреЗрдЦ рд╕рдХрддреЗ рд╣реИрдВ рдХрд┐ рддреНрд░реБрдЯрд┐ рдХреЗ рд▓рд┐рдП E, рдпрд╛ рдШрд╛рддрдХ рдХреЗ рд▓рд┐рдП F рд╣реИред

рдЗрд╕рд▓рд┐рдП рдореИрдВрдиреЗ рдХреЛрдВрдбрд╛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рд╕реНрдерд╛рдкрд┐рдд рдХрд┐рдпрд╛ред рдЕрдЧрд░ рдореИрдВ рдЕрдм рдХрд┐рд╕реА рднреА рдЧрддрд┐ рд╡реГрджреНрдзрд┐ рдХрд╛ рд▓рд╛рдн рдЙрдард╛рдиреЗ рдХреЗ рд▓рд┐рдП рд╕реНрд░реЛрдд рд╕реЗ рд╕рдВрдХрд▓рди рдХрд░рдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реВрдВ, рддреЛ рдХреНрдпрд╛ рдореБрдЭреЗ рдЯреЗрдВрд╕реЛрдлрд╝реНрд▓реЛ рдХреЗ рдЕрдкрдиреЗ рдХреЛрдВрдбрд╛ рдЗрдВрд╕реНрдЯрд╛рд▓ рдХреЛ рд╣рдЯрд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдХреБрдЫ рднреА рдХрд░рдиреЗ рдХреА рдЬрд╝рд░реВрд░рдд рд╣реИ? рдпрд╛ рдпрд╣ рдЕрдкрдиреЗ рдЫреЛрдЯреЗ рдХрдВрдЯреЗрдирд░ рдореЗрдВ рд╣реИ рдФрд░ рдореИрдВ рдЕрд▓рдЧ рд╕реЗ рд╕реНрд░реЛрдд рд╕реЗ рд╕рдВрдХрд▓рд┐рдд рдХрд░ рд╕рдХрддрд╛ рд╣реВрдВ?

рдореИрдВрдиреЗ рдбреАрдкрд╕реНрдкреАрдЪ рдФрд░ рдбреАрдкрд╕реНрдкреАрдЪ рд╕рд░реНрд╡рд░ рднреА рд╕реНрдерд╛рдкрд┐рдд рдХрд┐рдпрд╛ рдерд╛ред рд╕рд░реНрд╡рд░ рд╢реБрд░реВ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЧрдпрд╛ рдФрд░ рдПрдХ рддреНрд░реБрдЯрд┐ рд╕рдВрджреЗрд╢ рдорд┐рд▓рд╛ - "2018-01-17 08:21:49.120154: F tensorflow/core/platform/cpu_feature_guard.cc:35] TensorFlow рд▓рд╛рдЗрдмреНрд░реЗрд░реА рдХреЛ AVX2 рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕рдВрдХрд▓рд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛, рд▓реЗрдХрд┐рди рдпреЗ рд╣реИрдВ ' рдЯреА рдЖрдкрдХреА рдорд╢реАрди рдкрд░ рдЙрдкрд▓рдмреНрдз рд╣реИред
рдирд┐рд░рд╕реНрдд (рдХреЛрд░ рдбрдВрдк рдХрд┐рдпрд╛ рдЧрдпрд╛)"

рдЬрд╛рд╣рд┐рд░рд╛ рддреМрд░ рдкрд░ рдореБрдЭреЗ рдЙрд╕реА рдХрдВрдкреНрдпреВрдЯрд░ рдкрд░ TensorFlow рдХреЛ рд╕рдВрдХрд▓рд┐рдд рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИред рдХреНрдпрд╛ рдХреБрдмрдВрдЯреВ 17.10.1 рдФрд░ рдПрдЪрдкреА рдкреНрд░реЛрдмреБрдХ 4330рдПрд╕ рд╕реЗ рдореЗрд▓ рдЦрд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд╣реАрдВ рдХреЛрдИ рд╕реВрдЪреА рд╣реИ?

рдХреЛрдИ рд╡рд┐рдВрдбреЛрдЬрд╝ рд╕рдВрдХрд▓рди рдХреНрдпреЛрдВ рдирд╣реАрдВ рд╣реИрдВ? рдореЗрд░реЗ рдкрд╛рд╕ рдПрдХ рд╣реА рд╕рдорд╕реНрдпрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рдЪреЗрддрд╛рд╡рдирд┐рдпреЛрдВ рдХреЛ рдореНрдпреВрдЯ рдХрд░рдиреЗ рдХреЗ рдмрдЬрд╛рдп рдореИрдВ рдЕрдкрдиреЗ рдЬреАрдкреАрдпреВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реВрдВ, рдореЗрд░реЗ рдкрд╛рд╕ рдПрдХ рдФрд░ рдЧреНрд░рд╛рдлрд┐рдХреНрд╕ рдХрд╛рд░реНрдб рднреА рд╣реИ рдФрд░ рдПрдирд╡реАрдбрд┐рдпрд╛ рдирд╣реАрдВ, рдореИрдВ рдХреНрдпрд╛ рдХрд░реВрдБ?

*рдореЗрд░реЗ рдкрд╛рд╕ рдПрдирд╡реАрдбрд┐рдпрд╛ рдЧреНрд░рд╛рдлрд┐рдХреНрд╕ рдХрд╛рд░реНрдб рдирд╣реАрдВ рд╣реИ, рдореЗрд░реЗ рдкрд╛рд╕ рдПрдХ рд╣реИ рдФрд░ рдореИрдВ рдХреНрдпрд╛ рдХрд░реВрдВ?

*рдПрдПрдордбреА рдЧреНрд░рд╛рдлрд┐рдХреНрд╕ рдХрд╛рд░реНрдб .. рд╕реНрд╡рдд: рд╕реБрдзрд╛рд░

рдпреЗ рдХреЗрд╡рд▓ рдЪреЗрддрд╛рд╡рдирд┐рдпрд╛рдВ рдирд╣реАрдВ рд╣реИрдВ рдХреНрдпреЛрдВрдХрд┐ рдпрд╣ рдореЗрд░реЗ рдкрд░реАрдХреНрд╖рдг рдмрдХреНрд╕реЗ рдкрд░ рдкреНрд░рдХреНрд░рд┐рдпрд╛ рдХреЛ рдорд╛рд░ рджреЗрддреА рд╣реИред рдЪреВрдВрдХрд┐ рдореИрдВ рдПрдПрдордбреА рдЬреАрдкреАрдпреВ рдХрд╛ рднреА рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реВрдВ, рдЗрд╕рд▓рд┐рдП рдореИрдВрдиреЗ рдЗрд╕реЗ рджреЗрдиреЗ рдХреЗ рд▓рд┐рдП рдПрдХ рдбрд┐рдЬрд┐рдЯрд▓ рдУрд╢рди рдЯреЗрдВрд╕рд░рдлреНрд▓реЛ рдмреЙрдХреНрд╕ рдмрдирд╛рдпрд╛, рд▓реЗрдХрд┐рди рдРрд╕рд╛ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рд╡рд╣рд╛рдВ рдХреЛрдИ рдЬреАрдкреАрдпреВ рд╕рдорд░реНрдерди рдирд╣реАрдВ рд╣реИ, рдФрд░ рдпрд╣ рдмреБрд░реА рддрд░рд╣ рд╡рд┐рдлрд▓ рд╣реЛ рд░рд╣рд╛ рд╣реИред

`# рдЬреЙрдм рдЖрдИрдбреА 0

hparams /home/science/tf-demo/models/nmt-chatbot/model/hparams рд╕реЗ рд▓реЛрдб рд╣реЛ рд░рд╣рд╛ рд╣реИ

hparams рдХреЛ /home/science/tf-demo/models/nmt-chatbot/model/hparams рдореЗрдВ рд╕реЗрд╡ рдХрд░рдирд╛
hparams рдХреЛ /home/science/tf-demo/models/nmt-chatbot/model/best_bleu/hparams рдореЗрдВ рд╕реЗрд╡ рдХрд░рдирд╛
рдзреНрдпрд╛рди=рд╕реНрдХреЗрд▓реНрдб_рд▓реБрдУрдВрдЧ
рдзреНрдпрд╛рди_рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ = рдорд╛рдирдХ
рдмреИрдЪ_рд╕рд╛рдЗрдЬ = 128
рдмреАрдо_рдЪреМрдбрд╝рд╛рдИ = 10
best_bleu=0
best_bleu_dir=/home/science/tf-demo/models/nmt-chatbot/model/best_bleu
check_special_token=рд╕рддреНрдп
colocate_gradients_with_ops=рд╕рдЪ
рдХреНрд╖рдп_рдХрд╛рд░рдХ = 1.0
рдХреНрд╖рдп_рдЪрд░рдг=резрежрежрежреж
dev_prefix=/home/science/tf-demo/models/nmt-chatbot/data/tst2012
рдбреНрд░реЙрдкрдЖрдЙрдЯ = 0.2
encoder_type=bi
рдИрдУрдПрд╕ =
рдпреБрдЧ_рдЪрд░рдг = 0
рднреВрд▓ рдЬрд╛рдУ = 1.0
infer_batch_size=32
init_op=рд╡рд░реНрджреА
init_weight=0.1
Learning_rate=0.001
Learning_rate_decay_scheme=
рд▓рдореНрдмрд╛рдИ_рдкреЗрдирд▓реНрдЯреА_рд╡реЗрдЯ = 1.0
log_device_placement=рдЧрд▓рдд
max_gradient_norm=5.0
рдореИрдХреНрд╕_рдЯреНрд░реЗрди = 0
рдореЗрдЯреНрд░рд┐рдХреНрд╕ = ['рдмреНрд▓реВ']
num_buckets=5
num_embeddings_partitions=0
num_gpus=1
num_layers=2
num_residual_layers=0
num_train_steps=500000
num_translations_per_input=10
num_units=512
рдЕрдиреБрдХреВрд▓рдХ=рдПрдбрдо
out_dir=/home/science/tf-demo/models/nmt-chatbot/model
output_attention=рд╕рдЪ
рдУрд╡рд░рд░рд╛рдЗрдб_рд▓реЛрдбреЗрдб_рд╣рдкрд░рдореНрд╕ = рд╕рдЪ
pass_hidden_state=рд╕рдЪ
random_seed=рдХреЛрдИ рдирд╣реАрдВ
рдЕрд╡рд╢рд┐рд╖реНрдЯ = рдЕрд╕рддреНрдп
рд╢реЗрдпрд░_рд╡реЛрдХреИрдм=рдЧрд▓рдд
рдПрд╕рдУрдПрд╕ =
source_reverse=рдЧрд▓рдд
рд╕реНрд░реЛрдд = рд╕реЗ
src_max_len=50
src_max_len_infer=рдХреЛрдИ рдирд╣реАрдВ
src_vocab_file=/home/science/tf-demo/models/nmt-chatbot/data/vocab.from
src_vocab_size=15003
start_decay_step=0
steps_per_external_eval=рдХреЛрдИ рдирд╣реАрдВ
steps_per_stats=100
рдЙрдкрд╢рдмреНрдж_рд╡рд┐рдХрд▓реНрдк=
test_prefix=/home/science/tf-demo/models/nmt-chatbot/data/tst2013
tgt=to
tgt_max_len=50
tgt_max_len_infer=рдХреЛрдИ рдирд╣реАрдВ
tgt_vocab_file=/home/science/tf-demo/models/nmt-chatbot/data/vocab.to
tgt_vocab_size=15003
time_major=рд╕рдЪ
train_prefix=/home/science/tf-demo/models/nmt-chatbot/data/train
Unit_type=lstm
vocab_prefix=/home/science/tf-demo/models/nmt-chatbot/data/vocab
рд╡рд╛рд░реНрдордЕрдк_рд╕реНрдХреАрдо = t2t
рд╡рд╛рд░реНрдордЕрдк_рд╕реНрдЯреЗрдкреНрд╕ = 0

рдЯреНрд░реЗрди рдХрд╛ рдЧреНрд░рд╛рдл рдмрдирд╛рдпрд╛ рдЬрд╛ рд░рд╣рд╛ рд╣реИ...

num_bi_layers = 1, num_bi_residual_layers=0
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбреНрд░реЙрдкрдЖрдЙрдЯ рд░реИрдкрд░, рдбреНрд░реЙрдкрдЖрдЙрдЯ = реж.реи рдбрд┐рд╡рд╛рдЗрд╕рд╡рд╛рдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / рдЬреАрдкреАрдпреВ: реж
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбреНрд░реЙрдкрдЖрдЙрдЯ рд░реИрдкрд░, рдбреНрд░реЙрдкрдЖрдЙрдЯ = реж.реи рдбрд┐рд╡рд╛рдЗрд╕рд╡рд╛рдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / рдЬреАрдкреАрдпреВ: реж
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбреНрд░реЙрдкрдЖрдЙрдЯ рд░реИрдкрд░, рдбреНрд░реЙрдкрдЖрдЙрдЯ = реж.реи рдбрд┐рд╡рд╛рдЗрд╕рд╡рд╛рдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / рдЬреАрдкреАрдпреВ: реж
рд╕реЗрд▓ 1 LSTM, рднреВрд▓реЗ-рдмрд┐рд╕рд░реЗ = 1 рдбреНрд░реЙрдкрдЖрдЙрдЯ рд░реИрдкрд░, рдбреНрд░реЙрдкрдЖрдЙрдЯ = 0.2 рдбрд┐рд╡рд╛рдЗрд╕рд╡рд╛рдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / рдЬреАрдкреАрдпреВ: 0
рд▓рд░реНрдирд┐рдВрдЧ_рд░реЗрдЯ = 0.001, рд╡рд╛рд░реНрдордЕрдк_рд╕реНрдЯреЗрдкреНрд╕ = 0, рд╡рд╛рд░реНрдордЕрдк_рд╕реНрдХреАрдо = рдЯреА 2 рдЯреА
рдХреНрд╖рдп_рд╕реНрдХреАрдо=, start_decay_step=0, рдХреНрд╖рдп_рдЪрд░рдг резрежрежрежреж, рдХреНрд╖рдп_рдХрд╛рд░рдХ рез

рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдЪрд░

рдПрдореНрдмреЗрдбрд┐рдВрдЧ/рдПрдирдХреЛрдбрд░/рдПрдореНрдмреЗрдбрд┐рдВрдЧ_ рдПрдирдХреЛрдбрд░:0 , (резрелрежрежрей, релрезреи),
рдПрдореНрдмреЗрдбрд┐рдВрдЧ/рдбрд┐рдХреЛрдбрд░/рдПрдореНрдмреЗрдбрд┐рдВрдЧ_ рдбрд┐рдХреЛрдбрд░:0 , (15003, 512),
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/fw/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/fw/basic_lstm_cell/ рдмрд╛рдпрд╕:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/bw/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/bw/basic_lstm_cell/ рдмрд╛рдпрд╕:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдореЗрдореЛрд░реА_рд▓реЗрдпрд░/ рдХрд░реНрдиреЗрд▓:0 , (1024, 512),
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_0/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (резрелрейрем, реирежрекрео),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :реж
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_0/basic_lstm_cell/ bias:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/рдорд▓реНрдЯреА_рдЖрд░рдПрдирдПрди_рд╕реЗрд▓/рд╕реЗрд▓_1/рдмреЗрд╕рд┐рдХ_рдПрд▓рдПрд╕рдЯреАрдПрдо_рд╕реЗрд▓/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: рдЬреАрдкреАрдпреВ : 0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_1/basic_lstm_cell/ bias:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/luong_attention/attention_g:0, (),/ рдбрд┐рд╡рд╛рдЗрд╕:GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/рдзреНрдпрд╛рди_рд▓реЗрдпрд░/ рдХрд░реНрдиреЗрд▓:0 ,(резрелрейрем, релрезреи),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :реж
рдбрд╛рдпрдирд╛рдорд┐рдХ_seq2seq/рдбрд┐рдХреЛрдбрд░/рдЖрдЙрдЯрдкреБрдЯ_рдкреНрд░реЛрдЬреЗрдХреНрд╢рди/ рдХрд░реНрдиреЗрд▓:0 , (512, 15003),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :0

eval рдЧреНрд░рд╛рдл рдмрдирд╛рдпрд╛ рдЬрд╛ рд░рд╣рд╛ рд╣реИ...

num_bi_layers = 1, num_bi_residual_layers=0
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбрд┐рд╡рд╛рдЗрд╕рд╡реИрдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / gpu: реж
рд╕реЗрд▓ реж LSTM, рднреВрд▓рдирд╛_рдмрд╛рдпрд╕ = рез рдбрд┐рд╡рд╛рдЗрд╕рд╡рд╛рдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / рдЬреАрдкреАрдпреВ: реж
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбрд┐рд╡рд╛рдЗрд╕рд╡реИрдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / gpu: реж
рд╕реЗрд▓ 1 LSTM, рднреВрд▓ рдЬрд╛рдУ = 1 DeviceWrapper, рдбрд┐рд╡рд╛рдЗрд╕ = / gpu: 0

рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдЪрд░

рдПрдореНрдмреЗрдбрд┐рдВрдЧ/рдПрдирдХреЛрдбрд░/рдПрдореНрдмреЗрдбрд┐рдВрдЧ_ рдПрдирдХреЛрдбрд░:0 , (резрелрежрежрей, релрезреи),
рдПрдореНрдмреЗрдбрд┐рдВрдЧ/рдбрд┐рдХреЛрдбрд░/рдПрдореНрдмреЗрдбрд┐рдВрдЧ_ рдбрд┐рдХреЛрдбрд░:0 , (15003, 512),
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/fw/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/fw/basic_lstm_cell/ рдмрд╛рдпрд╕:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/bw/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/bw/basic_lstm_cell/ рдмрд╛рдпрд╕:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдореЗрдореЛрд░реА_рд▓реЗрдпрд░/ рдХрд░реНрдиреЗрд▓:0 , (1024, 512),
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_0/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (резрелрейрем, реирежрекрео),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :реж
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_0/basic_lstm_cell/ bias:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/рдорд▓реНрдЯреА_рдЖрд░рдПрдирдПрди_рд╕реЗрд▓/рд╕реЗрд▓_1/рдмреЗрд╕рд┐рдХ_рдПрд▓рдПрд╕рдЯреАрдПрдо_рд╕реЗрд▓/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: рдЬреАрдкреАрдпреВ : 0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_1/basic_lstm_cell/ bias:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/luong_attention/attention_g:0, (),/ рдбрд┐рд╡рд╛рдЗрд╕:GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/рдзреНрдпрд╛рди_рд▓реЗрдпрд░/ рдХрд░реНрдиреЗрд▓:0 ,(резрелрейрем, релрезреи),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :реж
рдбрд╛рдпрдирд╛рдорд┐рдХ_seq2seq/рдбрд┐рдХреЛрдбрд░/рдЖрдЙрдЯрдкреБрдЯ_рдкреНрд░реЛрдЬреЗрдХреНрд╢рди/ рдХрд░реНрдиреЗрд▓:0 , (512, 15003),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :0

рдЕрдиреБрдорд╛рди рдЧреНрд░рд╛рдл рдмрдирд╛рдпрд╛ рдЬрд╛ рд░рд╣рд╛ рд╣реИ...

num_bi_layers = 1, num_bi_residual_layers=0
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбрд┐рд╡рд╛рдЗрд╕рд╡реИрдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / gpu: реж
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбрд┐рд╡рд╛рдЗрд╕рд╡реИрдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / gpu: реж
рд╕реЗрд▓ реж LSTM, рднреВрд▓ рдЬрд╛рдУ = рез рдбрд┐рд╡рд╛рдЗрд╕рд╡реИрдкрд░, рдбрд┐рд╡рд╛рдЗрд╕ = / gpu: реж
рд╕реЗрд▓ 1 LSTM, рднреВрд▓ рдЬрд╛рдУ = 1 DeviceWrapper, рдбрд┐рд╡рд╛рдЗрд╕ = / gpu: 0

рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдЪрд░

рдПрдореНрдмреЗрдбрд┐рдВрдЧ/рдПрдирдХреЛрдбрд░/рдПрдореНрдмреЗрдбрд┐рдВрдЧ_ рдПрдирдХреЛрдбрд░:0 , (резрелрежрежрей, релрезреи),
рдПрдореНрдмреЗрдбрд┐рдВрдЧ/рдбрд┐рдХреЛрдбрд░/рдПрдореНрдмреЗрдбрд┐рдВрдЧ_ рдбрд┐рдХреЛрдбрд░:0 , (15003, 512),
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/fw/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/fw/basic_lstm_cell/ рдмрд╛рдпрд╕:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/bw/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдПрдирдХреЛрдбрд░/рджреНрд╡рд┐рджрд┐рд╢рд╛рддреНрдордХ_rnn/bw/basic_lstm_cell/ рдмрд╛рдпрд╕:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдореЗрдореЛрд░реА_рд▓реЗрдпрд░/ рдХрд░реНрдиреЗрд▓:0 , (1024, 512),
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_0/basic_lstm_cell/ рдХрд░реНрдиреЗрд▓:0 , (резрелрейрем, реирежрекрео),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :реж
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_0/basic_lstm_cell/ bias:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/рдорд▓реНрдЯреА_рдЖрд░рдПрдирдПрди_рд╕реЗрд▓/рд╕реЗрд▓_1/рдмреЗрд╕рд┐рдХ_рдПрд▓рдПрд╕рдЯреАрдПрдо_рд╕реЗрд▓/ рдХрд░реНрдиреЗрд▓:0 , (1024, 2048), / рдбрд┐рд╡рд╛рдЗрд╕: рдЬреАрдкреАрдпреВ : 0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/multi_rnn_cell/cell_1/basic_lstm_cell/ bias:0 , (2048,), / рдбрд┐рд╡рд╛рдЗрд╕: GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/luong_attention/attention_g:0, (),/ рдбрд┐рд╡рд╛рдЗрд╕:GPU :0
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдзреНрдпрд╛рди/рдзреНрдпрд╛рди_рд▓реЗрдпрд░/ рдХрд░реНрдиреЗрд▓:0 ,(резрелрейрем, релрезреи),/ рдбрд┐рд╡рд╛рдЗрд╕:рдЬреАрдкреАрдпреВ :реж
dynamic_seq2seq/рдбрд┐рдХреЛрдбрд░/рдЖрдЙрдЯрдкреБрдЯ_рдкреНрд░реЛрдЬреЗрдХреНрд╢рди/ рдХрд░реНрдиреЗрд▓:0 , (512, 15003),

log_file=/home/science/tf-demo/models/nmt-chatbot/model/log_1519669184

2018-02-26 18:19:44.862736: I tensorflow/core/platform/cpu_feature_guard.cc:137] рдЖрдкрдХрд╛ CPU рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХрд╛ рд╕рдорд░реНрдерди рдХрд░рддрд╛ рд╣реИ рдХрд┐ рдЗрд╕ TensorFlow рдмрд╛рдЗрдирд░реА рдХреЛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕рдВрдХрд▓рд┐рдд рдирд╣реАрдВ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛: SSE4.1 SSE4.2 AVX AVX2 FMA
рдорд╛рд░реЗ рдЧрдП'

рдХрд┐рд╕ рдХрдорд╛рдВрдб рдХреЛ рдЪрд▓рд╛рдиреЗ рдХреА рдЬрд░реВрд░рдд рд╣реИ рдФрд░ рдЗрди рдХрдорд╛рдВрдб рдХреЛ рдХрд╣рд╛рдВ рдЪрд▓рд╛рдирд╛ рд╣реИ рдФрд░ рдХреГрдкрдпрд╛ рдХреИрд╕реЗ рдмрддрд╛рдПрдВред рдореБрдЭреЗ рдорджрдж рдХреА рд╕рдЦреНрдд рдЬрд░реВрд░рдд рд╣реИред

рд▓реЗрдХрд┐рди рдХреНрдпрд╛ рдЗрд╕рдХрд╛ рдорддрд▓рдм рдпрд╣ рд╣реИ рдХрд┐ рд╕рд┐рд╕реНрдЯрдо рдкреНрд░рдХреНрд░рд┐рдпрд╛ рдХреЗ рд▓рд┐рдП GPU рдХрд╛ рдЙрдкрдпреЛрдЧ рдирд╣реАрдВ рдХрд░ рд░рд╣рд╛ рд╣реИ?

рд╡реИрд╕реЗ рдЖрдкрдХреЛ рдЗрд╕реЗ рд╣рд▓ рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИ рдпрджрд┐ рдЖрдк рдПрдХ рддреНрд╡рд░рдг рд╡рд╛рддрд╛рд╡рд░рдг рдореЗрдВ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдЬреИрд╕реЗ рдХрд┐ рдХреЗрд░рд╛рд╕рдХреНрд▓рд╛рд╕рд┐рдлрд╛рдпрд░ рдореЗрдВ k-fold рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ред
рдЗрд╕реЗ рд╣рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЖрдкрдХреЛ рд╕реНрд░реЛрдд рд╕реЗ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдмрдирд╛рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрдЧреА рдЬреИрд╕рд╛ рдХрд┐ рд╣рд░ рдХреЛрдИ рдЕрдиреБрд╢рдВрд╕рд╛ рдХрд░рддрд╛ рд╣реИред
рд╕реНрд░реЛрдд рд╕реЗ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЖрдкрдХреЛ рдирд┐рдореНрди рдЯреВрд▓ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрдЧреА

  1. рдпрджрд┐ рдЖрдк рдкрд╣рд▓реЗ рд╕реЗ рд╣реА рдиреАрдЪреЗ рдирд╣реАрдВ рд╣реИрдВ, рддреЛ рдЖрдк рдорд╢реАрди рдкрд░ git рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ - ubuntu рдорд╢реАрди рдкрд░ рдмрд╕ "sudo apt-get install git рдЯрд╛рдЗрдк рдХрд░реЗрдВ
  2. рдЖрдкрдХреЛ рдмреЗрдЬрд╝рд▓ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрдЧреАред рдХрд╕реНрдЯрдо APT рд░рд┐рдкреЙрдЬрд┐рдЯрд░реА рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреА рдЕрддреНрдпрдзрд┐рдХ рдЕрдиреБрд╢рдВрд╕рд╛ рдХреА рдЬрд╛рддреА рд╣реИред bazel https://docs.bazel.build/versions/master/install-ubuntu.html рдЗрдВрд╕реНрдЯреЙрд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрд╕ рд▓рд┐рдВрдХ рдкрд░ рджрд┐рдП рдЧрдП рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХрд╛ рдкрд╛рд▓рди
  3. рдЖрдкрдХреЛ рдирд┐рдореНрдирд▓рд┐рдЦрд┐рдд рдЕрдЬрдЧрд░ рдирд┐рд░реНрднрд░рддрд╛ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИ ... рдиреАрдЪреЗ рджрд┐рдП рдЧрдП рдЖрджреЗрд╢ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ
    рд╕реБрдиреНрди, рджреЗрд╡, рдФрд░ рдкрд╣рд┐рдпрд╛
    sudo apt-рдкрд╛рдпрдерди-рд╕реБрдиреНрди рдкрд╛рдпрдерди-рджреЗрд╡ рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ рдЕрдЬрдЧрд░-рдкрд╛рдЗрдк рдЕрдЬрдЧрд░-рдкрд╣рд┐рдпрд╛
    4. рдПрдХ рдмрд╛рд░ рдЬрдм рдЖрдкрдХреЗ рдкрд╛рд╕ рд╕рднреА рдирд┐рд░реНрднрд░рддрд╛рдПрдБ рд╕реНрдерд╛рдкрд┐рдд рд╣реЛ рдЬрд╛рдПрдБ, рддреЛ tensorflow github рдХреЛ рдЕрдкрдиреЗ рд╕реНрдерд╛рдиреАрдп рдбреНрд░рд╛рдЗрд╡ рдкрд░ рдХреНрд▓реЛрди рдХрд░реЗрдВ
    рдЧрд┐рдЯ рдХреНрд▓реЛрди https://github.com/tensorflow/tensorflow
  4. рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдлрд╝рд╛рдЗрд▓ рдореЗрдВ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдФрд░ рд╕реАрдбреА рдХреЛ рдХреНрд▓реЛрди рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕реНрдерд╛рди рдкрд░ рдЬрд╛рдПрдБ рдФрд░ рдХреЙрдиреНрдлрд╝рд┐рдЧ рдлрд╝рд╛рдЗрд▓ рдЪрд▓рд╛рдПрдБ
    рд╕реАрдбреА рдЯреЗрдВрд╕рд░
    рдХреЙрдиреНрдлрд╝рд┐рдЧрд░

рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдЗрдВрд╕реНрдЯреЙрд▓реЗрд╢рди рдХреЛ рдкреВрд░рд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдмрд╕ рд╕реНрдХреНрд░реАрди рдкрд░ рджрд┐рдП рдЧрдП рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХрд╛ рдкрд╛рд▓рди рдХрд░реЗрдВред
рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рд╕реНрдерд╛рдкрд┐рдд рд╣реЛрдиреЗ рдХреЗ рдмрд╛рдж рдореИрдВ рдЖрдкрдХреА рдорд╢реАрди рдХреЛ рдЕрдкрдбреЗрдЯ рдХрд░рдиреЗ рдХреА рдЕрддреНрдпрдзрд┐рдХ рдЕрдиреБрд╢рдВрд╕рд╛ рдХрд░реВрдВрдЧрд╛
рд╕реБрдбреЛ рдПрдкреАрдЯреА-рдЕрдкрдбреЗрдЯ рдкреНрд░рд╛рдкреНрдд рдХрд░реЗрдВ

рд╢реБрднрдХрд╛рдордирд╛рдПрдБ рдФрд░ рдЖрдирдВрдж рд▓реЗрдВ ...

рдмрд╕ рдЗрд╕ рдзрд╛рдЧреЗ рдкрд░ рдзреНрдпрд╛рди рджреЗрдВ рдХрд┐ рдЖрдкрдХреЛ рдЗрди рдЪреЗрддрд╛рд╡рдирд┐рдпреЛрдВ рдХреЛ рдЪреБрдк рдирд╣реАрдВ рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдП - рдореБрдЭреЗ рд╕реНрд░реЛрдд рд╕реЗ рдирд┐рд░реНрдорд╛рдг рдХрд░рдХреЗ рд▓рдЧрднрдЧ 43% рддреЗрдЬ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд╕рдордп рдорд┐рд▓ рд░рд╣рд╛ рд╣реИ, рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рдпрд╣ рдкреНрд░рдпрд╛рд╕ рдХреЗ рд▓рд╛рдпрдХ рд╣реИред

рдЗрд╕ рдлрд╝рд╛рдЗрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдХреИрд╕реЗ рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ" tensorflow-1.6.0-cp36-cp36m-win_amd64.whl"

@anozele pip3 install --upgrade *path to wheel file*

@gunan --config=opt рдкрд░реНрдпрд╛рдкреНрдд рдирд╣реАрдВ рд╣реИ, рдЖрдкрдХреЛ рд╕реНрд░реЛрдд рд╕реЗ TensorFlow рдмрдирд╛рддреЗ рд╕рдордп рднреА рдЬреЛрдбрд╝рдирд╛ рдЪрд╛рд╣рд┐рдП, рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, --copt="-msse4.2",ред

рдЗрдВрдЯреЗрд▓ рдХреЗ рдЕрдиреБрд╕рд╛рд░, https://software.intel.com/en-us/articles/intel-optimization-for-tensorflow-installation-guide , рдпрджрд┐ рдЖрдк рдЗрдВрдЯреЗрд▓ рдирд┐рд░реНрдорд┐рдд Tensorflow рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВ, рддреЛ рдЖрдк рдЙрди рдЪреЗрддрд╛рд╡рдиреА рдХреЛ рдЕрдирджреЗрдЦрд╛ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ рдХреНрдпреЛрдВрдХрд┐ рд╕рднреА рдЙрдкрд▓рдмреНрдз рдирд┐рд░реНрджреЗрд╢ рд╕реЗрдЯ рд╣реЛрдВрдЧреЗ рдмреИрдХрдПрдВрдб рдПрдордХреЗрдПрд▓ рджреНрд╡рд╛рд░рд╛ рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред рдХреНрдпрд╛ Tensorflow рд╕реЗ рдХреЛрдИ рдЗрд╕рдХреА рдкреБрд╖реНрдЯрд┐ рдХрд░ рд╕рдХрддрд╛ рд╣реИ?

рдпрд╣ рдХреЛрдИ рддреНрд░реБрдЯрд┐ рдирд╣реАрдВ рд╣реИ, рдХреЗрд╡рд▓ рдпрд╣ рдХрд╣рддреЗ рд╣реБрдП рдЪреЗрддрд╛рд╡рдирд┐рдпрд╛рдБ рд╣реИрдВ рдХрд┐ рдпрджрд┐ рдЖрдк рд╕реНрд░реЛрдд рд╕реЗ TensorFlow рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░рддреЗ рд╣реИрдВ рддреЛ рдпрд╣ рдЖрдкрдХреА рдорд╢реАрди рдкрд░ рддреЗрдЬрд╝ рд╣реЛ рд╕рдХрддрд╛ рд╣реИред

рддреЛ рдЗрд╕ рдмрд╛рд░реЗ рдореЗрдВ рд╕рд╡рд╛рд▓: http://stackoverflow.com/questions/41293077/how-to-compile-tensorflow-with-sse4-2-and-avx-instructions
рд╕реНрд░реЛрдд рд╕реЗ рдирд┐рд░реНрдорд╛рдг рдХреЗ рд▓рд┐рдП TensorFlow рдЧрд╛рдЗрдб: https://www.tensorflow.org/install/install_sources

рд╣рд╛рд▓рд╛рдВрдХрд┐, рдпрд╣ рддреЗрдЬреА рд╕реЗ рдореИрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдирд╣реАрдВ рдХрд░рддреЗ -FMA -AVX -SSE рдирд╣реАрдВ рд╣реИ https://stackoverflow.com/questions/57197854/fma-avx-sse-flags-did-not-bring-me-good-performance

рдирдорд╕реНрддреЗред рдХреНрд╖рдорд╛ рдХрд░реЗрдВ рдпрджрд┐ рдореИрдВ рдПрдХ рдорд░реЗ рд╣реБрдП рдШреЛрдбрд╝реЗ рдХреЛ рдкреАрдЯ рд░рд╣рд╛ рд╣реВрдБред рдмрд╕ рд╕реЛрдЪ рд░рд╣рд╛ рдерд╛ рдХрд┐ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдкрд╛рдЗрдк рд╡реНрд╣реАрд▓ рдЕрдЧреНрд░рд┐рдо рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХреЗ рд╕рд╛рде рд╕рдВрдХрд▓рд┐рдд рдмрд╛рдпрдиреЗрд░рд┐рдЬрд╝ рдХреНрдпреЛрдВ рдирд╣реАрдВ рд╣реИ?

рдирдорд╕реНрддреЗред рдХреНрд╖рдорд╛ рдХрд░реЗрдВ рдпрджрд┐ рдореИрдВ рдПрдХ рдорд░реЗ рд╣реБрдП рдШреЛрдбрд╝реЗ рдХреЛ рдкреАрдЯ рд░рд╣рд╛ рд╣реВрдБред рдмрд╕ рд╕реЛрдЪ рд░рд╣рд╛ рдерд╛ рдХрд┐ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдкрд╛рдЗрдк рд╡реНрд╣реАрд▓ рдЕрдЧреНрд░рд┐рдо рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХреЗ рд╕рд╛рде рд╕рдВрдХрд▓рд┐рдд рдмрд╛рдпрдиреЗрд░рд┐рдЬрд╝ рдХреНрдпреЛрдВ рдирд╣реАрдВ рд╣реИ?

рдРрд╕рд╛ рдЗрд╕рд▓рд┐рдП рд╣реИ рдХреНрдпреЛрдВрдХрд┐ рдкреБрд░рд╛рдиреЗ рд╕реАрдкреАрдпреВ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдЙрдиреНрдирдд рдирд┐рд░реНрджреЗрд╢ рд╕реЗрдЯ рдХрд╛ рд╕рдорд░реНрдерди рдирд╣реАрдВ рдХрд░рддреЗ рд╣реИрдВред AVX, AVX2 рдпрд╛ AVX512 рдХреЛ рд╕рдкреЛрд░реНрдЯ рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рд╕реАрдкреАрдпреВ рдХреА рд╡рд┐рд╕реНрддреГрдд рд╕реВрдЪреА рдХреЗ рд▓рд┐рдП рд╡рд┐рдХреА рджреЗрдЦреЗрдВред рдпрджрд┐ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдкрд╛рдЗрдк рдмрд╛рдЗрдирд░реА рдХреЛ рдЗрди рдирд┐рд░реНрджреЗрд╢ рд╕реЗрдЯреЛрдВ рдХреЗ рд╕рд╛рде рд╕рдВрдХрд▓рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рддреЛ рдЯреЗрдВрд╕рд░рдлрд╝реНрд▓реЛ рдкреБрд░рд╛рдиреЗ рд╕реАрдкреАрдпреВ рдкрд░ рдХрд╛рдо рдирд╣реАрдВ рдХрд░ рд╕рдХрддрд╛ рд╣реИред

рд▓реЗрдХрд┐рди рдХреНрдпрд╛ рдЗрд╕рдХрд╛ рдорддрд▓рдм рдпрд╣ рд╣реИ рдХрд┐ рд╕рд┐рд╕реНрдЯрдо рдкреНрд░рдХреНрд░рд┐рдпрд╛ рдХреЗ рд▓рд┐рдП GPU рдХрд╛ рдЙрдкрдпреЛрдЧ рдирд╣реАрдВ рдХрд░ рд░рд╣рд╛ рд╣реИ?

рдирд╣реАрдВ, рдпрд╣ рджрд┐рдЦрд╛рддрд╛ рд╣реИ рдХрд┐ рднрд▓реЗ рд╣реА рдЖрдк GPU рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░ рд░рд╣реЗ рд╣реЛрдВ, рдпрджрд┐ рдЖрдкрдиреЗ рд╕рдВрджреЗрд╢реЛрдВ рдХреЛ рд╢рд╛рдВрдд рдирд╣реАрдВ рдХрд┐рдпрд╛ рд╣реИ, рддреЛ рдЖрдкрдХреЛ рдХрдорд╛рдВрдб рдкреНрд░реЙрдореНрдкреНрдЯ рдореЗрдВ Tensorflor рдХреЛ рдЖрдкрдХреЗ GPU рдбрд┐рд╡рд╛рдЗрд╕ рдХреЛ рд▓реЛрдб рдХрд░рддреЗ рд╣реБрдП рднреА рджреЗрдЦрдирд╛ рдЪрд╛рд╣рд┐рдПред

рдпрджрд┐ рдЖрдк рдЗрд╕ рд░реЗрдкреЛ рд╕реЗ рдЬрд╛рдВрдЪрддреЗ рд╣реИрдВ:
рдХреГрдкрдпрд╛ рдиреАрдЪреЗ рджрд┐рдП рдЧрдП рдХреЛрдб рдХреА рдЬрд╛рдБрдЪ рдХрд░реЗрдВ:

https://github.com/fo40225/tensorflow-windows-wheel

рдЙрдиреНрд╣реЛрдВрдиреЗ рдПрд╕рдПрд╕рдИ рдФрд░ рдПрд╡реАрдПрдХреНрд╕ рдХреЗ рд╕рд╛рде рдЯреАрдПрдл рдХреЗ рд▓рдЧрднрдЧ рд╕рднреА рд╕рдВрд╕реНрдХрд░рдгреЛрдВ рдХреЛ рд╕рдВрдХрд▓рд┐рдд рдХрд┐рдпрд╛ рд╣реИ
рдЙрдиреНрд╣реЛрдВрдиреЗ рд▓рдЧрднрдЧ рд╕рднреА TF рд╕рдВрд╕реНрдХрд░рдгреЛрдВ рдХреЛ рд╕рдВрдХрд▓рд┐рдд рдХрд┐рдпрд╛ рд╣реИ!

рдпрд╣ рд▓реЗрдЦ рдЭрдВрдбреЗ рд╕рд╣рд┐рдд рд╕реНрд░реЛрдд рд╕реЗ рдирд┐рд░реНрдорд╛рдг рдХрд░рдиреЗ рдХрд╛ рдПрдХ рдЕрдЪреНрдЫрд╛ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдерд╛
https://medium.com/@pierreontech/setup -a-high-performance-conda-tensorflow-environment-репренремрепрепрелрезрелреоcb1

--copt=-mavx --copt=-msse4.1 --copt=-msse4.2 рдЬреИрд╕реЗ рдЕрддрд┐рд░рд┐рдХреНрдд рдмреЗрдЬрд╝рд▓ рд╡рд┐рдХрд▓реНрдкреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдЙрдЪрд┐рдд рдПрдХреНрд╕рдЯреЗрдВрд╢рди рдХреЛ рд╢рд╛рдорд┐рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдмрд╛рдзреНрдп рдХрд░рдиреЗ рдХрд╛ рдкреНрд░рдпрд╛рд╕ рдХрд░реЗрдВ

рдХреНрдпрд╛ рдпрд╣ рдкреГрд╖реНрда рдЙрдкрдпреЛрдЧреА рдерд╛?
0 / 5 - 0 рд░реЗрдЯрд┐рдВрдЧреНрд╕

рд╕рдВрдмрдВрдзрд┐рдд рдореБрджреНрджреЛрдВ

jacobma-create picture jacobma-create  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

MrSaad picture MrSaad  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

fobus42 picture fobus42  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

ilblackdragon picture ilblackdragon  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

jricheimer picture jricheimer  ┬╖  3рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ