рдореИрдВ рдбрд┐рд╡рд╛рдЗрд╕ рдкреНрд▓реЗрд╕рдореЗрдВрдЯ рд▓реЙрдЧрд┐рдВрдЧ рдЪрд╛рд▓реВ рд╣реЛрдиреЗ рдХреЗ рд╕рд╛рде cifar10_multi_gpu_train.py
рд╕реНрдХреНрд░рд┐рдкреНрдЯ рдЪрд▓рд╛ рд░рд╣рд╛ рд╣реВрдВ, рдФрд░ рдореИрдВ рджреЗрдЦрддрд╛ рд╣реВрдВ рдХрд┐ рд╕рднреА рдСрдкрд░реЗрд╢рди рд╕реАрдкреАрдпреВ рдкрд░ рд░рдЦреЗ рдЬрд╛ рд░рд╣реЗ рд╣реИрдВред рдЬрдм рдореИрдВ рдЗрд╕реЗ рдЪрд▓рд╛рддрд╛ рд╣реВрдВ, рддреЛ рдпрд╣ рдЖрдЙрдЯрдкреБрдЯ рдХрд░рддрд╛ рд╣реИ:
Filling queue with 20000 CIFAR images before starting to train. This will take a few minutes.
I tensorflow/core/common_runtime/local_device.cc:25] Local device intra op parallelism threads: 8
I tensorflow/core/common_runtime/direct_session.cc:45] Direct session inter op parallelism threads: 8
Device mapping: no known devices.
I tensorflow/core/common_runtime/direct_session.cc:111] Device mapping:
softmax_linear/biases/ExponentialMovingAverage: /job:localhost/replica:0/task:0/cpu:0
I tensorflow/core/common_runtime/simple_placer.cc:289] softmax_linear/biases/ExponentialMovingAverage: /job:localhost/replica:0/task:0/cpu:0
.....
.....
рдореБрдЭреЗ рд▓рдЧрддрд╛ рд╣реИ рдХрд┐ рд▓рд╛рдЗрди Device mapping: no known devices.
рд╡рд░реНрддрдорд╛рди рд╕рддреНрд░ рд╕реЗ рдЬреБрдбрд╝реЗ рдЙрдкрдХрд░рдгреЛрдВ рдХреЛ рд╕реВрдЪреАрдмрджреНрдз рдХрд░рдиреЗ рд╡рд╛рд▓реА рд╣реИ, рд▓реЗрдХрд┐рди рдЗрд╕рдореЗрдВ рдХреЛрдИ рдбрд┐рд╡рд╛рдЗрд╕ рдХреНрдпреЛрдВ рдирд╣реАрдВ рд╣реИ? рд╕реНрдХреНрд░рд┐рдкреНрдЯ рдХреЙрд▓
tf.device('/gpu:0')
ред
рдореЗрд░рд╛ GPU Nvidia GeForce GTX 970 рд╣реИред
рдЗрд╕рдХрд╛ рд╕рдорд╛рдзрд╛рди рдХрд┐рдпрд╛ред
рдореИрдВрдиреЗ рдЧрд▓рддреА рд╕реЗ "--config=cuda" рдзреНрд╡рдЬ рдХреЗ рдмрд┐рдирд╛ рдЕрдЬрдЧрд░ рдкреИрдХреЗрдЬ рдмрдирд╛рдпрд╛ рд╣реЛрдЧрд╛ред рдЬрдм рдореИрдВрдиреЗ рдЗрд╕ рдзреНрд╡рдЬ рдХреЗ рд╕рд╛рде рдкреБрдирд░реНрдирд┐рд░реНрдорд╛рдг рдХрд┐рдпрд╛, рддреЛ рдкрд╛рдЗрдк рдЕрдирдЗрдВрд╕реНрдЯреЙрд▓ рдХрд┐рдП рдЧрдП рдЯреЗрдВрд╕рд░рдлреНрд▓реЛ рдХреЛ рд╣рдЯрд╛ рджрд┐рдпрд╛, рдлрд┐рд░ рдирд╡ рдирд┐рд░реНрдорд┐рдд рдкреИрдХреЗрдЬ рдХреЗ рд╕рд╛рде рдкреБрдирд░реНрд╕реНрдерд╛рдкрд┐рдд рдХрд┐рдпрд╛, рдпрд╣ рдкреВрд░реА рддрд░рд╣ рд╕реЗ рдХрд╛рдо рдХрд░рддрд╛ рдерд╛ред
рдпрд╣реА рд╕рдорд╕реНрдпрд╛ рддрдм рд╣реБрдИ рдЬрдм рдореИрдВ рдбрд┐рд╡рд╛рдЗрд╕ рдкреНрд▓реЗрд╕рдореЗрдВрдЯ рд▓реЙрдЧрд┐рдВрдЧ рдХреЗ рд╕рд╛рде cifar10_multi_gpu_train.py рд╕реНрдХреНрд░рд┐рдкреНрдЯ рдЪрд▓рд╛ рд░рд╣рд╛ рдерд╛ред рдореБрдЭреЗ рдирд╣реАрдВ рдкрддрд╛ рдХрд┐ рдЖрдкрдХрд╛ рдХреНрдпрд╛ рдорддрд▓рдм рд╣реИ рдЬрдм рдЖрдк рдХрд╣рддреЗ рд╣реИрдВ "рдореИрдВрдиреЗ рдЧрд▓рддреА рд╕реЗ "--config = cuda" рдзреНрд╡рдЬ рдХреЗ рдмрд┐рдирд╛ рдЕрдЬрдЧрд░ рдкреИрдХреЗрдЬ рдмрдирд╛рдпрд╛ рд╣реЛрдЧрд╛, рдХреНрдпрд╛ рдЖрдк рдмрддрд╛ рд╕рдХрддреЗ рд╣реИрдВ рдХрд┐ рдЖрдкрдиреЗ рдХрд┐рд╕ рдкрд╛рдпрдерди рдкреИрдХреЗрдЬ рдХреЛ рдлрд┐рд░ рд╕реЗ рдмрдирд╛рдпрд╛ рд╣реИ?
@GuangmingZhu , TensorFlow рдбрд╛рдЙрдирд▓реЛрдб рдФрд░ рд╕реЗрдЯрдЕрдк рдкреЗрдЬ рдкрд░, рдкрд╛рдЗрдк рдкреИрдХреЗрдЬ рдмрдирд╛рдиреЗ рдХреА рдХрдорд╛рдВрдб рд╣реЛрдиреА рдЪрд╛рд╣рд┐рдП:
bazel build -c opt --config=cuda //tensorflow/tools/pip_package:build_pip_package
рдореИрдВ рдмрд╕ рднреВрд▓ рдЧрдпрд╛ --config=cuda
ред
рд╕рдмрд╕реЗ рдЙрдкрдпреЛрдЧреА рдЯрд┐рдкреНрдкрдгреА
рдЗрд╕рдХрд╛ рд╕рдорд╛рдзрд╛рди рдХрд┐рдпрд╛ред
рдореИрдВрдиреЗ рдЧрд▓рддреА рд╕реЗ "--config=cuda" рдзреНрд╡рдЬ рдХреЗ рдмрд┐рдирд╛ рдЕрдЬрдЧрд░ рдкреИрдХреЗрдЬ рдмрдирд╛рдпрд╛ рд╣реЛрдЧрд╛ред рдЬрдм рдореИрдВрдиреЗ рдЗрд╕ рдзреНрд╡рдЬ рдХреЗ рд╕рд╛рде рдкреБрдирд░реНрдирд┐рд░реНрдорд╛рдг рдХрд┐рдпрд╛, рддреЛ рдкрд╛рдЗрдк рдЕрдирдЗрдВрд╕реНрдЯреЙрд▓ рдХрд┐рдП рдЧрдП рдЯреЗрдВрд╕рд░рдлреНрд▓реЛ рдХреЛ рд╣рдЯрд╛ рджрд┐рдпрд╛, рдлрд┐рд░ рдирд╡ рдирд┐рд░реНрдорд┐рдд рдкреИрдХреЗрдЬ рдХреЗ рд╕рд╛рде рдкреБрдирд░реНрд╕реНрдерд╛рдкрд┐рдд рдХрд┐рдпрд╛, рдпрд╣ рдкреВрд░реА рддрд░рд╣ рд╕реЗ рдХрд╛рдо рдХрд░рддрд╛ рдерд╛ред