Caffe: इंटेलिजेंट GPU के लिए उचित कैफ़े opencl शाखा स्थापना निर्देश

@ पटल
रीडमे एक Windows अनुभाग है जो गाइड करता है कि विंडोज को कैसे संकलित और स्थापित किया जाए।
उस विवरण में गायब एकमात्र चरण वियनाकुल-डीईवी डाउनलोड कर रहा है:
https://github.com/viennacl/viennacl-dev

इसे किसी भी एक पथ में डाला जा सकता है, जहां सीएमके इसे ढूंढ लेगा, जैसे कि उस फ़ोल्डर के बगल में जिसमें आपने कैफ को क्लोन किया था।

बिल्ड निर्देश लिनक्स निर्देशों से अलग हैं, क्योंकि यह एक स्क्रिप्ट है जो स्वचालित रूप से सीएमके कॉन्फ़िगरेशन और डाउनलोडिंग निर्भरता का ख्याल रखता है।

आमतौर पर विंडोज पर कॉन्फ़िगरेशन के बारे में चिंता करने की कोई बड़ी आवश्यकता नहीं है, क्योंकि यह सिर्फ काम करने के लिए डिज़ाइन किया गया है। हालाँकि मैं आपको एक त्वरित स्पष्टीकरण दूंगा:
(ए) नहीं और नहीं। Readme में वर्णित scripts/build_win.cmd उपयोग करें।
(b) हां आप इसे कैसे संकलित करते हैं, इसके लिए सीपीयू बीएलएएस की हमेशा जरूरत होती है। लेकिन build_win.cmd लिए इसका ध्यान रखेंगे, और यह OpenBLAS का उपयोग करने के लिए डिफ़ॉल्ट कॉन्फ़िगरेशन है।
(c) हां, वियनाक्ल की जरूरत है, यहां से क्लोन करें: https://github.com/viennacl/viennacl-dev
(d) LibDNN OpenCL GPUs के लिए कन्वेक्शन इंजन डिफ़ॉल्ट है, cuDNN के लिए प्रतिस्थापन है।
इंटेल जीपीयू के लिए अतिरिक्त इंटेल कर्नेल भी उपलब्ध हैं और डिफ़ॉल्ट रूप से सक्षम हैं।
(e) ISAAC, clBLAS और CLBlast सख्ती से वैकल्पिक हैं। आपको इन्हें अलग से विंडोज पर संकलित करने और उन्हें निर्भरता में जोड़ने की आवश्यकता है यदि आप उनका उपयोग करना चाहते हैं। मैं इनमें से किसी भी पुस्तकालय के संकलन की गारंटी या समर्थन नहीं करता हूं, वे संबंधित परियोजना के रखरखावकर्ताओं द्वारा समर्थित हैं।
(f) नहीं, OpenCL शाखा पर, यह सच नहीं है। यहाँ डिफ़ॉल्ट USE_GREENTEA = ON, USE_CUDA = OFF, CPU_ONLY = OFF है।

मैं छुट्टियों के बाद क्रिसमस के बाद रीडमी को अपडेट करूंगा। दुर्भाग्य से मेरे पास अभी एक विस्तृत कदम-दर-चरण के लिए समय नहीं है।
CC: @willyd

@ naibaf7
शीघ्र जवाब देने के लिए ध्न्यवाद। लिनक्स निर्देश के बारे में क्या?

OpenCL BLAS और ISAAC अभी भी आवश्यक है ??
https://github.com/01org/caffe/wiki/clCaffe

@ पटल
लिनक्स पर दो तरीके: CMAKE का उपयोग करें और 'make-all8-j8' का उपयोग करें या makefile.config.example को makefile.config में कॉपी करें और make all -j8; make pycaffe -j8; make runtest -j8 का उपयोग करके संकलित करें।
ध्यान दें कि Makefile और CMAKE से संकलित परिणाम लिनक्स पर थोड़ा अलग हैं। Makefile अधिक पुराना है, लेकिन आसान है, और CMAKE अधिक जटिल है।

यह शाखा https://github.com/01org/caffe/wiki/clCaffe जैसी नहीं है
इसलिए इसकी अलग-अलग आवश्यकताएं हैं। हालाँकि वहाँ से इंटेल स्थानिक गुठली को इस शाखा में मिला दिया गया है।

सख्त आवश्यकताएं:

• वियनाक्ल, ओपनसीएल और सामान्य कैफ की आवश्यकताएं जैसे कि Gflags, HDF5, आदि।
• आप OpenCL SDK को CUDA, AMD APP SDK या Intel OpenCL SDK के साथ प्राप्त कर सकते हैं। यह विंडोज और लिनक्स दोनों के लिए सच है। Mac OS X को स्वयं OpenCL कार्यान्वयन प्रदान करना चाहिए।

वैकल्पिक आवश्यकताओं:

• ClBLAS (AMD से)
• CLBlast (@cnugteren से)
• इसहाक
• cuDNN
• CUDA

धन्यवाद @ naibaf7
और लिनक्स के लिए भी, LIBDNN अधिकांश एनवीडिया और एएमडी चिप्स के लिए ही है? और हमें Intel iGPUs के लिए Intel स्थानिक का उपयोग करना चाहिए?

@ पटल
इंटेल स्थानिक कुशल बैक प्रचार का समर्थन नहीं करता है और सभी आकार के दृढ़ संकल्प नहीं हैं, लेकिन हां, यह इंटेल iGPUs पर सबसे तेजी से आगे का प्रसार है।
लेकिन मेरा सुझाव है कि आप दोनों की कोशिश करें और जांचें कि आपके नेटवर्क और उपकरणों के लिए सबसे अच्छा क्या काम करता है।

@ naibaf7

फैबियन, विंडो समर्थन मिंगव -64 के साथ संकलन का निर्माण करेंगे। कृपया मुझे बताएं। यदि कोई निर्देश इसके लिए विशिष्ट है? Mocosoft स्टूडियो भी फूला हुआ है ..

@ क्षत्रप वर्तमान में नहीं, ऐसा नहीं है कि मैं इससे अवगत हूं। @willyd विंडो बिल्डिंग का मुख्य योगदानकर्ता और अनुरक्षक है, इसलिए शायद वह इसका जवाब दे सकता है।
जबकि Microsoft स्टूडियो थोड़ा फूला हुआ हो सकता है, यह इसके साथ काफी सुविधाजनक है क्योंकि @willyd ने सभी निर्भरताएं VS2015 और VS2013 को रोक दिया है। इसलिए मैं कल्पना करता हूं कि mingw-64 का उपयोग करना बहुत अधिक काम है।

मेरा मिंगव्यू -64 को सपोर्ट करने का कोई इरादा नहीं है क्योंकि CUDA विंडोज़ पर होस्ट कंपाइलर के रूप में मिंगव का समर्थन नहीं करता है। कहा जा रहा है कि मैं समर्थन से संबंधित किसी भी पीआरएस का स्वागत करता हूं यदि वे बिल्ड में बहुत अधिक जटिलता नहीं जोड़ते हैं।

@ बहुत अच्छा लगा
कूल, जो मैंने सोचा था। मैं इस मामले में सादगी के पक्ष में हूं, क्योंकि बिना MinGW64 के विंडोज समर्थन मेरे लिए एक बड़ा नुकसान नहीं है। प्रत्येक संबंधित ऑपरेटिंग सिस्टम के साथ मानक संकलक का उपयोग करना कुछ बेहतर है।
जब लोग ट्रिक बिल्ड कॉन्फ़िगरेशन का उपयोग करते हैं, तो मैं ज्यादातर ओवरहेड के बारे में चिंतित हूं।

@ naibaf7

क्या खिड़कियों के निर्माण में इंजन के लिए समर्थन शामिल है: SPATIAL? जब मैं इंजन शामिल करता हूं: SPATIAL या इंजन: INTEL_SPATIAL, इसमें निम्न में से एक त्रुटि मिलती है

_Layer conv1 में अज्ञात इंजन है ।_
_Error पार्सिंग पाठ-प्रारूप caffe.NetParameter: 18: 3: फ़ील्ड "इंजन" के लिए "स्थानिक" का अज्ञात गणना मूल्य ।_

विकी भ्रमित कर रहा है read.me https://github.com/BVLC/caffe/tree/opencl

इसमें _add एंट्री इंजन: SPATIAL_ दोनों का उल्लेख किया गया है। साथ ही _ "इंजन: INTEL_SPATIAL <-------------------------- यह लाइन!" _

कौन?

और यह इंजन के बिना ठीक चलता है: प्रोटोटेक्स में स्थानिक।

_opencl-caffe-test।
डिवाइस आईडी 0 के साथ GPU का उपयोग करें
---------- ट्रक के लिए भविष्यवाणी। जेपीजी ----------
0.9872 - "n03417042 कचरा ट्रक, डस्टकार्ट"
0.0110 - "n04467665 ट्रेलर ट्रक, ट्रैक्टर ट्रेलर, ट्रकिंग रिग, रिग, आर्टिकुलेटेड लॉरी, सेमी"
0.0013 - "n03496892 हार्वेस्टर, रीपर"
0.0002 - "n04428191 थ्रेशर, थ्रेसर, थ्रेशिंग मशीन"
0.0001 - "n04461696 टो ट्रक, टो कार, wrecker" _

यहाँ भी कुछ "अन्य" अवलोकन हैं
क) स्थिर के बजाय DLL के रूप में संकलित होने पर बेहतर काम करता है। विशेष रूप से त्रुटि को हल करता है _ "जाँच विफल: रजिस्ट्री.काउंट (प्रकार) == 1 (0 बनाम 1) अज्ञात परत प्रकार" _ (दृश्य स्टूडियो 2015)
ख) ऐसा नहीं लगता कि OpenCL.lib को लेने के लिए काम करना है, इसलिए चारों ओर मैन्युअल रूप से इसे opencl-sdk फ़ोल्डर से बिल्ड फ़ोल्डर में कॉपी करना है (यह पथ चर नाम होने की क्या उम्मीद करता है?)
ग) बिल्ड फ़ोल्डर में निकाले गए पुस्तकालयों को नवीनतम (उदाहरण के लिए ओपनकेव 3.2 आदि के लिए) संकलित किया जा सकता है

आगे की

C: \ Downloads \ xxx.caffe-opencl-build \ bin> कैफ device_query
I0108 12: 35: 04.885713 19872 आम। cpp: 382 ] कुल डिवाइस: 3

I0108 12: 35: 04.888244 19872 आम। cpp: 383 ] CUDA डिवाइस: 0
I0108 12: 35: 04.889102 19872 आम। cpp: 384 ] ओपनसीएल डिवाइस: 3

I0108 12: 35: 04.889681 19872 आम। cpp: 408 ] डिवाइस आईडी: 0

I0108 12: 35: 04.890744 19872 आम। cpp: 410 ] डिवाइस बैकएंड: ओपनसीएल
I0108 12: 35: 04.891839 19872 आम। सीपीपी: 412 ] बैकएंड विवरण: इंटेल (आर) निगम: ओपनसीएल 1.2
I0108 12: 35: 04.893450 19872 आम। cpp: 414 ] डिवाइस विक्रेता: Intel (R) Corporation
I0108 12: 35: 04.894731 19872 आम। cpp: 416 ] नाम: इंटेल (आर) एचडी ग्राफिक्स 4400
I0108 12: 35: 04.895730 19872 आम। cpp: 418 ] कुल वैश्विक मेमोरी: 1708759450

I0108 12: 35: 04.897233 19872 आम। cpp: 408 ] डिवाइस आईडी: 1
I0108 12: 35: 04.898505 19872 आम। cpp: 410 ] डिवाइस बैकएंड: ओपनसीएल
I0108 12: 35: 04.899590 19872 आम। सीपीपी: 412 ] बैकएंड विवरण: इंटेल (आर) निगम: ओपनसीएल 1.2
I0108 12: 35: 04.901091 19872 आम। cpp: 414 ] डिवाइस विक्रेता: Intel (R) Corporation
I0108 12: 35: 04.902592 19872 आम। cpp: 416 ] नाम: Intel (R) Core (TM) i5-4210U CPU @ 1.70GHz
I0108 12: 35: 04.904093 19872 आम। cpp: 418 ] कुल वैश्विक मेमोरी: 8513761280

I0108 12: 35: 04.905594 19872 आम। cpp: 408 ] डिवाइस आईडी: 2
I0108 12: 35: 04.907114 19872 आम। cpp: 410 ] डिवाइस बैकएंड: ओपनसीएल
I0108 12: 35: 04.908617 19872 आम। cpp: 412 ] बैकएंड विवरण: Intel (R) Corporation: OpenCL 2.1
I0108 12: 35: 04.910100 19872 आम। cpp: 414 ] डिवाइस विक्रेता: Intel (R) Corporation
I0108 12: 35: 04.911598 19872 आम। cpp: 416 ] नाम: Intel (R) Core (TM) i5-4210U CPU @ 1.70GHz
I0108 12: 35: 04.913100 19872 आम। cpp: 418 ] कुल वैश्विक मेमोरी: 8513761280

मुझे अच्छा लगता है, हालाँकि ऐसा लगता है कि आपके पास एक नया OpenCL 2.1 और एक पुराना OpenCL 1.2 स्थापित है। जैसा कि यह अभी भी एक हैसवेल सीपीयू है मुझे यकीन नहीं है कि इंटेल में पहले से ही आपकी चिप के लिए 2.1 / 2.0 ड्राइवर है। लेकिन आपको अपने GPU के लिए अपने OpenCL SDK को अपडेट करने का प्रयास करना चाहिए।

वैसे भी, यदि आप INTEL_SPATIAL का उपयोग करना चाहते हैं, तो आपको इसे संकलन समय पर सक्षम करने की भी आवश्यकता है। इसके बाद यह Intel GPU उपकरणों पर मानक इंजन बन जाता है।
आप उसे यहां कर सकते हैं:
https://github.com/BVLC/caffe/blob/opencl/scripts/build_win.cmx#L82
(स्क्रिप्ट / बिल्ड_विन.सीएमडी, लाइन 82)

हालांकि इंटेल स्थानिक कर्नेल को अभी तक विंडोज पर पूरी तरह से परीक्षण नहीं किया गया है।

मैं opencl sdk को अपडेट करने की कोशिश करूंगा और मैंने सिर्फ आपके कमिट्स को देखा, इसे सक्षम करने, फिर से खोलने और उन्हें जांचने और वापस रिपोर्ट करने की कोशिश करेगा।
धन्यवाद

ठीक नहीं अगर USE_INTEL_SPATIAL सेट USE_INTEL_SPATIAL / 1 निर्धारित नहीं है, तो

Build_win.cmd निम्न त्रुटि फेंकता है।

C: \ Downloads \ caffe-opencl \ buildALL_BUILD.vcxproj "(डिफ़ॉल्ट लक्ष्य) (1)>>
C: \ Downloads \ caffe-opencl \ build \ src \ caffe \ caffe.vcxproj "(डिफ़ॉल्ट लक्ष्य) (3) ->

(ClCompile लक्ष्य) -> C: \ download \ caffe-opencl \ src \ caffe \ परतों \ conv_layer_spatial.cpp (1453): त्रुटि C2572: 'caffe :: ConvolutionLitSpatial:: swizzleWeights ': डिफ़ॉल्ट तर्क का पुनर्निर्धारण: पैरामीटर 1 [C: \ Downloads \ caffe-opencl \ build \ src \ caffe \ caffe.vcxproj]

C: \ Downloads \ caffe-opencl \ src \ caffe \ परतों \ conv_layer_spatial.cpp (1458): त्रुटि C2572: 'caffe :: ConvolutionLayerSpatial:: swizzleWeights ': डिफ़ॉल्ट तर्क का पुनर्निर्धारण: पैरामीटर 1 [C: \ Downloads \ caffe-opencl \ build \ src \ caffe \ caffe.vcxproj]

ठीक है, मैं उस पर गौर करूंगा।
संदर्भ के लिए @gongzg ।

नमस्ते,
महान कार्य के लिए धन्यवाद!
मैं USE_INTEL_SPATIAL = 0 के साथ Windows और Intel HD 4400 पर कैफ़े-ओपन को संकलित करने और चलाने में कामयाब रहा (कैफ का समय 2-कोर i5-4210U पर कैफ-सीपीयू चलाने की तुलना में 2x धीमा के आसपास दुख की बात है, जब तक कि मैं कुछ गलत नहीं कर रहा हूं)। हालांकि, जब USE_INTEL_SPATIAL = 1 के साथ संकलन, मैं भी @atlury रूप में एक ही त्रुटि मिलती है (और मुझे विश्वास है कि मैं अपने लेनोवो X240 पर एक ही हार्डवेयर है)। मैं यह देखने के लिए उत्सुक हूं कि क्या INTEL_SPATIAL का उपयोग करने से सीपीयू की तुलना में इस GPU पर तेजी से कैफ-ओपेनकल चलाने में मदद मिलेगी ...

@gfursin यह एक बड़े अंतर से होना चाहिए। लिबीडीएनएन को उम्मीद है कि इंटेल चिप्स के मुकाबले जीपीयू के पास एक अलग मेमोरी आर्किटेक्चर है, इसलिए यह फिलहाल बेहतर नहीं है।
हम वर्तमान में जांच कर रहे हैं कि इंटेल गुठली को कैसे ठीक किया जाए ताकि वे विंडोज पर भी काम करें।

सुपर! आपका बहुत बहुत धन्यवाद!

वैसे, डिवाइस 1 और 2 का चयन करते समय @ कैटरीरी , "कैफ टाइम" लगभग 10 सेकंड के बाद हर बार दुर्घटनाग्रस्त हो गया - क्या आपके पास समान व्यवहार था? धन्यवाद!

@gfursin नहीं मैंने कोई https://github.com/BVLC/caffe/pull/5165

यहाँ एक इंटेल पेपर प्रकाशित हुआ है (clcaffe)
http://www.slideshare.net/IntelSoftware/clcaffe-unleashing-the-power-of-intel-graphics-for-deep-learning-acceleration

जहां निम्नलिखित बेंचमार्क (पृष्ठ 28 जीटी 3 जीपीयू) का दृढ़ विश्वास परतों में इंटेल स्पैटियल का उपयोग करके समर्थन किया गया था।
एलेक्सनेट - 290 छवियाँ / दूसरा
GoogleNet - 77 छवियां / दूसरा
वीजीजीए - 55 छवियां / दूसरा
ओवरफिट - 91 छवियां / दूसरा

मैं वास्तव में INTEL SPATIAL का उपयोग करके ऑब्जेक्ट डिटेक्शन (केवल वर्गीकरण नहीं) का परीक्षण करना चाहता हूं, लेकिन कहीं भी इसका कोई उदाहरण नहीं है। मुझे संदेह है कि क्या कैफ लेयर अभी तक तैयार हैं? @ naibaf7 ?

@gongzg उपरोक्त परीक्षणों के लिए कोई स्रोत कोड है जिसे हम आज़मा सकते हैं?

इसके अलावा LiDNN को छोटे-डीएनएन के साथ काम करने के लिए बनाया गया है जो रोमांचक है (हालांकि वहां कई पूर्व-प्रशिक्षित मॉडल नहीं हैं)। मैं परिमाणीकरण का भी परीक्षण करना चाहता हूं और देखना चाहता हूं कि ओपेकल वहां कैसे मदद कर सकता है (8-बिट, एक्सएनओआर आदि)। अंत में वास्तविक समय में opencl में वस्तु का पता लगाना भयानक होगा !!! मुझे आशा है कि @ naibaf7 कुछ प्रकाश में फेंक सकता है।

@ पतले मैं अगले हफ्ते आपके पास वापस आऊंगा और अधिक कठिन प्रश्नों के बारे में।
जब आप सक्षम विकल्प के साथ संकलित करते हैं तो Intel स्थानिक स्वचालित रूप से उपयोग हो जाता है।
ऑब्जेक्ट सेगमेंटेशन और डिटेक्शन के लिए मेरा सुझाव है कि आप मेरे ISBI 2016 के पेपर और तकनीकी रिपोर्ट पढ़ें। मेरे पास एसके-नेट और यू-नेट आर्किटेक्चर हैं जो वहां वर्णित हैं जो यह बहुत तेजी से कर सकते हैं। एलेक्सनेट को ऐसे एसके-नेट में परिवर्तित किया जा सकता है।
आपको एसबी / यू-नेट में मेमोरी उपयोग को कम रखने के लिए लिबीडीएनएन का उपयोग करने की आवश्यकता है।

वाह मैं सिर्फ आपका पेपर पढ़ता हूं ... स्ट्रगल वाली गुठली की अवधारणा बहुत प्रभावशाली लगती है। इस धागे को अपहृत न करें, लेकिन इन सभी को अंततः खिड़कियों के नीचे ओपेंकल में परीक्षण करने की आवश्यकता होगी लेकिन इससे पहले ...।

क्या यह अजगर केवल कार्यान्वयन है? कोई c ++? क्या कोई पूर्व प्रशिक्षित मॉडल हैं? क्या यह वह जगह है जहां रेपो https://github.com/naibaf7/PyGreentea/tree/master/examples है ? हाँ मैं LibDNN का उपयोग करने जा रहा हूँ ...

@atlury हाँ मूल इंटरफ़ेस C ++ था लेकिन हमने अजगर पर स्विच कर दिया। हालाँकि यदि आप HDF5 या अपने स्वयं के C ++ इंटरफ़ेस के माध्यम से डेटा प्रदान करना चाहते हैं जो कि बहुत काम करेगा। बस नेटवर्क जनरेटर कोड का उपयोग करें जो मैं आपको SK / U-type नेटवर्क के लिए सही प्रोटोटेक्स्ट बनाने में मदद करने के लिए अजगर में प्रदान करता हूं।
यहां थोड़ी पुरानी लेकिन पूर्ण तकनीकी रिपोर्ट दी गई है: https://arxiv.org/abs/1509.03371 , इसमें लिबीडीएनएन प्रोग्राम किए जाने से पहले प्रदर्शन संख्याएं शामिल हैं।
हम इस बिंदु पर पूर्व-प्रशिक्षित मॉडल प्रदान नहीं करते हैं क्योंकि डेटासेट (ईएम वर्गीकरण) हम इनका उपयोग करते हैं और हमारे परिणाम अभी तक प्रकाशित नहीं हुए हैं।

@ कैटालरी कुछ बेंचमार्क डेटा को कंफर्ट-बेंचमार्क का उपयोग करके मापा जाता है और आप इसे अपने प्लेटफॉर्म पर पुन: पेश कर सकते हैं। वर्तमान में सार्वजनिक रूप से साझा करने के लिए हमारे पास अन्य उदाहरण नहीं हैं।

@ क्षत्रप - संदर्भ के लिए बहुत बहुत धन्यवाद! मुझे अतीत में उबंटू पर इंटेल जीपीयू के लिए ओपनसीएल को स्थापित करने और उपयोग करने में कई परेशानियां थीं (लिनक्स कर्नेल को फिर से शुरू करना था), लेकिन शायद नवीनतम ड्राइवर ठीक काम करेंगे - इसे जांचने की आवश्यकता है। वैसे, # 5165 में आपके पास एफपीएस माप के साथ एक वेबकैम + कैफ़े वर्गीकरण का एक स्नैपशॉट है - क्या मैं आपसे पूछ सकता हूं कि आपने इसके लिए कौन सा कार्यक्रम इस्तेमाल किया? बहुत बहुत धन्यवाद!!!

@gfursin

कृपया निम्नलिखित करें।

1. Http://cdimage.ubuntu.com/daily-live/current/ का उपयोग करें

2. Opencl SDK और opencl इंस्टॉल करें (कर्नेल पैच की आवश्यकता नहीं है)
   https://software.intel.com/en-us/intel-opencl/download
   https://software.intel.com/en-us/articles/opencl-drivers

3. Https://github.com/BVLC/caffe/tree/opencl डाउनलोड
   (ए) कृपया विन्नैकल, लिबडन, इंटेल स्पैटियल, ओपेंक्व आदि सक्षम करें। कृपया एक साझा पुस्तकालय बनाएं। जब से मैं इसे अक्सर इस्तेमाल नहीं करता मैं अजगर को सक्षम नहीं करता।

4. वीजीजी कैफमोडेल, प्रोटोटेक्स्ट
   डाउनलोड
   http://www.robots.ox.ac.uk/~vgg/software/very_deep/caffe/VGG_ILSVRC_16_layers.caffemodel
   https://gist.githubusercontent.com/ksimonyan/211839e770f7b538e2d8/raw/0067c9b32f60362c74f4c445a080aeed06b07b3/VGG_ILSVRC_16_layers_deploy

इंजन शामिल करें: INTEL_SPATIAL आपके परिनियोजित सभी परतों के लिए ।proto

Synset_words.txt प्राप्त करें

1. इस कार्यक्रम का उपयोग करके परीक्षण करें
   https://gist.github.com/atlury/f65fd41eb805cc5f77f666a59eea22

बस सुनिश्चित करें कि 3 चैनलों के साथ input_dim 1 है (आपके प्रोटो में) और 10 नहीं (आप इसे एक बार में केवल एक छवि दे रहे हैं) और आकार स्वचालित है।
input_dim: 1
input_dim: 3
input_dim: 224
input_dim: 224

किसी भी अतिरिक्त सहायता ने मुझे स्काइप पर चर्चा की gtalk: atlury

कृपया ध्यान दें कि यह केवल linux में काम करेगा और विंडोज़ के लिए opencl सपोर्ट अभी भी @ naibaf7 द्वारा काम किया जा रहा है

सभी विवरणों के लिए आपका बहुत बहुत आभार - बहुत बहुत सराहना - मैं जल्द ही इसका परीक्षण करूँगा! वैसे, मैंने कलेक्टिव नॉलेज फ्रेमवर्क का उपयोग करके विंडोज (सीपीयू और ओपनसीएल मोड) पर कैफ की स्थापना को स्वचालित करना शुरू किया, लेकिन इसके लिए अभी और परीक्षण की आवश्यकता है: https://github.com/dividiti/ck-caffe
मैं अपने सहयोगियों से प्रतिक्रिया की प्रतीक्षा कर रहा हूं और अगर यह ठीक काम करता है, तो हम कुछ हफ़्ते में आधिकारिक रूप से रिलीज़ करेंगे (संभवतः एंड्रॉइड डिवाइस के लिए भी समर्थन के साथ) ...

नमस्ते। पुस्तकालय के लिए बहुत धन्यवाद और ऊपर की चर्चा भी।

मैं वर्तमान में नवीनतम प्रतिबद्ध बनाने की कोशिश कर रहा हूं जिसने USE_GREENTEA = 1, USE_LIBDNN = 1 और USE_INTEL_SPATIAL = 1 के साथ Windows OpenCL का निर्माण तय किया, साथ ही वियनांकल के लिए निर्मित हेडर फाइलें। मेरा build_win.cmd यहां संलग्न है: build_win.txt

हालाँकि, लाइब्रेरी का निर्माण हमेशा निम्न त्रुटि के साथ होता है:
ninja: build stopped: subcommand failed.
ERROR: Build failed
विस्तार से:
E:\caffe-opencl\src\caffe\layers\conv_layer_spatial.cpp(1514) : error C2572: 'ca ffe::ConvolutionLayerSpatial<float>::swizzleWeights' : redefinition of default p arameter : parameter 4 ..\..\include\caffe/layers/conv_spatial_layer.hpp(164) : see declaration of 'caffe::ConvolutionLayerSpatial<float>::swizzleWeights' E:\caffe-opencl\src\caffe\layers\conv_layer_spatial.cpp(1519) : error C2572: 'ca ffe::ConvolutionLayerSpatial<double>::swizzleWeights' : redefinition of default parameter : parameter 4
माफी यदि यह त्रुटि ऊपर बताई गई है।

USE_INTEL_SPATIAL = 0 के साथ-साथ निम्नलिखित त्रुटि के साथ प्रयास किया गया:
greentea_math_functions.cpp.obj : error LNK2019: unresolved external symbol clEn queueUnmapMemObject referenced in function "void __cdecl caffe::greentea_gpu_asu m<float>(int,int,struct _cl_mem * const,int,float *)" (??$greentea_gpu_asum@M<strong i="19">@ca</strong> ffe@@YAXHHQEAU_cl_mem@@HPEAM@Z) syncedmem.cpp.obj : error LNK2001: unresolved external symbol clEnqueueUnmapMemO bject benchmark.cpp.obj : error LNK2019: unresolved external symbol clWaitForEvents re ferenced in function "public: virtual __cdecl caffe::Timer::~Timer(void)" (??1Ti mer@caffe@@UEAA@XZ) benchmark.cpp.obj : error LNK2019: unresolved external symbol clReleaseEvent ref erenced in function "public: virtual __cdecl caffe::Timer::~Timer(void)" (??1Tim er@caffe@@UEAA@XZ) benchmark.cpp.obj : error LNK2019: unresolved external symbol clGetEventProfilin gInfo referenced in function "public: virtual float __cdecl caffe::Timer::MicroS econds(void)" (?MicroSeconds@Timer@caffe@@UEAAMXZ) bin\caffe.dll : fatal error LNK1120: 34 unresolved externals LINK failed. with 1120

कृपया इस पर सलाह दें। बहुत ही सराहनीय।

@ yshen92 पहली त्रुटि ज्ञात है और उस पर काम किया जा रहा है।
आपके द्वारा प्राप्त की जाने वाली दूसरी त्रुटि का मतलब है कि आपका OpenCL DLL अमान्य है, इसमें कुछ प्रतीकों का अभाव है। क्या आप हमें बता सकते हैं कि आपके पास कौन सा हार्डवेयर है और आपने कौन सा OpenCL SDK स्थापित किया है?
यह समस्या आमतौर पर OpenCL SDK के साथ आती है जो CUDA के भीतर nVidia से आती है। इंटेल और एएमडी ओपनसीएल एसडीके संस्करण 1.2 और 2.0 के साथ ठीक होना चाहिए।

@ naibaf7 उत्तर के लिए बहुत बहुत धन्यवाद।

मैं इंटेल 8 ग्राफिक्स 4000 और एनवीआईडी ​​एनवीएस 5200 एम के साथ विंडोज 8 प्रो 64-बिट डेल पर लाइब्रेरी का निर्माण कर रहा हूं। और अभी नवीनतम Intel OpenCL SDK v6.3 स्थापित किया है। ऐसा प्रतीत होता है कि OpenCL निर्देशिका CUDA के साथ आने वाले को इंगित कर रही थी।

इसलिए बिल्ड में इंटेल ओपनसीएल एसडीके का उपयोग करने के प्रयास में, मैंने सीयूडीए को हटा दिया और लाइन 46, 48, 52, और 53 में FindOpenCL.cmake के बजाय कुछ कच्चे संशोधन किए।

IF("${ISWIN64}" STREQUAL "Win64")
FIND_LIBRARY(OPENCL_LIBRARIES OpenCL.lib "${OPENCL_LIB_DIR}" "$ENV{CUDA_LIB_PATH}" "$ENV{CUDA_PATH}/lib/x64" "$ENV{INTELOCLSDKROOT}/lib/x64")
ELSE("${ISWIN64}" STREQUAL "Win64")
FIND_LIBRARY(OPENCL_LIBRARIES OpenCL.lib "${OPENCL_LIB_DIR}" "$ENV{CUDA_LIB_PATH}" "$ENV{CUDA_PATH}/lib/Win32" "$ENV{INTELOCLSDKROOT}/lib/x86")
ENDIF("${ISWIN64}" STREQUAL "Win64")

FIND_PATH(OPENCL_INCLUDE_DIRS CL/cl.h PATHS "${_OPENCL_INC_CAND}" "$ENV{CUDA_INC_PATH}" "$ENV{CUDA_PATH}/include" "$ENV{INTELOCLSDKROOT}/include")
FIND_PATH(_OPENCL_CPP_INCLUDE_DIRS CL/cl.hpp PATHS "${_OPENCL_INC_CAND}" "$ENV{CUDA_INC_PATH}" "$ENV{CUDA_PATH}/include" "$ENV{INTELOCLSDKROOT}/include")
मूल रूप से यह सिर्फ इंटेल एसडीके पथ में जोड़ना है। यकीन नहीं हो रहा है अगर मैं इसे सही कर रहा हूँ। इन के बिना स्क्रिप्ट एसडीके का पता लगाने में विफल रहती है।

हालाँकि, मुझे अभी भी उपरोक्त त्रुटि (Intel Spatial के बिना भवन) मिल रही है।
और यहाँ मेरे विन्यास फाइल को सीधे आपके संदर्भ के लिए स्क्रिप्ट से लिया गया है।
ConfigInfo.txt
किसी भी विचार मैंने क्या गलत किया?

हाय @ आईटाटरी - मुझे अंततः Ubuntu 17.04 स्थापित करने के लिए थोड़ा समय मिला और इंटेल जीपीयू ड्राइवरों को बिना किसी कर्नेल पुनर्निर्माण के स्थापित करने के लिए यह बहुत सरल था - धन्यवाद! मैंने Caffe-OpenCL भी स्थापित किया।

अभी भी कर्नेल कैशिंग की समस्या है, इसलिए स्टार्ट अप लागत बहुत अधिक है, लेकिन @ naibaf7 और @psyhtest इसे बेहतर बनाने की कोशिश कर रहे हैं। कर्नेल कैशिंग को थोड़ा गति देने का अस्थायी समाधान पर्यावरण चर VIENNACL_CACHE_PATH और CUDA_CACHE_DISABLE के साथ खेलना है (https://github.com/dividiti/ck/caffe/issues/44#issuecomment-277205871 देखें)।

हालांकि मेरे पास एक सवाल है: मुझे समझ नहीं आया कि इंजन कैसे जोड़ा जाए: INTEL_SPATIAL के लिए सभी जटिल परतों के लिए ।proto? मैं अभी भी एक नौसिखिया उपयोगकर्ता हूं (मैं उप-पुस्तकालयों का अनुकूलन करने के लिए संकलक पक्ष पर अधिक हूं)। क्या आप मुझे एक नमूना भेजने के लिए मन रखते हैं, कृपया - बहुत सराहना की जाएगी!

एक और ध्यान दें: अगर यह किसी भी तरह की दिलचस्पी है, तो मैंने CCL फ्रेमवर्क के माध्यम से OpenCL, ViennaCL और USE_INTEL_SPATIAL के साथ Caffe को इकट्ठा करने के लिए समर्थन जोड़ा (यानी एक-क्लिक पुनर्निर्माण):

ck install package: lib-caffe-bvlc-opencl-libdnn-clblast-universal --env.USE_INTEL_SPATIAL = ON

आप यहाँ विवरण पा सकते हैं: https://github.com/dividiti/ck-caffe/wiki/Installation

मैं इस समय कुछ प्लेटफ़ॉर्म पर वियनाएलसी कैचिंग की रूपरेखा तैयार कर रहा हूं। मुझे लगता है कि यह कुछ बदलावों के बाद काफी संतोषजनक काम कर सकता है।

@gfursin : CUDA_CACHE_DISABLE में गुठली के लिए NVIDIA के अपने कैशिंग तंत्र को अक्षम करने का प्रभाव है, इसलिए केवल चीजों को धीमा कर देगा (NVIDIA के संचालित प्लेटफार्मों पर)। हालाँकि, मुझे इसे कैश प्रोफाइलिंग के लिए चाहिए।

@psyhtest - आपके नोट के लिए धन्यवाद क्योंकि मैंने आपको गलत समझा - मुझे लगा कि यह एक अजीब बग और अस्थायी वर्कअराउंड है;) ...;

@ naibaf7 अब विंडोज़ की स्थिति क्या है? मुझे आश्चर्य है कि आप पहले से ही विंडोज़ के लिए इंटेल स्थानिक इंजन सक्षम करने पर काम करना शुरू कर दिया है।

@gongzg मैंने

@ naibaf7 अपडेट के लिए धन्यवाद। फिर, मैं जांच करूंगा कि क्या हमारे पास विंडोज पर इंटरनल स्पेसियल इंजन मुद्दों को हल करने के लिए कुछ आंतरिक संसाधन हैं।

क्या यह शाखा विंडोज़ और amd gpu के लिए काम कर रही है?

हां यह है। AMD GPU पूरी तरह से Windows और Linux दोनों के तहत LibDNN के साथ समर्थित है। 28 अप्रैल को फुल इंटेल जीपीयू सपोर्ट फॉलो करेगा।

@ naibaf7
डेविड, क्या आप कृपया मुझे बता सकते हैं कि विंडोज़ ओपनसीएल का समर्थन इंटेल जीपीयू के लिए अजगर के साथ तैयार है? मेरे पास परीक्षण और रिपोर्ट करने के लिए कुछ चीजें हैं।

@hillarycanas - मैं यह भी पुष्टि करता हूं कि मैं कुछ दिनों पहले विंडोज 10 के साथ एएमडी पर libDNN के साथ कैफ़े के ओपनसीएल संस्करण को संकलित करने और चलाने में कामयाब रहा (मैंने केवल एक परीक्षण के लिए Radeon HD ग्राफिक्स के साथ काफी पुराने AMD E1-2500 APU का उपयोग किया)। आप http://tinyurl.com/k3dhsc2 (AMD के लिए खोज) पर प्रदर्शन परिणाम देख सकते हैं।
मैंने Windows पर Caffe को संकलित करने और चलाने के लिए CK पैकेज "lib-caffe-bvlc-opencn-viennacl-Universal" का उपयोग किया (देखें https://github.com/dividiti/ck-caffic/wiki/Installation#AMD_GPU)।

फिर से परेशान करने के लिए क्षमा करें। उपयोगकर्ता के फीडबैक के बाद, हमने CK में लाइब्रेरी के लिए और Windows में Caffe लाइब्रेरी और बायनेरिज़ को स्वचालित रूप से पैकेज करने के लिए समर्थन जोड़ा, और अब Caffe CPU और OpenCL संस्करण को अलग-अलग विंडोज़ मशीनों पर न्यूनतम इंस्टॉलेशन के साथ इंस्टॉल और बेंचमार्क करना संभव है:

$ pip install ck
$ ck pull repo --url=https://github.com/dividiti/ck-caffe
$ ck install package:lib-caffe-bvlc-master-cpu-bin-win
$ ck install package:lib-caffe-bvlc-opencl-libdnn-viennacl-bin-win
$ ck crowdbench caffe --env.CK_CAFFE_BATCH_SIZE=1

@gfursin
यह भी खूब रही :)
कैफ इस तरह आसानी से मुख्यधारा में जा सकते हैं :)

नमस्ते,

मैंने कैफ की आधिकारिक ओपनसीएल शाखा चलाने की कोशिश की:
निम्नलिखित हार्डवेयर विवरण के साथ मेरे मैक पर https://github.com/BVLC/caffe/tree/opencl :
मॉडल का नाम: मैकबुक प्रो
मॉडल पहचानकर्ता: मैकबुकप्रो 12,1
प्रोसेसर का नाम: इंटेल कोर i5
प्रोसेसर स्पीड: 2.7 गीगाहर्ट्ज़
प्रोसेसरों की संख्या: 1
कुल संख्या: करोड़
L2 कैश (प्रति कोर): 256 KB
L3 कैश: 3 एमबी
मेमोरी: 8 जीबी
ग्राफिक्स: इंटेल आइरिस ग्राफिक्स 6100 1536 एमबी

मैं बिना किसी परेशानी के क्लासिफिकेशन ट्यूटोरियल चला सकता था। हालाँकि, जब मैं GPU मोड पर स्विच करता हूं, और net.forward () चलाने का प्रयास करता हूं, तो कर्नेल हर बार मर जाता है। इसका मतलब यह है कि OpenCL कैफ की यह शाखा इंटेल एकीकृत ग्राफिक्स कार्ड का समर्थन नहीं करती है?

धन्यवाद,

नमक

@saliltambe OpenCL शाखा इंटेल iGPU का समर्थन करती है। यद्यपि अधिकांश परीक्षण लिनक्स सिस्टम पर है, इसे मैक पर भी काम करना चाहिए। जब आप net.forward () चलाते हैं तो आपको क्या विशिष्ट त्रुटि मिली थी?

@gongzg उत्तर के लिए बहुत बहुत धन्यवाद। जूपिटर नोटबुक में चलने पर मुझे निम्न त्रुटि संदेश मिलता है: "कर्नेल मर गया प्रतीत होता है। यह स्वचालित रूप से पुनः आरंभ करेगा।" मैं एक बहुत छोटा बैच आकार चला रहा हूं, इसलिए मुझे नहीं लगता कि मेमोरी से बाहर चलने के कारण कर्नेल की मृत्यु हो जाती है। इसके अलावा, जब मैं GPU मोड का उपयोग करके स्विच करता हूं तो मुझे कोई त्रुटि नहीं मिलती है: caffe.set_mode_gpu ()। मुझे केवल तभी त्रुटि मिलती है जब मैं net.forward () चलाता हूं।

@saliltambe
हमें थोड़ी और जानकारी चाहिए: आपने इसे कैसे संकलित किया (कंपाइलर संस्करण, कैफ सेटिंग्स, जिसे आपने बीएलएएस लाइब्रेरी सक्षम किया था)?
क्या आप ./build/test/test_all.testbin चला सकते हैं या make runtest (यदि आपने मेकफाइल्स का उपयोग किया है) चला सकते हैं?

@ naibaf7
हाय फैबियन, यहाँ विवरण है:
- सामान्य:
- संस्करण: 1.0.0
- गिट: अज्ञात
- सिस्टम: डार्विन
- C ++ कंपाइलर: /Applications/Xcode.app/Contents/Developer/Toolchains/XcodeDefault.xctoolchain/usr/bin/c++

- CXX झंडे जारी करें: -O3 -DNDEBUG -fPIC -Wall -std = c ++ 11 -DCMAKE_BUILD

- डीबग CXX के झंडे: -g -fPIC -Wall -std = c ++ 11 -DCMAKE_BUILD -Wno-sign-तुलना -Win-uninitialized

• - बिल्ड प्रकार: रिलीज
• - BUILD_SHARED_LIBS: चालू
• - BUILD_python: चालू
• - BUDD_matlab: बंद
• - BUDD_docs: ON
• - CPU_ONLY: बंद
• - USE_OPENCV: चालू
• - USE_FFT: रवाना
• - USE_LEVELDB: चालू
• - USE_LMDB: चालू
• - USE_NCCL: रवाना
• - ALLOW_LMDB_NOLOCK: बंद
• - USE_HDF5: चालू

• 
  
  
  
  • - निर्भरताएँ:
  
  
• - BLAS: हाँ (vecLib)
• - बूस्ट: हाँ (देखें। 1.64)
• - glog: हाँ
• - gflags: हाँ
• - प्रोटोबॉफ़: हाँ (क्रिया। 3.3.0)
• - lmdb: हाँ (देखें। 0.9.19)
• - LevelDB: हाँ (देखें। 1.20)
• - स्नैपी: हाँ (देखें। 1.1.4)
• - OpenCV: हाँ (देखें। 2.4.13.2)
• - कूडा: नहीं

• 
  
  
  
  • - अजगर:
  
  
• - दुभाषिया: /User/stambe/anaconda/bin/python2.7 (ver। 2.7.13)
• - पुस्तकालय:
• - NumPy: /Users/stambe/anaconda/lib/python2.7/site-packages/numpy/core/include (ver 1.12.1)

• - डॉक्यूमेंटेशन:
• - ऑक्सीजन: नहीं
• - config_file:

• -- इंस्टॉल:
• - स्थापित पथ: / उपयोगकर्ता / stambe / कार्यक्रम / कैफ-opencl / निर्माण / स्थापित करें

• - कॉन्फ़िगर किया जा रहा है

CMake चेतावनी (देव) src / caffe / CMakeLists.txt में:

CMP0022 नीति सेट नहीं है: INTERFACE_LINK_LIBRIES लिंक इंटरफ़ेस को परिभाषित करती है। नीति विवरण के लिए "cmake --help-policy CMP0022" चलाएँ। नीति निर्धारित करने और इस चेतावनी को दबाने के लिए cmake_policy कमांड का उपयोग करें।
लक्ष्य "कैफ" में एक INTERFACE_LINK_LIBRARIES गुण है, जो इसके LINK_INTERFACE_LIBRARIES गुणों से भिन्न है।

INTERFACE_LINK_LIBRIES:
/ dylib ;/usr/local/lib/libgflags.dylib; $ <$>: / usr / स्थानीय / lib / libprotobuf.dylib>; $ <$: /usr/local/lib/libprotobuf.dylib>; ? libhdf5_cpp। ; app / Contents / Developer / Platforms / MacOSX.platform / Developer / SDKs / MacOSX10.12.sdk / System / Library / Frameworks / OpenCL.framework; opencv_core; opencv_highgui; opencv_imgproc; -lcblas; -framework Accelerateerate / us। lib / libboost_python-mt.dylib

LINK_INTERFACE_LIBRIES:

/ dylib ;/usr/local/lib/libgflags.dylib ;/usr/local/lib/libprotobuf.dylib ;/usr/local/lib/libhdf5_cpp.dylib ;/usr/local/lib/libhdf5.dyl5 /libpthread.dylib;/usr/lib/libz.dylib;/usr/lib/libdl.dylib;/usr/lib/libm.dylib/usr/local/lib/libhdf5_hl_cpp.dylib=usr/lib/lib/ libhdf5_hl। ? lib / libleveldb। lcblas; -framework त्वरण; /usr/local/lib/libboost_python-mt.dylib

जब मैं रनस्टेस्ट -j8 बनाता हूं, मुझे निम्न त्रुटि मिलती है:
stambe- osx: stambe $ make रनटेस्ट -j8 बनाएँ
[१%] निर्मित लक्ष्य gtest
[२%] निर्मित लक्ष्य कफ़ेप्रोटो
[[१%] निर्मित लक्ष्य कैफ
[[१%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_deconvolution_layer.cpp.o
[[२%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_db.cpp.o
[[३%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_eltwise_layer.cpp.o
[[३%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_dummy_data_layer.cpp.o
[[३%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_embed_layer.cpp.o
[[३%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_euclidean_loss_layer.cpp.o
[[३%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_filter_layer.cpp.o
[[५%] बिल्डिंग CXX ऑब्जेक्ट src / caffe / test / CMakeFiles / test.testbin.dir / test_filler.cpp.o
/ उपयोगकर्ता / स्टैम्बे / प्रोग्राम्स / कैफ-ओपेनसेल / src / कैफ / टेस्ट / test_db। cpp: 23 : 27: त्रुटि: अघोषित का उपयोग
पहचानकर्ता 'EXAMPLES_SOURCE_DIR'
root_images_ (स्ट्रिंग (EXAMPLES_SOURCE_DIR) + स्ट्रिंग ("चित्र /"))}}

क्या मेरी स्थापना में कोई समस्या है? कृपया ध्यान दें कि मुझे सीपीयू पर कैफ चलाने में कोई दिक्कत नहीं है।

धन्यवाद,
नमक

दिए गए पॉइंटर्स और लीड्स की बदौलत, मैं निम्नलिखित स्पेक्स के साथ दो अलग-अलग मशीनों पर सफलतापूर्वक Caffe OpenCL बनाने और चलाने में कामयाब रहा:

(ए)

• सीपीयू: इंटेल i7-7567U 3.5GHz
• iGPU: इंटेल आइरिस प्लस 650
  (बी)
• सीपीयू: इंटेल i7-4930K 3.4GHz
• GPU: NVIDIA Geforce GTX 650

मैं अलेक्सनेट, ResNet50 और ResNet152 को अड़चन के बिना दोनों (ए) और (बी) पर चला सकता था। मेरे पास एकमात्र मुद्दा ResNets पर (A) बैच प्रसंस्करण है - पूर्वानुमानित वर्ग कभी सही नहीं होता है। चूंकि मामला केवल (ए) और केवल रीसेटनेट की बैच प्रक्रिया में उत्पन्न होता है, इसलिए मुझे लगता है कि मूल कारण LibDNN से उत्पन्न हो सकता है और विशेष रूप से इंटेल के स्थानिक कर्नेल से। मैं इंटेल इंजन को निष्क्रिय कर सकता था, लेकिन तब यह उस गति को प्राप्त नहीं कर सकता था जो अब मैं बहुत संतुष्ट हूं।

किसी भी अधिक संकेत और इस पर जाता है? अग्रिम में धन्यवाद।

@gongzg स्थानिक कर्नेल बैच प्रसंस्करण के साथ समस्या हो सकती है पर कोई संकेत?

@ naibaf7 वर्तमान स्थानिक @jstumpin को github.com/01org/caffe की चाहूंगा कि समस्या चली गई है या नहीं। संगत विकी पेज इंटेल ओपनसीएल कैफ विकी पर है

@jstumpin Resnet के लिए लेयर फ्यूजन को लागू करना बेहतर है, और आपको एक ध्यान देने योग्य प्रदर्शन मिलेगा।

चारों ओर महान संकेत (और समाचार भी)। पहले github.com/01org/caffe के बारे में सुना, लेकिन बहुत उत्सुक नहीं था क्योंकि मैं विंडोज तैनाती के लिए जाने के लिए बाध्य हूं। मुझे (ए) में दिए गए चश्मे मिल रहे हैं:

1. एलेक्सनेट
   
   
   
   • 110 चित्र / सेकंड, 164 चित्र / सेकंड (बैच = 15)
   
   
2. ResNet50
   
   
   
   • 11 चित्र / सेकंड, 14 चित्र / सेकंड (बैच = 5)
   
   
3. ResNet152
   
   
   
   • 5 चित्र / सेकंड, 6 चित्र / सेकंड (बैच = 2)
   
   

अनुवर्ती इंटेल स्थानिक से वंचित हैं:

1. एलेक्सनेट
   
   
   
   • 113 चित्र / सेकंड, 114 चित्र / सेकंड (बैच = 15)
   
   
2. ResNet50
   
   
   
   • 9 चित्र / सेकंड, 14 चित्र / सेकंड (बैच = 5)
   
   
3. ResNet152
   
   
   
   • 5 चित्र / सेकंड, 6 चित्र / सेकंड (बैच = 2)
   
   

पूर्णता के लिए, मैंने ओपनसीवी 3.3.0 और कैफ के सीपीयू-केवल (इंटेल एमकेएल के साथ, उन सभी के खिलाफ) बेंचमार्क किया है। कहने के लिए पर्याप्त, सीपीयू-केवल एक नो-गो है, नेटवर्क टोपोलॉजी की परवाह किए बिना। मैं बैच आकार को कम करता हूं क्योंकि सिस्टम जटिलता (बी) के साथ नेटवर्क जटिलता बढ़ती है क्योंकि GPU मेमोरी सीमित है। इसके अलावा, मैंने उन प्रयोग किए गए बैच आकारों से परे कोई लाभ नहीं देखा। BTW, (B) वास्तव में NVIDIA Quadro K4200 से लैस है, न कि शुरू में विज्ञापित के रूप में Geforce नहीं (यह वैसे भी अप्रासंगिक है क्योंकि हम तैनाती के लिए लक्ष्य (B) हैं)।

ऐसा करने के लिए:
[१] कैफ का पुनर्निर्माण अनुमान-अनुकूलन शाखा से करें
[२] लेयर फ्यूजन लागू करें और प्रदर्शन का पुनर्मूल्यांकन करें

धन्यवाद!

@jstumpin , inference-optimzie शाखा भी विंडोज़ का समर्थन करती है, जब आप कोड को क्लोन करते हैं, तो कृपया विंडोज पर निर्माण के निर्देशों के लिए README की जांच करें। यदि आपको कोई समस्या मिली, तो बस वहां एक टिकट खोलें।

@gongzg एफपी 16 की समीक्षा और रिफ्लेक्टर जारी है।

यद्यपि सही लेबल, भविष्यवाणी मूल्य 1 से अधिक क्यों है? इंटेल स्पेसल के साथ या उसके बिना ओपनसीएल का उपयोग करते समय यह सही है (केवल सीपीयू ठीक है)। क्या सॉफ्टमैक्स का आउटपुट संभाव्य नहीं होना चाहिए?

मैं अपने इंटेल एनयूसी पर नवीनतम ओपनसीएल शाखा की कोशिश कर रहा हूं। हार्डवेयर है

• Intel Core i7-7567U CPU @ 3.5GHz
• इंटेल आइरिस प्लस ग्राफिक्स 650
• विंडोज 10 प्रो
• विजुअल स्टूडियो 14 2015 विन 64

मैंने कैफ़ फ़ोल्डर के समानांतर एक फ़ोल्डर में नवीनतम विनेकल को क्लोन किया। फिर, मैं इसे संशोधित किए बिना scripts/build_win.cmd चलाता हूं (जैसा कि मैंने इसे संशोधित करने की कोई आवश्यकता नहीं देखी)। लेकिन अजीब त्रुटि मिलती है जो उपरोक्त सभी चर्चा में नहीं पाई जाती है। कृपया नीचे दिए गए आउटपुट में देखें। वहाँ जाने से पहले, एक और जानकारी यह है कि मैंने windows शाखा का सफलतापूर्वक निर्माण किया।

यहाँ build_win.cmd का आउटपुट है। वास्तव में अगर कोई इस पर मेरी मदद कर सकता है तो उसकी सराहना करें!

================================

c: \ DL \ caffe \ script> build_win.cmd
सिस्टम निर्दिष्ट ड्राइव नहीं ढूँढ सकता।
सिस्टम निर्दिष्ट ड्राइव नहीं ढूँढ सकता।
जानकारी: ================================================== ============
जानकारी: सारांश:
जानकारी: ================================================== ============
जानकारी: MSVC_VERSION = 14
जानकारी: with_NINJA = 0
जानकारी: CMAKE_GENERATOR = "विजुअल स्टूडियो 14 2015 विन 64"
जानकारी: CPU_ONLY = 0
जानकारी: USE_CUDA = 0
जानकारी: CUDA_ARCH_NAME = ऑटो
जानकारी: USE_CUDNN = 0
जानकारी: USE_GREENTEA = 1
जानकारी: USE_LIBDNN = 1
जानकारी: USE_OPENMP = 0
जानकारी: USE_INDEX64 =
जानकारी: USE_INTEL_SPATIAL = 0
जानकारी: DISABLE_DEVICE_HOST_UNIFIED_MEMORY = 0
जानकारी: CMAKE_CONFIG = रिलीज़
जानकारी: USE_NCCL = 0
जानकारी: CMAKE_BUILD_SHARED_LIBS = 0
जानकारी: PYTHON_VERSION = 2
जानकारी: BUILD_PYTHON = 1
जानकारी: BUILD_PYTHON_LAYER = 1
जानकारी: BUILD_MATLAB = 0
जानकारी: PYTHON_EXE = "अजगर"
जानकारी: RUN_TESTS = 0
जानकारी: RUN_LINT = 0
जानकारी: RUN_INSTALL = 0
जानकारी: ================================================== ============
- विंडोज 10.0.15063 को लक्षित करने के लिए विंडोज एसडीके संस्करण का चयन करना।
- C कंपाइलर पहचान MSVC 19.0.24215.1 है
- CXX संकलक पहचान MSVC 19.0.24215.1 है
- सी कंपाइलर काम करने के लिए जाँच करें: C: / प्रोग्राम फाइल्स (x86) / Microsoft विज़ुअल स्टूडियो 14.0 / VC / bin / x86_amd64 / cl.exe
- सी संकलक काम करने के लिए जाँच करें: C: / कार्यक्रम फ़ाइलें (x86) / Microsoft विज़ुअल स्टूडियो 14.0 / VC / बिन / x86_amd64 / cl.exe - काम करता है
- सी संकलक एबीआई जानकारी का पता लगाना
- सी कंपाइलर एबीआई जानकारी का पता लगाना - किया गया
- काम करने के लिए जाँच करें CXX कंपाइलर: C: / प्रोग्राम फाइल्स (x86) / Microsoft Visual Studio 14.0 / VC / bin / x86_amd64 / cl.exe
- काम करने के लिए जाँच करें CXX कंपाइलर: C: / प्रोग्राम फाइल्स (x86) / Microsoft Visual Studio 14.0 / VC / bin / x86_amd64 / cl.exe - काम करता है
- CXX संकलक ABI जानकारी का पता लगाना
- CXX संकलक ABI जानकारी का पता लगाना - किया गया
- CXX संकलन सुविधाओं का पता लगाना
- CXX संकलन सुविधाओं का पता लगाना - किया गया
- पाया गया पायथनइंटरप: C: /User/NUC-Sonavex/AppData/Local/Programs/Python/Python35/python.exe (उपयुक्त संस्करण "3.5.3" मिला, न्यूनतम आवश्यक "2.7" है)
- pthread.h की तलाश में
- pthread.h की तलाश - नहीं मिली
- पाया धागे: सही
- बूस्ट संस्करण: 1.61.0
- निम्नलिखित बूस्ट पुस्तकालयों को मिला:
- प्रणाली
- धागा
-- फाइल सिस्टम
- क्रोनो
-- दिनांक और समय
- परमाणु
- मिली GFlags: C: /Users/NUC-Sonavex/.caffe/dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include
- मिले gflags (शामिल करें: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include, लाइब्रेरी: gflags_sared)
- मिला Glog: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include
- मिला हुआ गॉल (शामिल करें: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include, लाइब्रेरी: glog
- पाया गया प्रोटोबॉफ़: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/bin/protoc.exe (संस्करण मिला: 3.1.0 ")
मिली
मिले
- मिली lmdb (शामिल करें: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include, लाइब्रेरी: lmdb)
- पाया गया LevelDB: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include
- मिला LevelDB (शामिल करें: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include, पुस्तकालय: leldldb)
- मिली ZLIB: अनुकूलित; C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/lib/caffezdib.lib; डीबग; सी: /Users/NUC-Sonavex/.caffe/downloade/download/ .1.0 / पुस्तकालय / परिवाद / caffezlibd.lib (पाया संस्करण "1.2.8")
- पाया गया तड़क: C: /Users/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include
- पाया गया स्नैपी (शामिल करें: C: /Users/NUC-Sonavex/.caffe/dependencies/lbooks_v140_x64_py35_1.1.0/lbooks/include, लाइब्रेरी; snappy_static; अनुकूलित; C: /Users/NUC-Sonavex/.caffe/dependence/download/ .1.0 / पुस्तकालय / परिवाद / caffezlib.lib; डिबग? सी: /User/NUC-Sonavex/.caffe/d dependencies/lbooks_v140_x64_py35.1.1.0/lbooks/lib/caffezlibd.lib)
- - CUDA अक्षम है। इसके बिना भवन ...
- संस्थापक वियनांक शामिल हैं: C: / DL / viennacl
CMake त्रुटि: इस परियोजना में निम्नलिखित चर का उपयोग किया जाता है, लेकिन वे NOTFOUND पर सेट हैं।
कृपया उन्हें सेट करें या सुनिश्चित करें कि वे सीएमके फाइलों में सही ढंग से सेट और परीक्षण किए गए हैं:
OPENCL_INCLUDE_DIRS
डायरेक्टरी C: / DL / कैफ / स्क्रिप्ट / बिल्ड / CMakeFiles / CMakeTmp में डायरेक्टरी के रूप में शामिल हैं
_OPENCL_64_LIBRIES
निर्देशिका में "cmTC_7259e" लक्ष्य से जुड़े: सी / डीएल / कैफ / स्क्रिप्ट / बिल्ड / CMakeFiles / CMakeTmp

Cmake / मॉड्यूल / FindOpenCL पर सीएमके त्रुटि। सेमी: 106 (TRY_COMPILE):
परीक्षण प्रोजेक्ट बिल्ड सिस्टम को कॉन्फ़िगर करने में विफल।
कॉल स्टैक (सबसे हालिया कॉल पहले):
cmake / मॉड्यूल / FindViennaCL। सेमी: 37 (ढूँढें_पैकेज)
cmake / निर्भरताएँ। सेमी: 116 (खोज_ पैकेज)
CMakeLists। txt: 127 (शामिल)

- अधूरा कॉन्फ़िगर करना, त्रुटियां हुईं!
"C: /DL/caffe/scripts/build/CMakeFiles/CMakeOutput.log" भी देखें।
"C: /DL/caffe/scripts/build/CMakeFiles/CMakeError.log" भी देखें।
त्रुटि: कॉन्फ़िगर विफल हुआ

@ bxk-sonavex जैसा कि मैंने ऊपर उल्लेख किया है, कुछ इंटेल विशिष्ट पैच की समीक्षा और विलय नहीं किया गया है, इसलिए कृपया github.com/01org/caffe inference- ऑप्टिमाइज़ शाखा का प्रयास करें। आप इंटेल प्लेटफॉर्म पर विस्तार निर्देशों के लिए निम्नलिखित विकी का उल्लेख कर सकते हैं:
https://github.com/01org/caffe/wiki/clCaffe

@gongzg इंटेल OpenCL के कार्यान्वयन के कुछ हिस्से विंडोज पर काम नहीं करते हैं। लेकिन इस पर काम करना, जैसा कि आप जानते हैं :)

@ naibaf7 इसका मतलब यह है कि यह शाखा विंडोज पर इंटेल आईसीपीयू के साथ काम नहीं कर रही है? फिर, मैं इंटेल आईजीपीयू के साथ विंडोज पर ओपनसीएल का समर्थन करने वाला कैफ संस्करण कहां पा सकता हूं?

@gongzg क्या आपने इंटेल iGPU के साथ विंडोज पर काम करने का सुझाव दिया है?

@ bxk-sonavex यह काम करेगा, लेकिन इंटेल के संकल्पों के साथ नहीं, इसलिए गैर-इष्टतम प्रदर्शन।
फिलहाल मुझे लगता है कि आप ऐसा नहीं कर सकते, लेकिन मैं एक समाधान पर काम कर रहा हूं।
आपकी समस्या अधिक है OpenCL हेडर गुम होने के साथ। OpenCL आपने क्या स्थापित किया है? इंटेल SDK?

@ naibaf7 हां, मैं Intel SDK v6.3 का उपयोग कर रहा हूं। मुझे यहां एक वर्कअराउंड (https://github.com/BVLC/caffe/issues/5575) मिला और यह मेरे लिए काम करता है। अब मुझे opencl ब्रांच संकलित मिल गई। इसके अलावा, मैंने उदाहरण फ़ोल्डर में दिए गए mnist उदाहरण का उपयोग करके अपने निर्माण का परीक्षण किया। CPU का उपयोग करते समय (lenet_solver.prototxt को संशोधित करके), train_lenet बिना किसी समस्या के चला गया और अंतिम प्रशिक्षण सटीकता 0.9902 है, जो कि अपेक्षित है।

I1107 13: 53: 43.139747 3512 सॉल्वर। cpp: 421 ] टेस्ट नेट आउटपुट # 0: सटीकता = 0.9902
I1107 13: 53: 43.139747 3512 सॉल्वर। cpp: 421 ] टेस्ट नेट आउटपुट # 1: लॉस = 0.0277191 (* 1 = 0.0277191 लॉस)

हालांकि, GPU का उपयोग करते समय, मुझे "caffe.exe ने काम करना बंद कर दिया है" त्रुटि संदेश विंडो और सटीकता केवल 0.1009 है।

I1107 14: 11: 15.651798 7872 सॉल्वर। cpp: 421 ] टेस्ट नेट आउटपुट # 0: सटीकता = 0.1009
I1107 14: 11: 15.651798 7872 सॉल्वर। cpp: 421 ] टेस्ट नेट आउटपुट # 1: लॉस = 87.31 (* 1 = 87.31 लॉस)

आप मुझे क्या हुआ पर कुछ सुराग दे सकता है? इसे कैसे हल करें? या ये वो चीज है जिसका @gongzg ने उल्लेख किया है?

यह देखने में मदद नहीं कर सकता है कि Intel OpenCL कार्यान्वयन के कुछ हिस्से विंडोज पर काम नहीं करते हैं। लेकिन इस पर काम करना, जैसा कि आप जानते हैं :)

जिन स्थानों को मैंने डिफ़ॉल्ट build_win.cmd से संशोधित किया है

set WITH_NINJA=1 
set CMAKE_BUILD_SHARED_LIBS=1 
set PYTHON_VERSION=3 
set RUN_INSTALL=1

क्या मुझे USE_INTEL_SPATIAL सेट करना चाहिए?

जब USE_INTEL_SPATIAL = 1 सेट किया जाता है, तो शाखा संकलित नहीं की जा सकती। त्रुटि है

निनजा: निर्माण बंद कर दिया: उपकेंद्र विफल हो गया।

@ naibaf7 अब विंडोज पर 01org संस्करण ठीक काम करता है। मैं अभी भी अन्य चीजों में व्यस्त हूं, इसलिए मुझे इस OpenCL शाखा में सभी सुधार प्रस्तुत करने के लिए पर्याप्त समय नहीं मिला है। ऐसा करेंगे जब निकट भविष्य में मेरे पास कुछ समय होगा। @ bxk-sonavex आप विकी पेज के बाद 01org संस्करण की कोशिश कर सकते हैं, और यदि आप उस के साथ कोई समस्या है, तो कृपया मुझे बताएं।

@gongzg धन्यवाद! Https://github.com/01org/caffe/wiki/clCaffe#windows -support-for-Intel-gen-platform पर निर्देश के बाद, मुझे त्रुटि संदेश मिला:

fatal error C1083: Cannot open include file: 'caffe/proto/caffe.pb.h': No such file or directory

FYI करें:
https://github.com/ptillet/isaac.it केवल NVIDIA हार्डवेयर के साथ संगत है और इसे संकलित भी नहीं किया जा सकता है, इसलिए मैं https://github.com/intel/isaac पर क्लोन करता हूं

अपडेट करें:
मैन्युअल रूप से फ़ाइलों के माध्यम से उत्पन्न

build\libraries\bin\protoc.exe src\caffe\proto\caffe.proto --cpp_out=.\

माना जाता है, फ़ाइलों को स्वचालित रूप से उत्पन्न किया जाना चाहिए।

तब मुझे निम्नलिखित त्रुटि मिली:

"C:\DL\clCaffe\build\src\caffe\test\runtest.vcxproj" (default target) (1) ->
(CustomBuild target) ->
  C:\Program Files (x86)\MSBuild\Microsoft.Cpp\v4.0\V140\Microsoft.CppCommon.targets(171,5): error MSB6006: "cmd.exe" exited with code -1073741515. [C:\DL\clCaffe\build\src\caffe\test\runtest.vc
xproj]

    2345 Warning(s)
    1 Error(s)

Time Elapsed 00:03:55.08
ERROR: Tests failed

अक्षम RUN_TESTS और तीसरी बार निर्माण ...

@ bxk-sonavex ऐसा लगता है कि यह पहले से ही सफलतापूर्वक बनाया गया था। आपको निष्पादन योग्य फ़ाइलों की निर्देशिका में dll फ़ाइलों को कॉपी करने की आवश्यकता है:
"
कृपया ध्यान दें कि, भवन के सफलतापूर्वक समाप्त होने के बाद, इससे पहले कि आप एप्लिकेशन को चलाने का प्रयास करें, आपको dl.dll (dlfcn) और isaac.dll (isaac) को एक ही निर्देशिका में कॉपी करने या सिस्टम निर्देशिका में डालने की आवश्यकता है।
"

@gongzg ने सिस्टम पथ में दो

"C:\DL\clCaffe\build\src\caffe\test\runtest.vcxproj" (default target) (1) ->
(CustomBuild target) ->
  CUSTOMBUILD : Fatal error : Intel iGPU device found but doesn't support cl_intel_subgroups_short. [C:\DL\clCaffe\build\src\caffe\test\runtest.vcxproj]

    2333 Warning(s)
    1 Error(s)

Time Elapsed 00:05:41.97
ERROR: Tests failed

मैं इंटेल आइरिस प्लस ग्राफिक्स 650 और Intel_sdk_for_opencl_setup_6.3.0.1904 का उपयोग कर रहा हूं। किसी भी विचार और समाधान?

@ bxk-sonavex आपको अपने इंटेल ग्राफिक्स ड्राइवर को नवीनतम संस्करण में अपडेट करने की आवश्यकता है।

@gongzg धन्यवाद, जिसने संकलन त्रुटि को हल किया। परीक्षण चलाते समय, मुझे त्रुटियों का एक पूरा गुच्छा मिला, जैसे (उन सभी को नहीं पकड़ा जा सकता)

C:\DL\clCaffe\src\caffe\test\test_argmax_layer.cpp(132): error : Expected: (bottom_data[i * dim + j]) <= (max_val), actual: -0.402832 vs -0

C:\DL\clCaffe\src\caffe\test\test_convolution_layer_spatial.cpp(735): error : The difference between top_data[i] and ref_top_data[i] is 1.8
077674604790599e+28, which exceeds delta, where [C:\DL\clCaffe\build\src\caffe\test\runtest.vcxproj]
  top_data[i] evaluates to -1.8077674604790599e+28,
  ref_top_data[i] evaluates to 7.1034564971923828, and
  delta evaluates to 9.9999997473787516e-05.

C:\DL\clCaffe\src\caffe\test\test_convolution_layer_spatial.cpp(735): error : The difference between top_data[i] and ref_top_data[i] is 1
.803808228419822e+28, which exceeds delta, where [C:\DL\clCaffe\build\src\caffe\test\runtest.vcxproj]

    2418 Warning(s)
    17672 Error(s)

Time Elapsed 00:10:25.65
ERROR: Tests failed

क्या इन त्रुटियों का संबंध होना चाहिए?

वैसे भी, मैं mnist उदाहरण का उपयोग कर निर्माण का परीक्षण कर रहा हूं। यह सीपीयू का उपयोग करते हुए मूल कैफ की तुलना में बहुत धीमा है ,

warning: Linking two modules of different data layouts: '' is 'e-i64:64-v16:16-v24:32-v32:32-v48:64-v96:128-v192:256-v256:256-v512:512-v1024:1024' whereas '<origin>' is 'e-p:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v16:16:16-v24:32:32-v32:32:32-v48:64:64-v64:64:64-v96:128:128-v128:128:128-v192:256:256-v256:256:256-v512:512:512-v1024:1024:1024-n8:16:32:64'

warning: Linking two modules of different target triples: ' is 'spir64' whereas '<origin>' is 'vISA_64'

कोई उपाय?

@ bxk-sonavex

क्यों आप इस समय के लिए लिनक्स में कैफीन चलाने के साथ काम नहीं करते हैं? देवता मुझे लगता है कि FP16, INT8 कोड आदि को सुचारू रूप से चलाने के लिए अधिक ध्यान केंद्रित किया जाता है विशेष रूप से naibaf7 (david)।

उचित विंडोज़ समर्थन अंततः आ जाएगा।

हालांकि एक सुझाव है।

@ पतरी मुझे बहुत पसंद है !!! लेकिन हमारी प्रणाली विंडोज 10 + इंटेल आईरिस है ... क्या विंडोज समर्थन कब आएगा इस पर कोई विचार है? या, कोई अन्य DL प्लेटफ़ॉर्म काम करता है (GPU का उपयोग करके)?

@gongzg बस आपको प्रदर्शन के साथ अपडेट करना चाहते हैं
सीपीयू: 7 मिनट 33 सेकंड, सटीकता = 0.9914
GPU: 29 मिनट 34 सेकंड, सटीकता = 0.8406

आश्चर्य है कि लिनक्स पर प्रदर्शन क्या है। तब, मैं एक मूल विचार कर सकता था कि इंटेल जीपीयू (ओपनसीएल) बनाम सीपीयू का उपयोग करके कितनी गति हो। धन्यवाद!!

@ bxk-sonavex

क्या आपने ओपेकल कर्नेल को सक्षम किया? क्या आपने INTEL_SPATIAL का उपयोग करने की कोशिश की?

@atlury क्या मतलब है "ओपिनल कर्नेल को सक्षम करें"? हाँ, मैंने यहाँ निर्देश का पालन किया (https://github.com/01org/caffe/wiki/clCaffe#how-to-build) और कमांड लाइन में "USE_INTEL_SPATIAL = 1" सेट किया (बिल्ड_win.cmd फ़ाइल को सीधे संशोधित नहीं किया) ) का है।

अपडेट करें:
जानकारी: ================================================== ============
जानकारी: सारांश:
जानकारी: ================================================== ============
जानकारी: MSVC_VERSION = 14
जानकारी: with_NINJA = 0
जानकारी: CMAKE_GENERATOR = "विजुअल स्टूडियो 14 2015 विन 64"
जानकारी: CPU_ONLY = 0
जानकारी: USE_CUDA = 0
जानकारी: USE_CUDNN = 0
जानकारी: USE_GREENTEA = 1
जानकारी: USE_LIBDNN = 1
जानकारी: USE_OPENMP = 0
जानकारी: USE_INDEX64 =
जानकारी: USE_INTEL_SPATIAL = 1
जानकारी: USE_ISAAC = 1
जानकारी: CMAKE_CONFIG = रिलीज़
जानकारी: USE_NCCL = 0
जानकारी: CMAKE_BUILD_SHARED_LIBS = 0
जानकारी: PYTHON_VERSION = 2
जानकारी: BUILD_PYTHON = 0
जानकारी: BUILD_PYTHON_LAYER = 0
जानकारी: BUILD_MATLAB = 0
जानकारी: PYTHON_EXE = "अजगर"
जानकारी: RUN_TESTS = 1
जानकारी: RUN_LINT = 0
जानकारी: RUN_INSTALL = 1
जानकारी: ================================================== ============

@ bxk-sonavex

बेन आपको अपनी तैनाती में सभी जटिल परतों के लिए INTEL_SPATIAL को शामिल करना होगा। मैंने व्यक्तिगत रूप से लिनक्स में वास्तविक समय में इसका परीक्षण किया है।

https://github.com/BVLC/caffe/pull/5165

"मैंने एक इंटेल टीवी स्टिक पर परीक्षण किया है, Intel Spatial kernels का उपयोग करके वेब कैमरा और 19-लेयर वेज मॉडल का उपयोग कर रहा हूं। मैं वास्तविक समय वर्गीकरण और सभी 3.5 वॉट के तहत प्राप्त करने में सक्षम हूं"

विंडोज भी काम करना चाहिए।

@ 01x संस्करण पर इस मुद्दे के लिए bxk-sonavex, कृपया वहां एक मुद्दा खोलें। उन ढाल परीक्षण मामलों पर FP16 सटीक मुद्दे के कारण कुछ परीक्षण विफलताएं हैं जो महत्वपूर्ण नहीं हैं। प्रदर्शन बेहद धीमा है जो ऑटो-ट्यूनिंग के कारण होना चाहिए। जब आप इसे फिर से चलाते हैं तो यह बहुत तेज होना चाहिए। आप सबसे पहले एलेक्सनेट के लिए आगे के प्रदर्शन को मापने के लिए बिल्ड / टूल्स / कैफ का उपयोग करने की कोशिश कर सकते हैं।

वैसे, मैं सिर्फ देखा है कि @CNugteren उसकी autotuned CLBlast पुस्तकालय के नए 1.2.0 संस्करण का विमोचन किया कुछ दिन पहले। मैंने इसकी जाँच की और लगता है कि यह मेरे विंडोज 10 लेनोवो लैपटॉप पर कैफ के साथ पुराने इंटेल 4400 जीपीयू (साथ ही लिनक्स पर) पर काम कर रहा है - इसलिए यह कैफ के लिए एक अच्छा अतिरिक्त हो सकता है क्योंकि पिछले सीएलबीस्टल संस्करण विंडोज पर सेग-फॉल्टिंग था!

यदि आप रुचि रखते हैं, तो आप निम्न के रूप में स्क्वीज़डाइट पर उदाहरण के लिए LibDNN और CLBlast के साथ कैफ की गति की जांच कर सकते हैं (विंडोज और लिनक्स दोनों पर समान प्रक्रिया):

$ pip install ck
$ ck pull repo --url=https://github.com/dividiti/ck-caffe
$ ck install package:lib-caffe-bvlc-opencl-libdnn-clblast-universal-20171015

CK को आपके पर्यावरण और संकलक का पता लगाने का प्रयास करने में कुछ समय लगेगा,
और फिर अपनी मशीन पर सभी आवश्यक निर्भरता का पुनर्निर्माण करेंगे।

उसके बाद आप केवल स्क्वीज़डाइट स्थापित कर सकते हैं और आंतरिक समय चला सकते हैं:

$ ck install package:caffemodel-deepscale-squeezenet-1.1
$ ck run program:caffe --cmd_key=time_gpu

कर्नेल संकलन और कैशिंग के कारण पहला रन थोड़ा धीमा हो सकता है इसलिए दूसरा रन बहुत तेज होगा!

आप छवि वर्गीकरण भी बेंचमार्क कर सकते हैं:

$ ck pull repo:ctuning-datasets-min
$ ck run program:caffe --cmd_key=classify

इंटेल से संबंधित नहीं है, लेकिन सिर्फ यह ध्यान दें कि एंड्रॉइड GCC 4.9.x का उपयोग करके Android ARM64 के लिए CLBlast 1.2.0 के साथ कैफ को संकलित करते समय एक मामूली बग प्रतीत होता है ("to_string" जो std वर्ग में नहीं पाया जाता है):

$ ck install package:lib-caffe-bvlc-opencl-libdnn-clblast-universal-20171015 --target_os=android21-arm64 --env.DISABLE_DEVICE_HOST_UNIFIED_MEMORY=ON
$ ck compile program:caffe-time-opencl --target_os=android21-arm64
$ ck run program:caffe-time-opencl --target_os=android21-arm64

इसे ठीक करना अच्छा होगा क्योंकि CLBlast 1.1.0 एंड्रॉइड पर ठीक काम करता है ... इस तरह के मामले में, यह सभी प्लेटफार्मों पर कैफ के साथ काम करेगा।

आशा है कि यह किसी भी मदद की है और एक अच्छा सप्ताहांत है!

एंड्रॉइड GCC 4.9.x का उपयोग करके Android ARM64 के लिए CLBlast 1.2.0 के साथ कैफ को संकलित करते समय एक मामूली बग प्रतीत होता है ("to_string" जो std वर्ग में नहीं पाया जाता है):

सुनिश्चित नहीं हैं कि क्या आपका मतलब है कि यह सीएलबीस्टल या कैफ में एक बग है? किसी भी स्थिति में, CLBlast ने एक विशेष एंड्रॉइड हेडर में इसे लागू किया है। शायद यह कैफ के भीतर भी इस्तेमाल किया जा सकता है?

@CNugteren - मैंने अभी जाँच की है और समस्या CLBlast में नहीं है। मैं सीके में एक पैच भूल गया जो एंड्रॉइड के लिए LibDNN को ठीक कर रहा था (इसलिए मेरी गलती है)। मैंने इसे (https://github.com/dividiti/ck-caffe/blob/master/package/lib-caffe-bvlc-opencl-clblast-universal/patch.android/android.fgg.patch3) जोड़ दिया है और यह अब है CLBlast और libDNN के साथ कैफ को संकलित करना संभव है। मैंने अपने सैमसंग एस 7 पर वर्गीकरण और बेंचमार्किंग उदाहरणों की जांच की - ठीक काम करता है। तो इस झूठे अलार्म के लिए खेद है और एक नया CLBlast जारी करने के लिए धन्यवाद - अब मैं इसे कैफीन में लिनक्स, विंडोज और एंड्रॉइड पर उपयोग कर सकता हूं।

@gfursin क्या यह CPU या GPU (OpenCL) का उपयोग करने वाला संस्करण है? मुझे लगा कि यह कह रहा है कि OpenCL अभी तक विंडोज पर काम नहीं कर रहा है (या कम से कम अभी इंटेल iGPU के साथ नहीं है)। आप विंडोज पर क्या उपयोग कर रहे हैं?

@ bxk-sonavex

बेन जवाब देने में देरी के लिए खेद है। मैं बाहर था।

@ Naibaf7 को उद्धृत करने के लिए
"कन्वेंशन विधि (" इंजन ") वैकल्पिक रूप से नेटवर्क प्रोटोटेक्स्ट फ़ाइल में चयनित / अधिलेखित किया जा सकता है"

इस प्रकार सभी कनवल्शन लेयर स्पेसिफिकेशन में एंट्री "इंजन: INTEL_SPATIAL" जोड़ें।

एक उदाहरण के रूप में एलेक्सनेट को लें, फ़ाइल को संपादित करें कहती हैं $ CAFFE_ROOT / मॉडल / bvlc_alexnet / train_val.prototxt, और निम्नलिखित लाइन को जोड़ने के लिए spat परत का उपयोग करके गणना की जाने वाली परत 1 परत बनाएं। इसी तरह अन्य परतों को बदलें

 layer {
   name: "conv1"
   type: "Convolution"
   bottom: "data"
   top: "conv1"
   param {
     lr_mult: 1
     decay_mult: 1
   }
   param {
     lr_mult: 2
     decay_mult: 0
   }
   convolution_param {
     num_output: 96
     kernel_size: 11
     stride: 4
     engine: INTEL_SPATIAL      <-------------------------- this line!
     weight_filler {
       type: "gaussian"
       std: 0.01
     }
     bias_filler {
       type: "constant"
       value: 0
     }
   }
 }

संपादित करें: मेरा बुरा मैं देख रहा हूं कि आपने एक और धागा खोला था और लगता है कि यह थोड़ा और बढ़ गया है।

@ bxk-sonavex - मैं इंटेल स्पैटियल के बिना पुराने इंटेल 4400 जीपीयू के साथ विंडोज पर कैफ ओपनसीएल संस्करण (libDNN और CLBlast के साथ) का उपयोग करता हूं - ऐसा लगता है कि यह ठीक काम कर रहा है, लेकिन यह सबॉप्टीमल हो सकता है। यहाँ Caffe उपकरणों की सूची दी गई है ("ck run program: caffe --cmd_key = query_gpu_openco"):
output_caffe_opencl_devices.txt

यहाँ Windows पर Caffe OpenCL संस्करण और GoogleNet के साथ छवि वर्गीकरण से आउटपुट दिया गया है:
output_caffe_opencl_image_classification.txt

मैं इस चरण में ज्यादातर इंट्रेंस / ऑब्जेक्ट डिटेक्शन की जांच करता हूं (हम सभी संभावित प्लेटफार्मों पर DNN इंस्टॉलेशन, बेंचमार्किंग और ऑप्टिमाइज़ेशन को एकजुट करने की कोशिश कर रहे हैं) इसलिए मैंने OpenCL के साथ विंडोज पर अन्य कैफ क्षमताओं और मॉडल पर जोर नहीं दिया ...

मैंने इंटेल स्पेसियल ऑन ("ck install package: lib-caffe-bvlc-opencl-libdnn-clblast-universal-env.USE_INTEL-SPATIAL = ON") के साथ कैफ ओपनसीएल को संकलित करने की भी कोशिश की थी और मैं उसी 2 बिल्ड एरर का अवलोकन करता था जैसा कि था पूर्व में @ दलित द्वारा रिपोर्ट की गई):
output_caffe_build_error_with_intel_spatial.txt

क्या लिनक्स (उबंटू 16.04) के लिए भी एक बिल्ड स्क्रिप्ट उपलब्ध है? संकलन करने की कोशिश करते समय मुझे त्रुटियाँ मिल रही हैं

@rachithayp निर्देशों का सावधानीपूर्वक पालन करें, यह 18.0x श्रृंखला पर भी काम करेगा। हमने इसका परीक्षण किया है।

हाय @rachithayp । बस एक नोट जिसे आपको Ubuntu Open पर काम करने के लिए कर्नेल को पैच करने की आवश्यकता है 16.04: https://github.com/dividiti/ck-caffe/wiki/Installation#Intel_CPUGPU_Linux ।

मैं अपने Ubuntu 18.04 (इंटेल GPU के साथ लेनोवो T470p लैपटॉप) पर Caffe की OpenCL शाखा बनाने में कामयाब रहा और कुछ हफ्तों पहले CK के माध्यम से नवीनतम Intel OpenCL के साथ:

$ sudo pip install ck

$ ck pull repo --url=https://github.com/ctuning/ck-caffe

$ ck install package:lib-caffe-bvlc-opencl-viennacl-universal --env.USE_INTEL_SPATIAL=ON --env.CAFFE_BUILD_PYTHON=ON

सीके आपके उपलब्ध संकलक, ओपनसीएल लाइब्रेरी और अन्य निर्भरता का पता लगाने का प्रयास करेगा, और कैफ़े के लिए सेमीकेक को आमंत्रित करेगा। यदि बिल्ड सफल होता है, तो आप CK वर्चुअल एनवी का उपयोग करके इंस्टालेशन की जाँच कर सकते हैं:

$ ck show env
$ ck virtual env --tags=lib,caffe
> python
import caffe

आप निम्नानुसार एक नमूना छवि वर्गीकरण का प्रयास कर सकते हैं:

$ ck compile program:caffe-classification-opencl --speed
$ ck run program:caffe-classification-opencl

सौभाग्य।

cc @ ens-lg4 और @psyhtest ...

@ आईटलरी मैं नीचे दिए गए सीमेक का उपयोग करने में सक्षम था:
cmake .. -DUSE_CUDA = OFF -DBUILD_docs = 0 -DOPENCL_LIBRARIES = <> -DOPENCL_INCLUDE_DIRS = <>

लेकिन INTEL_SPATIAL_ON के साथ संकलन करने की कोशिश कर रहा है नीचे त्रुटियों:
cmake .. -DUSE_GREENTEA = ON -DUSE_CUDA = OFF -DUSE_INTEL_SPATIAL = ON -DBUILD_docs = 0 -DOPENCL_LIBRARIES = <> -DOPENCL_INCLUDE_DIRS = <>

/ होम / इंटेल / दस्तावेज / caffe_src / opencl_caffe / src / caffe / libdnn / libdnn_conv_spatial। cpp: 19 : 1: error: 'LibDNNConvSpatial' में एक प्रकार का नाम नहीं है
LibDNNConvSpatial:: LibDNNConvSpatial (LibDNNConvConfig config) {
^
/ होम / इंटेल / दस्तावेज / caffe_src / opencl_caffe / src / caffe / libdnn / libdnn_conv_spatial। cpp: 117 : 25: त्रुटि: 'आरंभ' टोकन से पहले उम्मीद की जा रही है
string LibDNNConvSpatial:: Gener_fw_defs () {

कोई अंदाजा क्या गलत हो सकता है?। इसके अलावा opencl ब्रांच पर कोई / caffe / greentea फ़ोल्डर शामिल नहीं है, इसलिए मैंने इसे " https://github.com/01org/caffe " से कॉपी किया।

@rachithayp
क्या आप नीचे दिए गए अध्याय से निर्देश की कोशिश कर सकते हैं? इसकी स्थापना के अध्याय का एक मोटा हिस्सा हमारी आगामी पुस्तक से ओपेकल कैफ पर। शुक्रिया @ naibaf7

मुझे उम्मीद है कि यह कुछ प्रकाश फेंक देगा और आपके ओपेकल कैफ प्रयासों में आपकी मदद करेगा।

अजगर-गहरी-सीख-स्थापना-chap.pdf

@ bxk-sonavex - मैं इंटेल स्पैटियल के बिना पुराने इंटेल 4400 जीपीयू के साथ विंडोज पर कैफ ओपनसीएल संस्करण (libDNN और CLBlast के साथ) का उपयोग करता हूं - ऐसा लगता है कि यह ठीक काम कर रहा है, लेकिन यह सबॉप्टीमल हो सकता है। यहाँ Caffe उपकरणों की सूची दी गई है ("ck run program: caffe --cmd_key = query_gpu_openco"):
output_caffe_opencl_devices.txt

यहाँ Windows पर Caffe OpenCL संस्करण और GoogleNet के साथ छवि वर्गीकरण से आउटपुट दिया गया है:
output_caffe_opencl_image_classification.txt

मैं इस चरण में ज्यादातर इंट्रेंस / ऑब्जेक्ट डिटेक्शन की जांच करता हूं (हम सभी संभावित प्लेटफार्मों पर DNN इंस्टॉलेशन, बेंचमार्किंग और ऑप्टिमाइज़ेशन को एकजुट करने की कोशिश कर रहे हैं) इसलिए मैंने OpenCL के साथ विंडोज पर अन्य कैफ क्षमताओं और मॉडल पर जोर नहीं दिया ...

मैंने इंटेल स्पेसियल ऑन ("ck install package: lib-caffe-bvlc-opencl-libdnn-clblast-universal-env.USE_INTEL-SPATIAL = ON") के साथ कैफ ओपनसीएल को संकलित करने की भी कोशिश की थी और मैं उसी 2 बिल्ड एरर का अवलोकन करता था जैसा कि था पूर्व में @ दलित द्वारा रिपोर्ट की गई):
output_caffe_build_error_with_intel_spatial.txt

क्या आपका HD 4400 सीपीयू की तुलना में कैफ़े से तेज चलता है?
मैंने clCaffe संकलित किया, और इसे अपने HD 5500 पर चलाया, लेकिन यह CPU (i3 5005U) से 5 गुना धीमा है
मुझे पता नहीं क्यों।