यह अजीब है कि Google ने मालिकाना CUDA के लिए OpenCL को खोल दिया।

कम से कम, ईजिन लाइब्रेरी को ओपनसीएल का समर्थन करना होगा।

:+1:

:+1:

:+1:

अंगूठे ऊपर और वह सब।

मुझे ओपनसीएल के साथ टेंसर फ्लो का विस्तार करने में दिलचस्पी होगी। जैसा कि हमने पहले ही ओपनसीएल कैफे जारी किया है। https://github.com/amd/OpenCL-caffe। उम्मीद है कि यह हल्के तरीके से एकीकृत हो सकता है? क्या इस पर एक साथ काम करने में किसी की दिलचस्पी है?

@gujunli एएमडी को यहां देखकर अच्छा लगा। /सीसी @naibaf7 @lunochod

बहुत अच्छा होगा।

:+1:

/cc @lukeiwanski Eigen/OpenCL/SYCL . के लिए

@gujunli निश्चित रूप से योगदान देने में रुचि रखेगा। कृपया मुझे बताएं कि आप कब शुरू करने की योजना बना रहे हैं।

नमस्ते,

यहां कोडप्ले में हम एसवाईसीएल (ओपनसीएल के शीर्ष पर एक आधुनिक सी ++ परत) का उपयोग कर जीपीयू पर चल रहे ईजिन के टेंसर को देख रहे हैं। अब तक हमने जो कुछ भी इकट्ठा किया है, उससे GPU टेंसर डिज़ाइन CUDA के साथ बहुत निकटता से जुड़ा हुआ है और इसके लिए किसी अन्य प्रोग्रामिंग मॉडल और विशेष रूप से SYCL और OpenCL 1.2 संस्करण के लिए इंटरफ़ेस परिवर्तन की आवश्यकता होगी।

अगर किसी की गहरी खुदाई/मदद करने में दिलचस्पी है, तो हम निश्चित रूप से योगदान देने में रुचि रखते हैं।

धन्यवाद,
ल्यूक

@lukeiwanski प्रतिक्रिया के लिए धन्यवाद। मुझे लगता है कि @benoitsteiner ने eigen के टेंसर एक्सटेंशन वाले हिस्से पर काम किया।

: +1: अगर कोई योजना बनाता है, कार्यों को कार्यों में विभाजित करता है, तो मैं कुछ ओपनसीएल/एसवाईसीएल कोड में मदद कर सकता हूं। मैं ओपनसीएल के लिए एक रैपर के रूप में बूस्ट.कंप्यूट का उपयोग करने की सलाह देता हूं (यह चलने वाले कर्नेल, परीक्षण, टेम्पलेटिंग को आसान बनाता है)।

+1

:+1:

नमस्ते,

बस आपको पोस्ट करने के लिए, हम अभी भी जांच कर रहे हैं कि हम एसवाईसीएल/ओपनसीएल 1.2 प्रोग्रामिंग मॉडल को बेहतर ढंग से फिट करने के लिए ईजेन इंटरफेस को कैसे बदल सकते हैं।
एक बार जब हम एक उचित दृष्टिकोण के साथ आते हैं जो विषम प्रोग्रामिंग मॉडल (न केवल ओपनसीएल / एसवाईसीएल) को लक्षित करता है, तो हम एक प्रस्ताव तैयार करेंगे।

धन्यवाद,
ल्यूक

कृपया मुझे अपडेट रखें। मैंने AMD के लिए opencl-caffe विकसित किया है। मैं भी देख रहा हूँ
टेंसर प्रवाह।

धन्यवाद।
जुनलु
8 दिसंबर 2015 को सुबह 10:19 बजे, "ल्यूक इवान्स्की" नोटिफिकेशन @github.com ने लिखा:

नमस्ते,

बस आपको पोस्ट करते रहने के लिए, हम अभी भी जांच कर रहे हैं कि हम इसे कैसे बदल सकते हैं
SYCL/OpenCL 1.2 प्रोग्रामिंग मॉडल को बेहतर ढंग से फिट करने के लिए Eigen इंटरफ़ेस।
एक बार जब हम एक उचित दृष्टिकोण के साथ आते हैं तो हम एक प्रस्ताव तैयार करेंगे।

धन्यवाद,
ल्यूक

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -162967662
.

/cc @ptillet @gongzg क्या इसमें इंटेल की कोई दिलचस्पी है? मैं वास्तव में आशा करता हूं कि हम यहां OPENCL को कैफ की तरह खंडित नहीं करते हैं जहां हमारे पास एक AMD कांटा, इंटेल अनमर्ज्ड PRs, एक अन्य अर्ध-अनौपचारिक AMD PR, और एक लंबे समय तक चलने वाला उपयोगकर्ता PR (साथ ही दो पुराने परित्यक्त Opencl प्रयास) हैं। अगर किसी को इतिहास में दिलचस्पी है तो वह https://github.com/BVLC/caffe/pull/2610 टिप्पणियों पर एक नज़र डाल सकता है।

@bhack हमें इसमें रूचि है। मुझे बताने के लिए धन्यवाद। यदि ईजेन के ओपनसीएल/एसवाईसीएल कार्यान्वयन के लिए कोई प्रस्ताव है, तो हम देखेंगे कि हम इंटेल की ओर से क्या कर सकते हैं।

:+1:

https://github.com/ptillet/isaac पर एक दिलचस्प पहल भी अगर यहां हम Eigen tensor एक्सटेंशन पर भरोसा करते हैं।

मैं भी योगदान देना चाहूंगा। @benoitsteiner क्या आप इसे व्यवस्थित कर सकते हैं?

इसे रोडमैप में शामिल किया गया था लेकिन योगदान के रूप में भी टैग किया गया था ताकि दिशा/बूटस्ट्रैप वास्तव में उपयोगी हो सके।

मैं इसे व्यवस्थित करने में योगदान दे सकता हूं। ओपनसीएल समर्थन के लिए कौन जिम्मेदार है
अब टेंसर प्रवाह?

बहुत - बहुत धन्यवाद।
जुनलि

मंगलवार, 19 जनवरी, 2016 को सुबह 7:50 बजे, bhack [email protected] ने लिखा:

इसे रोडमैप में शामिल किया गया था लेकिन योगदान के रूप में भी चिह्नित किया गया था ताकि a
दिशा/बूटस्ट्रैप वास्तव में उपयोगी हो सकता है।

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -172894538
.

---

जुनली गु--谷俊丽
समन्वित विज्ञान प्रयोगशाला
अरबाना - केंपेन में इलिनोइस विश्वविद्यालय

---

मैंने बेनोइट को सिर्फ इसलिए ग्रहण किया क्योंकि उसने स्वयं इस सुविधा को सौंपा था, लेकिन मुझे लगता है कि आपको यह मिल गया है जुनली! शायद इच्छुक पार्टियों के ईमेल या फोरम थ्रेड से शुरू करें?

@benoitsteiner इच्छुक पार्टियों के बारे में अधिक जानता है जो शायद नहीं दिखाया हो
इस धागे में (या यह मुद्दा)। मैं उसके लिए समन्वय करने के लिए प्रतीक्षा करूँगा
सुनिश्चित करें कि हम काम की नकल करने से बचते हैं।

मंगलवार, 19 जनवरी, 2016 को पूर्वाह्न 11:42 बजे डैन मैकलॉघलिन नोटिफिकेशन @github.com
लिखा था:

मैंने बेनोइट को सिर्फ इसलिए ग्रहण किया क्योंकि उसने स्वयं इस सुविधा को सौंपा था, लेकिन मुझे लगता है
आपको मिल गया जुनली! शायद ईमेल या फोरम थ्रेड के साथ शुरू करें
इच्छुक दल?

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -172963537
.

मेरी दिलचस्पी है। क्या कोई रोडमैप है?

19 जनवरी 2016 को पूर्वाह्न 11:46 बजे, मार्टिन विक नोटिफिकेशन @github.com ने लिखा:

@benoitsteiner इच्छुक पार्टियों के बारे में अधिक जानता है जो शायद नहीं दिखाया हो
इस धागे में (या यह मुद्दा)। मैं उसके लिए समन्वय करने के लिए प्रतीक्षा करूँगा
सुनिश्चित करें कि हम काम की नकल करने से बचते हैं।

मंगलवार, 19 जनवरी, 2016 को पूर्वाह्न 11:42 बजे डैन मैकलॉघलिन नोटिफिकेशन @github.com
लिखा था:

मैंने बेनोइट को सिर्फ इसलिए ग्रहण किया क्योंकि उसने स्वयं इस सुविधा को सौंपा था, लेकिन मुझे लगता है
आपको मिल गया जुनली! शायद ईमेल या फोरम थ्रेड के साथ शुरू करें
इच्छुक दल?

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -172963537
.

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें।

क्या CUDA निर्भरता पुस्तकालयों की एक सूची है जिस पर Tensorflow निर्भर है?

इससे यह देखने में मदद मिलेगी कि क्या हमारे पास तत्काल ओपनसीएल विकल्प हो सकते हैं।

@hsaputra
clFFT, clBLAS (वैकल्पिक रूप से वियनासीएल) है। यादृच्छिक संख्या जनरेटर थोड़ा अधिक मुश्किल है (कोई curand नहीं), या तो CPU जनरेटर का उपयोग करें और GPU में स्थानांतरित करें या RNG के लिए किसी अन्य मौजूदा कर्नेल का उपयोग करें।

सबसे बड़ा नुकसान फिर से कुशल कनवल्शन इम्प्लीमेंटेशन (cuDNN जैसा कुछ) होगा।

यहां ऐसे मुद्दों के बारे में अनुभव है:
https://github.com/BVLC/caffe/pull/2610
https://github.com/BVLC/caffe/pull/2195
https://github.com/amd/OpenCL-caffe

Tensorflow Eigen के लिए अपस्ट्रीम टेन्सर एक्सटेंशन का उपयोग करता है। तो मुझे लगता है कि ईजिन को ओपनसीएल/एसवाईसीएल समर्थन की जरूरत है। यह धागा देखें

धन्यवाद @naibaf7। हाँ, मुझे नहीं लगता कि अभी OpenCL के लिए cuDNN के लिए कोई व्यवहार्य विकल्प है।

वेबसाइट http://opencl.org इसी तरह ओपन सोर्स पोर्टिंग प्रोजेक्ट्स को सपोर्ट करने के लिए बनाई गई है! हम वर्तमान में वेबसाइट पर सभी आवश्यक उपकरण स्थापित कर रहे हैं और https://github.com/OpenCL/ पर रिपॉजिटरी के लिए जगह है - बाद में हम कई प्रकार के हार्डवेयर के परीक्षण के लिए बिल्ड-सर्वर जोड़ रहे हैं और इसमें हमारी विशेषज्ञता प्रदान कर सकते हैं कई हार्डवेयर पर पूरी गति से चलने वाला कोड कैसे लिखें।

हम अगले सप्ताह जीईजीएल के लिए एक पोर्टिंग पहल शुरू कर रहे हैं, लेकिन हमें आपकी सहायता करने में भी खुशी हो रही है।

@bhack उस धागे से और यहाँ ऐसा लगता है जैसे @lukeiwanski इसे देख रहा है। मुझे लगता है कि हमारे पास इस पर काम करने के लिए पर्याप्त इच्छुक लोग हैं, हमें समन्वय करने के लिए बस @benoitsteiner , @lukeiwanski या @gujunli की आवश्यकता है। बेनोइट शांत रहा है, शायद वह छुट्टी पर है।

मुझे इस पहल में योगदान करने में मदद करना अच्छा लगेगा।

नमस्ते,

हम ओपनसीएल के लिए एसवाईसीएल में ईजेन के टेंसर मॉड्यूल को पोर्ट करने के प्रयास का समन्वय करेंगे क्योंकि हमारे पास पहले से ही ज्यादातर काम कर रहा है, लेकिन यह अभी तक समीक्षा के लिए तैयार नहीं है।

हम इस दृष्टिकोण के पक्ष में हैं क्योंकि यह कोड आधार पर कम आक्रमण करेगा। SYCL एकल-स्रोत C++ टेम्प्लेटेड मॉडल का समर्थन करता है जो eigen पहले से ही उपयोग करता है।

रोड मैप डिज़ाइन प्रगति पर है इसलिए अब यह बहुत लंबा नहीं होना चाहिए।

धन्यवाद,
ल्यूक

@lukeiwanski क्या आप काम कर रहे हैं या अपस्ट्रीम के संपर्क में हैं? क्या आपको लगता है कि Eigen में अपस्ट्रीम स्वीकार किया जाएगा?

+1

अच्छी खबर @lukeiwanski , हमें किसी भी मदद की जरूरत के बारे में बताएं।

मुझे लगता है कि आप एसवाईसीएल के अपने कार्यान्वयन का उपयोग कर रहे हैं - क्या यह डेवलपर्स/शोधकर्ताओं के लिए उपलब्ध होगा? किस प्लेटफॉर्म पर?

@lukeiwanski SYCL Eigen के साथ शामिल टेम्प्लेट मेटाप्रोग्रामिंग की मात्रा को देखते हुए जाने का सही तरीका लगता है। मैं अपने स्वयं के तंत्रिका जाल और रैखिक बीजगणित पुस्तकालय के विकास से प्राप्त ओपनसीएल अनुभव के साथ एक अनुभवी सी ++ डेवलपर हूं। मुझे इस प्रयास में मदद करना और एसवाईसीएल के साथ विकास शुरू करना अच्छा लगेगा।

@bhack हम @benoitsteiner के संपर्क में हैं, लेकिन बहुत अधिक प्रयास करने से पहले हम अपस्ट्रीम अनुरक्षकों के साथ अपने प्रस्ताव पर चर्चा करेंगे।

@DanMcLaughlin , @ville-k हम SYCL, ComputeCpp (https://www.codeplay.com/products/computecpp) के अपने कार्यान्वयन को विकसित कर रहे हैं। अधिक जानकारी के लिए, क्या आप कृपया मेरी प्रोफ़ाइल पर ईमेल पते के माध्यम से मुझसे ऑफ-लिस्ट संपर्क कर सकते हैं?

@lukeiwanski क्या योजनाओं के संबंध में कोई अद्यतन/अनुमान है?

+1।
मेरे पास लैपटॉप में एएमडी जीपीयू और इंटेल जीपीयू है। मुझे लगता है कि दोनों में ओपनसीएल ड्राइवर हैं और एएमडी का समर्थन काफी बेहतर लगता है। मेरे पास उच्च प्रदर्शन होगा, क्योंकि मेरे पास 2 ओपनसीएल डिवाइस हैं। मुझे आशा है कि आप इसे ओपनसीएल उपकरणों के साथ स्केल करेंगे।

नमस्ते,

रुचि के लिए धन्यवाद!
इस बिंदु पर हम यह सुनिश्चित करने के लिए अपने परीक्षण बुनियादी ढांचे को स्थापित कर रहे हैं कि हम जो कुछ भी करते हैं वह प्रतिगमन का परिचय नहीं देता है।
हम यह सुनिश्चित करने के लिए @benoitsteiner के संपर्क में हैं कि हमने अब तक जो किया है उसके साथ तालमेल बिठा रहे हैं।

हम अभी भी एकीकरण प्रक्रिया के लिए एक रोड मैप तैयार कर रहे हैं - इसे कुछ हफ़्ते में किया जाना चाहिए, क्योंकि स्पष्ट करने के लिए कुछ व्यावसायिक विवरण हैं।

हमारा लक्ष्य इस साल के अंत तक OpenCL को Eigen के माध्यम से TensorFlow में लाना है।

धन्यवाद,

इच्छुक। योगदान देना पसंद करेंगे।

ठीक है तो वास्तव में ऐसा लगता है कि यह कोडप्ले का एक प्रयास है जिसमें Google आंतरिक में किसी प्रकार का सिंक है। यहाँ AMD और Intel ग्राहकों की क्या भूमिका है?

/cc @keryell यदि आप SYCL/FPGA ब्रह्मांड से इस पर कोई रुचि रखते हैं

हाल ही में इस चर्चा में अधिक योगदान न देने के लिए मेरी क्षमायाचना, मेरी थाली पिछले 2 सप्ताह से अधिक से अधिक भरी हुई है।

मैं TensorFlow की ओर से OpenCL प्रयास का समन्वय कर रहा हूँ। हमारी वर्तमान सोच है:

• TensorFlow c++11 पर निर्भर करता है और उसने "एकल स्रोत" दृष्टिकोण अपनाया है, इसलिए SYCL एक बेहतरीन फिट की तरह लगता है।
• हमारे पास ओपनसीएल का बहुत अधिक अनुभव नहीं है, इसलिए हम इस अंतर को पाटने के लिए कोडप्ले के साथ मिलकर काम कर रहे हैं। विशेष रूप से, कोडप्ले वर्तमान में SYCL के लिए Eigen टेंसर लाइब्रेरी में समर्थन जोड़ने के प्रयास का नेतृत्व कर रहा है।
• TensorFlow NVidia GPU पर कनवल्शन की गणना करने के लिए cuDNN लाइब्रेरी पर निर्भर करता है। अगर कोई ओपनसीएल समकक्ष योगदान देने में दिलचस्पी रखता है, तो हमें मदद करने में खुशी होगी।

प्रयास को व्यवस्थित करने में सहायता के लिए, मैंने एक मेलिंग सूची बनाई: [email protected]।

@bhack यकीन है कि मुझे FPGA पर हाई-एंड C++ के लिए कुछ दिलचस्पी है :-)
TensorFlow triSYCL के लिए भी एक अच्छा सत्यापन उपयोग-मामला लगता है।
वैसे, अगर यहां कुछ लोग इस विषय पर कुछ इंटर्नशिप की तलाश में हैं, तो मेरे पास कुछ पद हैं। ऐसा लगता है कि कोडप्ले कुछ लोगों को भी ढूंढ रहा है, अगर मुझे उनकी वेब साइट पर भरोसा है।

मुझे वास्तव में @karlrupp और @hughperkins की राय में दिलचस्पी है। मुझे आशा है कि वे नए Google समूह की चर्चा में शामिल होना चाहेंगे।

@benoitsteiner अपडेट के लिए धन्यवाद। यह बहुत अच्छा होगा यदि @KhronosGroup (Google, Nvidia, Amd, Intel, Codeplay, Xilinx आदि) में शामिल सभी भागीदार एक मानकीकृत तरीके से API जैसे कुडन को बढ़ावा देंगे। एक प्रकार का ख्रोनोस ओपनवीएक्स कंप्यूटर विज़न मानकीकरण प्रयास लेकिन गहन सीखने के लिए।

@bhack कौन सा नया Google समूह?

इसके अलावा, OpenCL और CUDA बहुत अलग प्रोग्रामिंग दृष्टिकोण हैं। CUDA इस तरह से काम करता है क्योंकि एक कंपनी का हर चीज पर पूरा नियंत्रण होता है, इसलिए यह बाइनरी ब्लॉब्स को एम्बेड कर सकता है और कौन जानता है कि अंतिम निष्पादन योग्य में क्या है। यह ओपनसीएल के साथ नहीं किया जा सकता है, जब तक कि कोई एसवाईसीएल पथ से नीचे नहीं जाता (मुझे मेरी चिंताएं हैं ...) और एसवाईसीएल कंपाइलर विक्रेता का सभी संभावित लक्ष्य आर्किटेक्चर (व्यवहार में असंभव या असंभव) पर पूर्ण नियंत्रण है। कुल मिलाकर, मेरी राय यह है कि एक अच्छी ओपनसीएल-सक्षम लाइब्रेरी को यहां और वहां केवल कुछ बदलावों की आवश्यकता होती है। शायद वह नहीं जो आप सुनना चाहते थे, लेकिन आपने मेरी राय पूछी :-)

@karlrupp Google समूह के लिए अंत में https://github.com/tensorflow/tensorflow/issues/22#issuecomment -176406416 देखें।
मैंने आपकी राय पूछी क्योंकि आपके पास कई बैकएंड (सीपीयू, जीपीयू, एमआईसी) के साथ बीजगणित पुस्तकालय को इंटरफेस करने वाले विएनासीएल के साथ एक अच्छा अनुभव है। Tensorflow Eigein लाइब्रेरी पर निर्भर करता है और इसका नया टेंसर एक्सटेंशन Google अपस्ट्रीम (लेकिन केवल CUDA बैकएंड के साथ) द्वारा योगदान दिया गया है। मुझे लगता है कि उन्होंने विकास के इस वर्षों में वियनासीएल के साथ आपके सामने आए सभी नुकसानों का ज्यादा अनुभव नहीं किया है।

@bhack हम इस सप्ताह सिएटल में आमने-सामने की बैठक में हैं लेकिन निश्चित रूप से मैं यह नहीं कह सकता कि हम डीएनएन पुस्तकालयों के बारे में बात कर रहे हैं या नहीं ... :-)

@keryell सिएटल में कारण को आगे बढ़ाने की कोशिश करें;)

@karlrupp आप सही हैं, ओपनसीएल और सीयूडीए बहुत अलग प्रोग्रामिंग दृष्टिकोण हैं। उदाहरण के लिए CUDA और OpenMP 4.5 में पाया गया एकल-स्रोत पहलू सॉफ्टवेयर इंजीनियरिंग के दृष्टिकोण से अत्यंत शक्तिशाली है। यही कारण है कि वास्तविक सी ++ प्रोग्रामर के लिए यह एसवाईसीएल मानक है। SYCL को बिना किसी भाषा विस्तार के और कुछ OpenMP पहलुओं (कार्यों) के साथ स्टेरॉयड पर CUDA के रूप में देखा जा सकता है। एक विशिष्ट SYCL डिवाइस कंपाइलर से SPIR-V कर्नेल उत्पन्न करने की उम्मीद की जाती है।

पोर्टेबिलिटी के बारे में आपकी चिंताएँ SPIR-V मानक (वल्कन और ओपनसीएल दुनिया में nVidia PTX/AMDIL/... के पोर्टेबल समकक्ष की तरह) के साथ एक समस्या कम हैं, जिसे OpenCL 2.1 और Vulkan में स्वीकार करना अनिवार्य है। तो सुंदरता यह है कि यदि आपके पास SPIR-V उत्पन्न करने वाला फ्रंट-एंड है, तो आपको चलाने के लिए हार्डवेयर के बहुत विवरण के विशेष ज्ञान की आवश्यकता नहीं है। LLVM IR और SPIR-V के बीच एक Khronos ओपन-सोर्स द्विदिश अनुवादक है, इसलिए यह काफी नए क्षेत्र खोलता है।

@keryell मैं मानता हूं कि SPIR-V एक कदम आगे है। हालांकि, यह संपूर्ण झंझट के सभी मुद्दों को संबोधित नहीं करता है।

आपको चलाने के लिए हार्डवेयर के बहुत विवरण के विशेष ज्ञान की आवश्यकता नहीं है

क्या यह OpenCL 1.0 मार्केटिंग की कॉपी और पेस्ट है, जिसका दावा बिल्कुल वैसा ही है? यदि आप अधिकतम प्रदर्शन का लक्ष्य रखते हैं, तो आपको अंतर्निहित हार्डवेयर के विवरण के लिए _हमेशा_ नीचे जाना होगा। यह विशेष रूप से तेज टेंसर संकुचन के संदर्भ में होता है।

...जैसा कि @ स्कॉट-ग्रे ने नियॉन के साथ प्रदर्शित किया

@karlrupp

क्या यह OpenCL 1.0 मार्केटिंग की कॉपी और पेस्ट है, जिसका दावा बिल्कुल वैसा ही है?

हाहा। :-)

यदि आप अधिकतम प्रदर्शन का लक्ष्य रखते हैं तो आपको हमेशा अंतर्निहित हार्डवेयर के विवरण में जाना होगा। यह विशेष रूप से तेज टेंसर संकुचन के संदर्भ में होता है।

बेशक, लेकिन दूसरे क्रम के अनुकूलन के साथ खेलने से पहले, पूरे टेम्प्लेटेड सी ++ कोड के बड़े हिस्से को कुछ त्वरित तरीके से चलाना उपयोगी होता है।

अनुकूलन के लिए, या तो आप अपने अनुकूलित बाइनरी कर्नेल la NervanaSys को सिलाई करते हैं या, चूंकि SYCL शुद्ध C++ है, आप लक्ष्य आर्किटेक्चर का परीक्षण करने के लिए इसमें बहुत सारे #ifdef के साथ asm("...") का उपयोग कर सकते हैं। :-) उस ने कहा, SPIR-V स्वयं एक्स्टेंसिबल है और मैं नहीं देख सकता कि हम किसी बिंदु पर इनलाइन VHDL या Verilog क्यों नहीं डाल सके। :-)

लेकिन अधिक ठोस रूप से, उप-समूह संचालन की हालिया शुरूआत से पोर्टेबल तरीके से अच्छा प्रदर्शन प्राप्त करने में मदद मिलनी चाहिए और सरल अंतर्निर्मित तदर्थ कार्यों का उपयोग करने में मदद मिल सकती है।

सी ++ दिलचस्प मेटाप्रोग्रामिंग सुविधाओं को जोड़ता है जो एक्स या वाई हार्डवेयर के लिए अधिक अनुकूलित कोड उत्पन्न करने के लिए सीएलबीएलएएस या अन्य ढांचे जैसे उपयोग किए गए अधिकांश कोड जेनरेटर को प्रतिस्थापित करने की अनुमति देता है।

इसके अलावा C++17 में N4355 जल्द या बाद में खेल में प्रवेश कर सकता है

@karlrupp , @bhack टेंसरफ़्लो दृष्टिकोण एक विशिष्ट तंत्रिका नेटवर्क द्वारा आवश्यक अधिकांश संचालन के लिए हार्डवेयर एब्स्ट्रैक्शन (टेंसर मॉड्यूल) पर भरोसा करना है, जबकि कुछ परिचालनों के लिए विशेष पुस्तकालयों (जैसे कुडन) पर भरोसा करना है जो हैं वास्तव में महत्वपूर्ण प्रदर्शन के अनुसार। हार्डवेयर एब्स्ट्रैक्शन हमें एक बार में अधिकांश TensorFlow संचालन को लागू करने में सक्षम बनाता है और उन्हें एक त्वरक पर चलाने के लिए पर्याप्त से अधिक अच्छा प्रदर्शन करता है।

@bhack हाँ मुझे बहुआयामी सरणियाँ पसंद हैं। हमारे हित के क्षेत्र में भी, C++ समिति में SG14 है जो इन मुद्दों में रुचि रखने वाले सभी लोगों को मानक में शामिल करने का प्रयास करता है।
https://groups.google.com/a/isocpp.org/forum/#!forum/sg14
बेशक एसवाईसीएल चर्चा में है। :-)

@benoitsteiner मुख्य रूप से पूलिंग और कनवल्शन के लिए कुडन पर। मुझे लगता है कि यदि प्रत्येक विक्रेता इस संचालन के लिए अपने स्वयं के हार्डवेयर के साथ एक एपीआई का उत्पादन करेगा, तो अपनी बाइनरी असेंबली के साथ इतना स्केलेबल दृष्टिकोण नहीं होगा। यही कारण है कि मुझे लगता है कि कुछ प्रदर्शन महत्वपूर्ण एपीआई कॉल किसी तरह से मानकीकृत होने के लिए बेहतर होंगे।

@keryell नए एसजी 14 सी ++ में विशेष रूप से वेक्टर/सिम कॉल एजेंडा में मैट्रिक्स/टेन्सर के लिए वास्तव में दिलचस्प विषय हैं। लेकिन ऐसा लगता है कि किसी ने भी कनवल्शन, पूलिंग और अन्य उपयोगी "स्थिर" डीप लर्निंग इंटरफेस के बारे में बात नहीं की। मुझे यह भी लगता है कि इस विशिष्ट मानकीकरण उपसमूहों में एनवीडिया, इंटेल, एएमडी, कोडप्ले इत्यादि के लोग हैं .. लेकिन Google से नहीं, अगर यह अन्य समूहों में है।

:+1:

@bhack हाँ SG14 में अभी तक कोई मशीन-लर्निंग स्टाइल प्रस्ताव नहीं है। लेकिन भागीदारी खुली है, इसलिए आप कुछ प्रस्ताव भेज सकते हैं। :-) लेकिन शायद SG6 (संख्यात्मक विषय) अधिक प्रासंगिक है। मुझे नहीं लगता कि अभी तक उनकी अपनी मेलिंग-सूची/मंच है।

@gujunli क्या OpenCL Caffe Android पर चलता है? यहाँ यह पूछने के लिए क्षमा करें, लेकिन मुझे इसे पूछने के लिए कहीं और नहीं मिला :) एक गहन शिक्षण पुस्तकालय के साथ बहुत अच्छा होगा जो Android उपकरणों पर चलता है _and_ GPU का उपयोग कर सकता है लेकिन ऐसा लगता है कि इस समय ऐसा नहीं है। (यदि मैं गलत हूं तो मुझे सही करों!)

@krikru
आधिकारिक (लेकिन प्रयोगात्मक) ओपनसीएल कैफे शाखा को एंड्रॉइड जीपीयू पर चलाने के लिए बनाया जा सकता है, हालांकि इस समय प्रदर्शन इष्टतम से बहुत दूर है। https://github.com/sh1r0/caffe-android-lib/issues/23 और https://github.com/BVLC/caffe/tree/opencl देखें।

Cudnn का एक वास्तविक विकल्प Tensor, NdConvolution, NdPooling ऑपरेटरों और (शायद) कुछ अन्य ऑपरेटर के समर्थन के साथ OpenVx मानक वस्तुओं का विस्तार हो सकता है जिन्हें मानकीकरण योग्य माना जा सकता है।
साथ ही cudnn टीम को कुछ विकल्प चुनने की जरूरत है कि वे प्रत्येक रिलीज में कौन सा नया एपीआई और ऑपरेटर पेश करेंगे। बेशक एक मानक cudnn रिलीज के रूप में तेजी से आगे नहीं बढ़ सकता है, लेकिन मुझे लगता है कि कुछ संचालन और वस्तुओं में मानकीकृत होने के लिए पर्याप्त "उद्धरण इतिहास" है।

@hughperkins फिलहाल, मैंने किसी गहन शिक्षण पुस्तकालय की कोशिश नहीं की है; मैं बस कुछ स्काउटिंग कर रहा हूं यह देखने के लिए कि मैं संभावित रूप से किस पुस्तकालय का उपयोग कर सकता हूं। क्या आपने एंड्रॉइड पर क्लॉर्च और डीपसीएल की कोशिश की है? मैंने अभी माना है कि क्लटोरच ने एंड्रॉइड पर काम किया है, क्योंकि मशाल का कार्यान्वयन है जो विशेष रूप से एंड्रॉइड के लिए समर्पित है। और आपके पास ऐसा कार्यान्वयन क्यों होगा यदि पहले से ही एक ऐसा था जो दोनों एंड्रॉइड _and_ पर काम करते थे, ओपनसीएल का इस्तेमाल करते थे, है ना? लेकिन शायद मुझे बेहतर पता होना चाहिए था।

@hughperkins किसी कारण से मैंने कल्पना की थी कि टॉर्च-एंड्रॉइड एंड्रॉइड के लिए एक आधिकारिक मशाल कार्यान्वयन था, जिसका अर्थ है कि कोई अन्य मशाल कार्यान्वयन (कम से कम आधिकारिक नहीं) एंड्रॉइड पर क्लटोरच सहित आसानी से चलने की संभावना नहीं थी। मुझे नहीं पता कि मैंने ऐसा क्यों सोचा, इसका कोई मतलब नहीं है।

खैर... सौमिथ तरह का समन्वय मशाल विकास। वह फेसबुक एआई रिसर्च में काम करता है। इसलिए, चूंकि मशाल-एंड्रॉइड रेपो सौमिथ से संबंधित है, मैं कहूंगा कि यह आधिकारिक के काफी करीब है। लेकिन यह शायद किसी कारण से कोर का हिस्सा नहीं है। मुझे लगता है कि आप प्रश्न को उस रेपो में या https://groups.google.com/forum/#!forum/torch7 में एक मुद्दे के रूप में पूछ सकते हैं वास्तव में, चूंकि सौमिथ मुख्य व्यक्ति है जो https में अनुरोधों को संभालता है: //groups.google.com/forum/#!forum/torch7 , मुझे लगता है कि आप शायद अपना प्रश्न वहां पोस्ट करना चाहते हैं।

जिसका अर्थ है कि कोई अन्य मशाल कार्यान्वयन (कम से कम आधिकारिक नहीं) Android पर सुचारू रूप से चलने की संभावना नहीं थी, जिसमें cltorch . भी शामिल है

ध्यान दें कि क्लॉटोरच मशाल का कार्यान्वयन नहीं है। यह एक प्लगइन है, थाटा ओपनसीएल प्रदान करता है। आपको दोनों की जरूरत है।

ध्यान दें कि क्लॉटोरच मशाल का कार्यान्वयन नहीं है। यह एक प्लगइन है, थाटा ओपनसीएल प्रदान करता है। आपको दोनों की जरूरत है।

आह, स्पष्टीकरण के लिए धन्यवाद।

@ naibaf7 क्या एएमडी द्वारा ओपनसीएल कैफे शाखा और ओपनसीएल कैफे कार्यान्वयन नाम के अलावा कुछ और समान है? क्या आपने दोनों की तुलना की है या क्या आप जानते हैं कि प्रदर्शन में कोई अंतर है या नहीं? आप लिखते हैं कि ओपनसीएल शाखा इष्टतम प्रदर्शन से बहुत दूर है। इसका क्या अर्थ है और इसे सुधारने के लिए क्या आवश्यक होगा? इसे Android पर आज़माना दिलचस्प होगा।

हम विषय से हट रहे हैं

@bhack हाँ, इस धागे को अपहृत करने के लिए खेद है। मुझे नहीं पता था कि सवाल कहां से पूछना है।

@krikru
कृपया इसके बारे में कैफ शाखा में एक मुद्दा उठाएं, इसे एंड्रॉइड और ओपनसीएल के साथ फ़्लैग करें। तब हम इस पर आगे चर्चा कर सकते हैं। धन्यवाद।

@keryell ऐसा लगता है कि मार्च में होने वाली अगली f2f SG14 मीटिंग Google द्वारा होस्ट की जाएगी । क्या वहां कोई टेंसरफ़्लो आंतरिक होगा?

/सीसी @jfbastien

शायद @benoitsteiner गिर सकता है, क्योंकि वह स्थानीय है।
लेकिन इस घटना से पहले जैक्सनविल, फ्लोरिडा में महीने के अंत में पूर्ण C++ F2F है।
https://isocpp.org/files/papers/N4568.pdf
दुर्भाग्य से मैं उनमें से किसी में भी शामिल नहीं हो पाऊंगा।

मुझे नहीं पता कि CppCon 2015 कम्प्यूटेशनल फिजिक्स और एप्लाइड मैथमेटिक्स के लिए C++ मल्टी-डायमेंशनल एरेज़ पर बात करता है या नहीं, कुछ पेपर फॉलो-अप उत्पन्न करता है।

+1

@bhack बहु-आयामी सरणियों पर बात को इंगित करने के लिए धन्यवाद। यह दिलचस्प है और वास्तविक मुद्दों को संबोधित करता है लेकिन सी ++ में अनुसमर्थित होने के लिए बहुत ही तदर्थ दिखता है। व्यक्तिगत रूप से मैं Boost.MultiArray का उपयोग करता हूं और मुझे Boost.MultiArray के पॉलिश संस्करण में अधिक विश्वास है।

WG21 में कुछ पेपर भी हैं। जैसा कि आप देख सकते हैं कि Google पर @jfbastien ने WG21 में कुछ गतिविधि की है और मार्च में Google में SG14 f2f बैठक की मेजबानी करने में भी मदद की है।

@bhack @keryell मुझे लगता है कि इस चर्चा को SG14 मेलिंग सूची में ले जाना उचित होगा क्योंकि विवरण OpenCL / tensorflow से संबंधित नहीं हैं।

हाँ शायद यह अब सभी विवरणों के साथ यहाँ इतनी सख्ती से सीमित नहीं है। Eigen/sycl सपोर्ट के अलावा क्या cudnn कॉल्स के लिए कोई योजना है?

+1 बहुत ही रोचक विषय। आशा है कि यह जल्द ही आ रहा है।

यह धागा बहुत दिलचस्प है। मैं एंड्रॉइड पर काम करने के लिए कैफे प्राप्त करने की कोशिश कर रहा हूं। परिणाम आश्चर्यजनक प्रतीत होते हैं: माली जीपीयू के साथ चलने वाली कैफ सीपीयू की तुलना में 2-3 धीमी लगती है, लेकिन लगभग 4-5x अधिक ऊर्जा कुशल होती है। टेस्ट गैलेक्सी एस6 (माली टी760, पीक परफॉर्मेंस 200 जीएफएलप्स) पर चलाया गया।

चूंकि जीईएमएम कैफ में कनवल्शन का मूल है, इसलिए मैंने एंड्रॉइड पर इसके प्रदर्शन को प्रोफाइल करने का फैसला किया। ऐसा लगता है कि वियनासीएल कुछ साधारण गुठली की तरह कुशल नहीं है। अब मैं बड़े मैट्रिसेस (2k x 2k) के लिए CPU जितनी तेजी से GPU चलाने में सक्षम हूं। यह अभी भी प्रति-सहज है, क्योंकि आम तौर पर हम उम्मीद करते हैं कि GPU बहुत तेज होगा।

देखो:
https://github.com/strin/mocha-profile

कर्नेल कार्यान्वयन यहां पाया जा सकता है:

GEMM के लिए OpenCL कर्नेल: https://github.com/strin/gemm-android

कोई विचार?

@strin क्या आपने पहले ही इस सूत्र का अनुसरण किया है https://community.arm.com/thread/4935?

@bhack साझा करने के लिए धन्यवाद। यह धागा बहुत दिलचस्प लग रहा है। मैंने सुझाव के अनुसार डीवीएफएस को चालू करने की कोशिश की, लेकिन वियनासीएल में sgemm के लिए कोई महत्वपूर्ण प्रदर्शन नहीं देखा गया।

+1

@strin क्या आपने MALI SDK में अंतिम sgemm संस्करण आज़माया है?

टेंसरफ़्लो लेट है! आह आह
https://gist.github.com/jarutis/ff28bca8cfb9ce0c8b1a

इसका रणनीति पर प्रभाव पड़ेगा: http://lists.llvm.org/pipermail/llvm-dev/2016-March/096576.html?
संपादित करें:
"StreamExecutor वर्तमान में Google के आंतरिक GPGPU अनुप्रयोगों के विशाल बहुमत के लिए रनटाइम के रूप में उपयोग किया जाता है, और इसका एक स्नैपशॉट ओपन-सोर्स TensorFlow_ प्रोजेक्ट में शामिल है, जहां यह GPGPU रनटाइम के रूप में कार्य करता है।"

+1

आशा है कि इस पर काम करने वाले लोग CUDNN वैकल्पिक समस्या को दूर करने में कामयाब होंगे, जब तक कि टेंसरफ़्लो 1.0 . के करीब न हो जाए

@martinwicke यह मुद्दा क्यों बंद है?

मुझे नहीं लगता कि आपकी प्रतिबद्धता इसे ठीक करती है।

आप हमेशा अलग-अलग रिपॉजिटरी में एक ही प्रतिबद्ध टिप्पणियों का उपयोग नहीं कर सकते;) https://github.com/tensorflow/skflow/issues/22

ओह गिटहब

@vrv अब जब आपने हमें हाइपर अधिसूचित किया है तो क्या आप स्ट्रीम निष्पादक रणनीति पर कुछ प्रतिक्रिया दे सकते हैं? ;)

मैं ओपनसीएल समर्थन की कमी सहित हर चीज के लिए गिटहब को दोष देने जा रहा हूं। ;)

@benoitsteiner हालांकि अधिक टिप्पणी करने में सक्षम हो सकता है। मैं वास्तव में नहीं जानता कि 'स्ट्रीम निष्पादक' रणनीति से आपका क्या मतलब है। हम वर्तमान में स्ट्रीम निष्पादक और CuDNN और Eigen के एक संस्करण का उपयोग करते हैं और वे सभी एक साथ अच्छा खेलते हैं, इसलिए मुझे यकीन नहीं है कि OpenCL की चीजों के लिए कोई योजना कैसे बदल गई है

मेरा मतलब:
"स्ट्रीम एक्ज़ीक्यूटर क्या है?
=======================
StreamExecutor CUDA और OpenCL होस्ट-साइड प्रोग्रामिंग मॉडल (रनटाइम) के आसपास एक एकीकृत आवरण है। यह होस्ट कोड को CUDA या OpenCL उपकरणों को समान रूप से काम करने वाले डेटा-समानांतर कर्नेल के साथ लक्षित करने देता है।"

डिब्बाबंद संचालन
==================
StreamExecutor सामान्य डेटा-समानांतर संचालन के लिए कई पूर्वनिर्धारित कर्नेल प्रदान करता है।
संचालन के समर्थित वर्ग हैं:

• बीएलएएस: मूल रैखिक बीजगणित उपप्रोग्राम,
• DNN: डीप न्यूरल नेटवर्क,
• एफएफटी: फास्ट फूरियर ट्रांसफॉर्म, और
• आरएनजी: यादृच्छिक संख्या पीढ़ी।

@keryell नमस्ते, मुझे Xilinx C++ या OpenCL जैसी उच्च स्तरीय प्रोग्रामिंग भाषाओं का उपयोग करके FPGA पर TensorFlow को लागू करने में भी रुचि है। अगर आपके पास कोई योजना है तो मुझे योगदान करने में खुशी हो रही है।

@henline क्या आप बता सकते हैं कि Opencl और प्रासंगिक डिब्बाबंद पर StreamExecutor की क्या भूमिका होगी?
Tensorflow के लिए संचालन। मैं अभी भी नहीं देख सकता कि यह कैसे Eigen और cudnn (प्रतिस्थापन?)

:+1: मैं भी इसमें योगदान देना चाहूंगा।

@bhack StreamExecutor CUDA रनटाइम और कुछ CUDA लाइब्रेरी (जैसे cublas या cudnn) के बराबर कार्यक्षमता प्रदान करता है। हालाँकि आपको अभी भी अपने GPU कर्नेल को लिखने की आवश्यकता है, जिसके लिए हम Eigen का उपयोग करते हैं।

@benoitsteiner तो क्या अभी भी दो गुठली लिखने की जरूरत है, एक CUDA के लिए और एक Opencl के लिए?

@benoitsteiner तो क्या आपके पास अभी भी आंतरिक रूप से tensorflow/tensorflow/stream_executor/opencl/प्रतिपक्ष नहीं है? "डिब्बाबंद ऑपरेटरों" के बारे में क्या?

@bhack Eigen आपको एक अभिव्यक्ति लिखने में सक्षम बनाता है जो उस गणना का वर्णन करता है जिसे आप एक बार करना चाहते हैं, और स्वचालित रूप से एक कर्नेल उत्पन्न करते हैं (जिसे हम मूल्यांकनकर्ता कहते हैं) सीपीयू पर उस अभिव्यक्ति का मूल्यांकन करने के लिए और एक अन्य कर्नेल एक CUDA डिवाइस पर अभिव्यक्ति का मूल्यांकन करने के लिए। एक बार हमारे पास ईजेन में ओपनसीएल के लिए समर्थन है (हम करीब आ रहे हैं), ओपनसीएल कर्नेल को स्वचालित रूप से उत्पन्न करना भी संभव होगा।
कुछ TensorFlow संचालन के लिए जो प्रदर्शन महत्वपूर्ण हैं (जैसे कि कनवल्शन), हम हाथ से अनुकूलित कर्नेल और/या तीसरे पक्ष के पुस्तकालयों का उपयोग करते हैं। इन मामलों में, हमें इन परिचालनों के अच्छे ओपनसीएल कार्यान्वयन की आवश्यकता होगी।

:+1:

क्या https://bitbucket.org/benoitsteiner/eigen-opencl में और कोड डालने की कोई योजना है? एससीएल कंपाइलर के बारे में क्या? ऐसा लगता है कि कोई ओपनसोर्स GPU लक्ष्य कार्यान्वयन जारी नहीं किया गया है।

@bhack @benoitsteiner
मैं जल्द ही Caffe पर OpenCL के लिए एक cuDNN प्रतिस्थापन (केवल कनवल्शन भाग, क्योंकि यह सबसे अधिक प्रदर्शन और ऐसा करने के लिए महत्वपूर्ण स्मृति है) जारी कर रहा हूँ। शायद यह Tensorflow पोर्ट के लिए भी कुछ काम आएगा।

@bhack : ओपनसीएल के मोर्चे पर कोडप्ले ने बहुत प्रगति की है। अगले कुछ हफ़्तों में https://bitbucket.org/benoitsteiner/eigen-opencl पर एक बड़ा धक्का देने के लिए बने रहें।

@ naibaf7 : कनवल्शन ऑपरेशन का तेजी से कार्यान्वयन TensorFlow में बेहद मददगार होगा। इसके लिए आगे देख रहे हैं।

@benoitsteiner अच्छा कैच, उन्हें कुर्सी मिल गई

@benoitsteiner मैं केवल क्यूडा कार्यान्वयन को कैसे हटा सकता हूं? क्योंकि '#ifdef GOOGLE_CUDA' इतना जटिल है। इसका मतलब कभी-कभी CUDA होता है, कभी-कभी इसका मतलब GPU होता है।

चूंकि इस मुद्दे ने रोडमैप पर अपना रास्ता बना लिया है (देखें _Platforms_): क्या हमें मोटे तौर पर इस बात का अंदाजा है कि OpenCL समर्थन TensorFlow को कब प्रभावित करेगा? संस्करण 0.9 / 1.0 की तरह? Q3/4 2016? या 2017 अधिक यथार्थवादी है?

@benoitsteiner क्या eigen-opencl https://bitbucket.org/benoitsteiner/eigen-opencl एक opencl टेंसर प्रवाह विकास का समर्थन करने के लिए पर्याप्त रूप से तैयार है?

क्या टेंसरफ़्लो केवल Eigen टेंसर पर निर्भर करता है या Eigen की कोई अन्य निर्भरताएँ हैं?

@NEELMCW कोडप्ले ने हाल ही में OpenCL के लिए Eigen Tensors के लिए आंशिक समर्थन जारी किया है। कोड इस बिटबकेट रिपॉजिटरी में उपलब्ध है। अधिकांश भाग के लिए, TensorFlow Eigen tensors पर निर्भर करता है। रैखिक बीजगणित संचालन के लिए ईजिन पर अतिरिक्त निर्भरताएं हैं, लेकिन हमें इन परिचालनों के लिए ओपनसीएल संगत कार्यान्वयन प्रदान करने की आवश्यकता नहीं है (कम से कम प्रारंभ में नहीं)। इसलिए हम TensorFlow में OpenCL का समर्थन शुरू करने के लिए बहुत अच्छी स्थिति में हैं।

यदि आप योगदान देने में रुचि रखते हैं, तो मैंने ट्रैक करना शुरू कर दिया है कि इस स्प्रैडशीट में क्या करने की आवश्यकता है

@benoitsteiner मैं एक सी ++ 11 ओपनसीएल बीएलएएस लाइब्रेरी (https://github.com/CNugteren/CLBlast) का लेखक हूं और वर्तमान में वहां आधा-सटीक समर्थन लागू कर रहा हूं। मुझे इस परियोजना के BLAS/GEMM भाग में योगदान करने और/या आपकी आवश्यकताओं को बेहतर ढंग से पूरा करने के लिए CLBlast को संशोधित करने में प्रसन्नता हो रही है।

@CNugteren
CLBlast अब OpenCL-Caffe में भी उपलब्ध है, क्या आपने इसे देखा है? :)
क्या आपको भी libDNN कनवल्शन देखने का मौका मिला है?

@ naibaf7 मैंने देखा, हाँ! :) मैंने अभी तक libDNN को नहीं देखा है, लेकिन मुझे यकीन नहीं है कि आपका क्या मतलब है। मुझे लगता है कि GEMM का उपयोग करके कनवल्शन लागू किया गया है?

@CNugteren
हां, मैंने सोचा था कि यह अच्छा होगा यदि आप इसे देखें और शायद libdnn पर कुछ सुधार या ट्यूनिंग टिप्स दें।
(https://github.com/naibaf7/caffe/blob/master/src/caffe/greentea/libdnn.cpp)।
यह जीईएमएम का उपयोग कर रहा है, लेकिन निहित (बीएलएएस के माध्यम से नहीं, कार्यसमूह स्तर पर केवल छोटे जीईएमएम) ताकि उच्च स्तर की समानता संभव हो, साथ ही साथ कोई मध्यवर्ती बफर आवश्यक नहीं है (डेटा को जीईएमएम योजना में अनियंत्रित करने के लिए)।

सभी को प्रणाम,

@benoitsteiner हमारे पुश का उल्लेख करने के लिए धन्यवाद! आशा है कि यह उपयोगी होगा!

इस कोड को संकलित करने के लिए, आपको एक SYCL कंपाइलर की आवश्यकता है। वर्तमान में, एकमात्र समर्थित कंपाइलर कोडप्ले का ComputeCpp है, जो कोडप्ले के मूल्यांकन कार्यक्रम के माध्यम से उपलब्ध है। ComputeCpp को सार्वजनिक ओपन बीटा के रूप में, बाद में 2016 में मुफ्त में उपलब्ध कराया जाएगा और फिर 2017 में एक मुफ्त संस्करण (ComuteCpp कम्युनिटी एडिशन) के साथ जारी किया जाएगा। यह किसी को भी OpenCL डिवाइस, जैसे AMD या Intel GPU पर TensorFlow को संकलित और विकसित करने देगा। और सीपीयू।

बीटीडब्ल्यू। क्या इस मुद्दे में ओपनसीएल लेबल नहीं होना चाहिए? :)

धन्यवाद,
ल्यूक

मैं वास्तव में आशा करता हूं कि इसे ओपनसोर्स टूल के साथ भी संकलित किया जा सकता है। @keryell यह आपकी नई ओपनक्ल शाखा के साथ कैसा चल रहा है

@bhack यह देखना अच्छा होगा कि क्या यह पहले सीपीयू ओपनएमपी होस्ट डिवाइस मोड में ट्राईएसवाईसीएल के साथ काम कर सकता है। लेकिन मेरे पास TensorFlow/Eigen बिल्ड सिस्टम rnow में प्रवेश करने के लिए बैंडविड्थ नहीं है। :-( अगर कोई कोशिश करना चाहता है, तो ऐसा करने में संकोच न करें। :-)

https://github.com/keryell/triSYCL/commits/opencl को OpenCL इंटरऑपरेबिलिटी मोड में जल्द ही OpenCL कर्नेल चलाने की अनुमति देनी चाहिए, लेकिन SYCL सिंगल सोर्स मोड में नहीं, जिसके बारे में हम सभी सपने देखते हैं क्योंकि हमारे पास अभी तक क्लैंग/एलएलवीएम आउटलाइनर नहीं है। SYCL से गुठली निकालने के लिए। लेकिन ख्रोनोस ने हाल ही में ओपनसीएल सी++ 2.2 और एसपीआईआर-वी का समर्थन करने के लिए एएमडी और इंटेल से घटकों को खोला, जो इसका आधार होगा। तो यह "सिर्फ" समय का सवाल है...

क्या कोई अनुमान दे सकता है कि Tensorflow OpenCL (AMD GPU) के साथ कब चल सकता है? और समय के साथ प्रदर्शन/उपयोगिता का वक्र कैसा दिखता है? पिछली सभी सूचनाओं को कार्रवाई योग्य हार्डवेयर खरीद जानकारी में पार्स करना मुश्किल है। :)

अग्रिम में धन्यवाद!

@djan92
मैं कहूंगा कि इसे एक वर्ष दें जब तक कि यह प्रयोग करने योग्य न हो, दुर्भाग्य से। ऐसा लगता है कि यह काफी अत्याधुनिक पुस्तकालयों और प्रौद्योगिकियों पर बनाया जा रहा है, उनमें से अधिकतर अभी तक तैयार नहीं हैं।
जैसे ही पूरा टूल स्टैक ओपनसोर्स के रूप में उपलब्ध होगा और पहले नहीं, मैं भी केवल जहाज पर कूदने जा रहा हूं।

@naibaf7

मैं कहूंगा कि इसे एक वर्ष दें जब तक कि यह प्रयोग करने योग्य न हो, दुर्भाग्य से। ऐसा लगता है कि यह काफी अत्याधुनिक पुस्तकालयों और प्रौद्योगिकियों पर बनाया जा रहा है, उनमें से अधिकतर अभी तक तैयार नहीं हैं।
जैसे ही पूरा टूल स्टैक ओपनसोर्स के रूप में उपलब्ध होगा और पहले नहीं, मैं भी केवल जहाज पर कूदने जा रहा हूं।

SYCL पोर्ट के तैयार होने की प्रतीक्षा करते हुए पहले CL संस्करण को लागू क्यों नहीं किया गया? मुझे लगता है कि यहां काफी लोग हैं जो मदद करने को तैयार हैं। एक साल अभी बहुत लंबा लगता है।

@djan92
हाँ, आप सही कह रहे हैं, #22 लगभग 8 महीने पुराना है और इसमें 100 से अधिक पोस्ट हैं! जानकारी की बाढ़ आ सकती है!

क्या कोई अनुमान दे सकता है कि Tensorflow OpenCL (AMD GPU) के साथ कब चल सकता है?

TensorFlow टेंसर गणना (टेन्सर मॉड्यूल में) के लिए Eigen लाइब्रेरी का उपयोग करता है। हमने SYCL (https://bitbucket.org/benoitsteiner/opencl शाखा कोडप्ले) का उपयोग करके OpenCL 1.2 के लिए आंशिक कार्यान्वयन किया है। इस काम के लिए हमने SYCL का उपयोग करने का कारण यह है कि TensorFlow का यह खंड C ++ एक्सप्रेशन ट्री का उपयोग करता है, जो कि OpenCL के लिए SYCL के साथ संभव है, लेकिन OpenCL C के साथ सीधे संभव नहीं है। TensorFlow के अन्य घटक, जैसे कि कनवल्शन या BLAS, सीधे OpenCL C का उपयोग कर सकते हैं।

वर्तमान में, मैं ComputeCpp (कोडप्ले के SYCL कंपाइलर) को बेज़ल बिल्ड सिस्टम में एकीकृत करने पर काम कर रहा हूँ। यह जल्द ही तैयार हो जाना चाहिए (इस रेपो का पालन करें: https://github.com/benoitsteiner/tensorflow-opencl/)। उसके बाद, TensorFlow को उन सिस्टम पर त्वरित किया जाना चाहिए जो ComputeCpp के साथ OpenCL SPIR (जैसे AMD या Intel) का समर्थन करते हैं। आगे का काम TensorFlow को और तेज करने के साथ-साथ अधिक OpenCL कार्यान्वयन और triSYCL ओपन-सोर्स SYCL का समर्थन करना जारी रखेगा। SYCL और OpenCL बहु-विक्रेता, रॉयल्टी-मुक्त खुले मानक हैं, इसलिए बहुत सारे प्लेटफ़ॉर्म और डिवाइस हैं जिन्हें इस दृष्टिकोण का उपयोग करके समर्थित किया जा सकता है (न कि केवल AMD GPU)।

ComputeCpp सामुदायिक संस्करण संकलक बाद में 2016 में मुफ्त में उपलब्ध होगा (बीटा रूप में: पूर्ण अनुरूपता 2017 की शुरुआत में मुफ्त में जारी की जाएगी)।

TensorFlow (जैसे BLAS और कनवल्शन) के गैर-C++ भागों को तेज करने का काम SYCL के बिना किया जा सकता है और अलग से लागू किया जा सकता है। विभिन्न हार्डवेयर विक्रेताओं के पास इन सुविधाओं के लिए अपने स्वयं के अनुकूलित पुस्तकालय हो सकते हैं जो त्वरण में सहायता कर सकते हैं। या, हम इन सुविधाओं के लिए Eigen का उपयोग C++ के साथ कर सकते हैं।

और समय के साथ प्रदर्शन/उपयोगिता का वक्र कैसा दिखता है?

हमें विश्वास है कि प्रदर्शन में लगातार सुधार होगा। विभिन्न प्रकार के उपकरणों में तेजी लाने के लिए, हमें डेटा को अधिक कुशलता से प्रबंधित करने की आवश्यकता है, यही कारण है कि काम का एक "प्रबंधित टेंसर" आइटम है, ताकि डेटा आंदोलन को होस्ट और कई उपकरणों के बीच अधिक कुशलता से प्रबंधित किया जा सके। यह अनुमान लगाना कठिन है कि उपकरणों की एक विस्तृत श्रृंखला में प्रदर्शन कैसे भिन्न होगा, अभी। वर्तमान में, बहुत कम त्वरित किया गया है, लेकिन हम TensorFlow में खुले मानक त्वरण की अनुमति देने के लिए बुनियादी ढाँचा लगा रहे हैं।

@naibaf7

मैं कहूंगा कि इसे एक वर्ष दें जब तक कि यह प्रयोग करने योग्य न हो, दुर्भाग्य से।

बुनियादी संचालन बहुत जल्द यहां होना चाहिए। हम खुले मानक-आधारित त्वरण का समर्थन करने के लिए बुनियादी ढांचे को कोड के भीतर रख रहे हैं। हमें विश्वास है कि सामुदायिक समर्थन से, एक त्वरित और प्रयोग करने योग्य संस्करण एक वर्ष से भी कम समय में तैयार हो जाएगा।

जैसे ही पूरा टूल स्टैक ओपनसोर्स के रूप में उपलब्ध होगा और पहले नहीं, मैं भी केवल जहाज पर कूदने जा रहा हूं।

ComputeCpp 2016 में सार्वजनिक रूप से मुफ्त में उपलब्ध होगा। ओपन-सोर्स ट्राईएसवाईसीएल समर्थन पीछे होना चाहिए। ओपन-सोर्स ओपनसीएल पहले से ही pocl, शैमरॉक, क्लोवर, बेगनेट के साथ समर्थित है।

@robertwgh
Eigen में C++ टेंसर कोड SYCL के बिना OpenCL C के लिए आसानी से पोर्टेबल नहीं होगा, लेकिन ऐसी अन्य विशेषताएं हैं जो OpenCL C पर अच्छी तरह से काम करेंगी। इस स्प्रेडशीट पर एक नज़र डालें: https://docs.google.com/spreadsheets/d /1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =0 और सामान्य ओपनसीएल सी (जैसे बीएलएएस और कनवल्शन) का उपयोग करने वाली सुविधाओं पर अपना नाम नि:शुल्क भरें।

हम सार्वजनिक रिलीज से पहले ComputeCpp के लिए मूल्यांकन संस्करण दे रहे हैं। यदि आप एक चाहते हैं, तो कृपया मुझे एक ईमेल छोड़ दें :)

@lukeiwanski ग्रेट, अपडेट के लिए धन्यवाद। मुझे आशा है कि आप इसे एक वर्ष से भी कम समय में पूरी तरह से चित्रित करने के बारे में सही हैं।

LLVM में Streamexecutor का एक और चरण

rx 480 पर त्वरण प्राप्त करने का कोई मौका?

@benoitsteiner
LibDNN स्टैंडअलोन एकीकरण के लिए उपलब्ध होगा:
https://github.com/naibaf7/libdnn

पढ़कर अच्छा लगा, इस पर काम किया जा रहा है। अगर बेगनेट 2.0 को पॉलिश किया जाता तो यह मदद करता। अभी स्काईलेक और आइरिस के साथ काफी संभावनाएं हैं।

हाल ही में एक पुल अनुरोध https://github.com/benoitsteiner/tensorflow-opencl/pull/1 पर जोड़ा गया था अगर कोई देखना चाहता है।

इमेजिनेशन (GPU) के OpenCL SDK को एक्सेस करने के लिए NDA की आवश्यकता है, हमारे पास केवल साझा लाइब्रेरी है। क्या इस काम के आधार पर टेंसरफ़्लो चलाना संभव है?

@ अलेफमैन
किसी भी ओपनसीएल प्रोग्राम को बनाने के लिए आपको विक्रेता विशिष्ट हेडर फाइलों की आवश्यकता नहीं है। किसी अन्य एसडीके से https://www.khronos.org/registry/cl/api/1.2/cl.hpp और opencl.h/cl.h से cl.hpp आज़माएं। उदाहरण के लिए - मेरे पास कम से कम 3 ओपनसीएल प्लेटफॉर्म हैं और यह सब एक साझा /usr/include/CL/cl.h के साथ काम करता है

हम अभी तक OpenCL पर चलने वाले TensorFlow का समर्थन नहीं करते हैं। यह प्रगति में एक काम है। वर्तमान में हम AMD GPU पर काम कर रहे हैं। PowerVR समर्थन का पालन करना चाहिए। यदि आप विकास में योगदान देना चाहते हैं तो आपको हमसे (कोडप्ले) सीधे संपर्क करना चाहिए। यदि आप PowerVR पर TensorFlow चलाना चाहते हैं, तो आपको थोड़ी और प्रगति की प्रतीक्षा करनी चाहिए।

@inferrna धन्यवाद, यह ओपनजीएल जैसा दिखता है जो विक्रेता विशिष्ट के कार्यान्वयन को छुपाता है।

@andrewrichards मुझे विकास में योगदान देना अच्छा लगता है, आपसे कैसे संपर्क किया जाए?

सबसे आसान यह है कि यदि आप यहां हमारे पेज पर "अपनी रुचि पंजीकृत करें" पर क्लिक करते हैं: https://www.codeplay.com/products/computecpp
यह आपको हमारे डेवलपर प्रोग्राम में ले जाएगा और हम इस पर एक साथ काम कर सकते हैं @alephman

यदि आप चाहते हैं कि आप एक ओपनसोर्स विकल्प के साथ संकलन करने के लिए भी सहभागी कर सकते हैं। देखें https://github.com/tensorflow/tensorflow/issues/22#issuecomment -221841173

हेलो सब लोग!
Nvidia Cuda के बाहर Tensorflow समर्थन को विस्तारित करते हुए सुनकर बहुत खुशी हुई। मुझे आश्चर्य है कि क्या आप इसे इस तरह एपीयू पर काम करने पर विचार करते हैं: http://www.amd.com/en-us/products/processors/laptop-processors#sectionOne ?

@kgocheva
एपीयू सीपीयू और जीपीयू दोनों भाग के लिए ओपनसीएल का समर्थन करते हैं।
ओपनसीएल समर्थन तैयार होने पर यह बॉक्स से काफी बाहर काम करना चाहिए।
इस बीच, यदि आपके पास पहले से ही APU है और आप किसी अन्य ML ढांचे को आज़माना चाहते हैं, तो BVLC OpenCL Caffe पहले से ही काम कर रहा है।

@ naibaf7 स्पष्टीकरण के लिए धन्यवाद। मैं स्थानीय रूप से Tensorflow चलाने के लिए लागत प्रभावी हार्डवेयर/सॉफ़्टवेयर संयोजन देख रहा हूं और निश्चित रूप से OpenCL विकास प्रगति का पालन करूंगा।

@ ह्यूगपरकिंस
हां एक मुद्दा हो सकता है, लेकिन मुझे लगता है कि im2col/col2im और अन्य संकल्प कार्यान्वयन जैसे हिस्सों को बाहरी एपीआई के रूप में भी प्लग किया जा सकता है यदि यह वास्तव में जीसीएलए के साथ एक मुद्दा है। यह इस तरह के काम के मूल लेखकों के लिए भी बेहतर हो सकता है।

@hughperkins हम OpenCL 1.2 के लिए SYCL के माध्यम से OpenCL को TensorFlow में लाने पर काम कर रहे हैं।
कृपया "todos" और प्रगति के लिए https://docs.google.com/spreadsheets/d/1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =1625897530 पर एक नज़र डालें।
हाल ही में हमने SYCL https://www.codeplay.com/products/computesuite/computecpp के लिए ComputeCpp कम्युनिटी एडिशन नामक एक कंपाइलर जारी किया। लोग इसे आजमा सकते हैं!
साथ ही, हम Eigen लाइब्रेरी https://bitbucket.org/benoitsteiner/opencl/branch/ComputCpp पर ध्यान केंद्रित कर रहे हैं - इसे TensorFlow के MNIST द्वारा आवश्यक चरण तक पहुँचाना - कुछ चीजें शेष हैं।
बाधाओं के लिए, वर्तमान ComputeCpp CE रिलीज़ का परीक्षण Intel (CPU, GPU) और AMD (CPU, GPU) के लिए किया गया है, क्योंकि उन प्लेटफार्मों के लिए जो हम Ubuntu 14.04 64bit और CentOS 64bit का समर्थन करते हैं।
ComptueCpp मुफ्त में डाउनलोड करने योग्य है और इसका उपयोग वाणिज्यिक और ओपन सोर्स प्रोजेक्ट्स में किया जा सकता है।
क्योंकि हम <3 समुदाय खोलते हैं :)

@lukeiwanski थ्रेड में इस पर चर्चा/पूछने के लिए क्षमा करें, लेकिन मुझे लगता है कि यह दूसरों के लिए भी रूचिकर हो सकता है: मैं समझता हूं कि कोडप्ले ओपनसीएल कार्यान्वयन के लिए एसवाईसीएल में अत्यधिक रूचि रखता है और मैंने पहले ही दूसरों को इस काम में दिलचस्पी लेने के बारे में सुना है तुम भी। उदाहरण के लिए मैंने एक Movidius अधिकारी द्वारा कुछ पोस्ट पढ़ी। हालांकि, मैं पूछना चाहूंगा कि इसमें Google का वास्तव में क्या योगदान है? चूंकि Movidius, AMD और अन्य के अलावा, कोडप्ले के भागीदारों के रूप में सूचीबद्ध हैं, मैं समझ सकता हूँ कि वे OpenCL के लिए SYCL को प्रोत्साहित करते हैं या समर्थन भी करते हैं, लेकिन जहाँ तक मुझे इसकी जानकारी है, Google आपका भागीदार नहीं है और अब तक योगदान नहीं दिया है?!

मुझे गलत मत समझो, मुझे वास्तव में आपका काम पसंद है, लेकिन क्या आपके प्रयासों को समेकित करना, संसाधनों को जमा करना और Google के साथ मिलकर काम करने का प्रयास करना एक अच्छा विचार नहीं होगा? मेरे लिए ऐसा लगता है कि कई अलग-अलग पार्टियां TensorFlow के लिए OpenCL में रुचि रखती हैं, लेकिन एक बड़ी क्षमता का उपयोग नहीं किया जाता है, क्योंकि ये पार्टियां एक साथ विकसित नहीं होती हैं ?!

मैं गलत हो सकता हूं और यदि इस पर पर्याप्त रूप से चर्चा की गई है तो कृपया स्वयं से क्षमा मांगें, लेकिन मैं अभी भी Google (या अन्य पार्टियों) द्वारा इस पर एक साथ काम करने के किसी भी बड़े प्रयास से अनजान हूं और इसके परिणामस्वरूप, मैं अभी भी इस बात से अनजान हूं कि समुदाय कैसे प्रत्यक्ष योगदान, परीक्षण या अन्य चीजों के माध्यम से (एकल व्यक्तियों की तरह) मदद या समर्थन कर सकता है।

@ascenator हम Google में इस परियोजना पर ल्यूक और उनके कोडप्ले सहयोगियों के साथ करीब 12 महीनों से मिलकर काम कर रहे हैं। इस प्रयास में कोडप्ले का योगदान जबरदस्त रहा है, इसलिए हमने महसूस किया कि जब ओपनसीएल से संबंधित अपडेट को संप्रेषित करने की बात आती है तो हमें उन्हें आगे बढ़ने देना चाहिए। यही कारण है कि आपने इस विषय पर हमसे बहुत कुछ नहीं सुना है :)

अब जबकि ComputeCpp कंपाइलर व्यापक रूप से उपलब्ध है, हम अब तक किए गए कार्यों को मर्ज करने की योजना बना रहे हैं। लेकिन पहले हम यह सुनिश्चित करने के लिए एक व्यापक परीक्षण बुनियादी ढांचे को एक साथ रखना चाहते हैं कि हम बाहर निकलने वाले कोडबेस को अस्थिर न करें।

हम इस प्रयास में सभी योगदानों का स्वागत करते हैं, इसलिए यदि आप मदद करना चाहते हैं तो मुझसे बेझिझक संपर्क करें। हम विशेष रूप से मैट्रिक्स गुणन और कनवल्शन के लिए उच्च प्रदर्शन ओपनसीएल कर्नेल में रुचि रखते हैं। कई उम्मीदवारों का सुझाव दिया गया है, लेकिन हमने प्रत्येक के पेशेवरों और विपक्षों को देखना शुरू नहीं किया है या उन्हें कैसे एकीकृत किया जाए।

@benoitsteiner स्पष्टीकरण के लिए बहुत बहुत धन्यवाद और मेरी गलत सूचना के लिए खेद है! यह बहुत अच्छा और आशाजनक लगता है! मैं निश्चित रूप से ComputeCpp पर एक नज़र डालूंगा। मैं वास्तव में TensorFlow के लिए OpenCL समर्थन की प्रतीक्षा कर रहा हूं, क्योंकि यह रोबोटिक्स के लिए बहुत सी नई संभावनाएं प्रदान करता है (जो वह क्षेत्र है जहां मैं गहन शिक्षण अनुप्रयोगों के लिए TensorFlow पर शोध और उपयोग कर रहा हूं)। मैं कम से कम शुरुआती रिलीज पर एक नज़र डालूंगा और परीक्षण/डीबग करने का प्रयास करूंगा। हमारे पास कुछ इंटेल चिप्स और कई एआरएम सीपीयू हैं जो परीक्षणों की प्रतीक्षा कर रहे हैं;)

@hughperkins ... क्षमा करें, लेकिन क्या यह पूरी तरह से विषय से दूर नहीं है? मैं नहीं देखता कि यह ओपनसीएल टीएफ में कैसे प्रासंगिक है?

मुझे यहां यह जानने में अधिक दिलचस्पी है कि क्या मैट्रिक्स गुणन और कनवल्शन कर्नेल के लिए एक ट्यूनिंग दृष्टिकोण लिया जाएगा और यदि कॉम्पिटेसीपी के लिए एक वैध ओपन सोर्स विकल्प होगा जो एसपीआईआर-वी का उत्पादन करेगा।

http://llvm.org/docs/CompileCudaWithLLVM.html

दो नए क्रोनोस समूह मानक https://www.khronos.org/news/press/khronos-launches-dual-neural-network-standard-initiatives पर जारी किए गए हैं

यदि यह मदद करता है, तो इसहाक का एक बेहतर संस्करण आ गया है: https://github.com/ptillet/isaac , और मैक्सवेल, पास्कल और फिजी पर clBLAS और cuBLAS पर महत्वपूर्ण गति-अप प्रदान करता है। 1D और 2D कटौती के लिए Tensorflow की तुलना में तेज़ (इनपुट-जागरूक) कर्नेल भी प्रदान करता है।

@hughperkins लगता है कि आपके पास CUDA-OpenCL अनुवादक के बजाय किसी भी OpenCL डिवाइस के लिए CUDA कंपाइलर लिखने की अधिक संभावना है।

@hughperkins शायद OpenCL 2.0 की SVM सुविधा सूचक समस्या को हल कर सकती है? चूंकि एनवीडिया (एएमडी, इंटेल, एआरएम, क्वालकॉम) के अलावा हर कोई ओपनसीएल 2.0 का समर्थन करना शुरू कर रहा है। शायद यह एक अच्छा समाधान है?

@hughperkins यह एक ब्लास कार्यान्वयन ही है। यह clblas और cublas हेडर में कुछ प्रतीकों को लागू करता है ताकि कोई पुनर्संयोजन और कोड संशोधन न हो। आवश्यक है। मैं clblast.h के लिए कुछ प्रतीकों को भी लागू कर सकता था, क्योंकि यह एक अलग शीर्षलेख का उपयोग करता है। इसहाक के कुछ फायदे हैं:

• पूरी तरह से गतिशील, ताकि यह बिना किसी संकलन के CUDA या OpenCL दोनों का उपयोग कर सके।
• इनपुट-जागरूक, यह बड़े वर्ग मैट्रिक्स के लिए कर्नेल को ट्यून नहीं करता है। इसे उन सभी आकृतियों पर अच्छा प्रदर्शन करना चाहिए जिनके बारे में आप सोच सकते हैं बिना पुन: ट्यून किए।
• सी ++ एपीआई numpy/arrayfire के समान। कटौती के साथ तत्ववार संचालन के संयोजन के लिए कुछ संलयन

@मार्टी1885
ज़रुरी नहीं। AMD, AMDGPU-PRO ड्राइवरों पर 1.2 समर्थन पर वापस चला गया। पूर्ण 2.0 समर्थन व्यापक होने तक कुछ समय हो सकता है। निश्चित रूप से वहां कोई अल्पकालिक समाधान नहीं है।

• हां
• यदि आवश्यक हो तो मैं संचालन के एक समूह के लिए संगतता हैक कर सकता हूं (उदाहरण के लिए, आगे **एमवी से जीईएमवी)। जटिल समर्थन मुश्किल होगा। डबल सपोर्ट पहले से ही यहां है लेकिन इसके लिए कोई आर्किटेक्चर ट्यून नहीं किया गया है।

@ ह्यूगपरकिंस

ऐसा लगता है कि मेरा कोड किसी भी स्पष्ट ओपनसीएल नियमों का उल्लंघन नहीं करता है

हां, स्पष्ट रूप से किसी भी __global संरचना (जैसे सरणी या संरचना) को पास करना गलत है क्योंकि वे पॉइंटर्स किसी अन्य डिवाइस की मेमोरी को इंगित कर सकते हैं (ओपनसीएल मल्टी-डिवाइस प्रतिमान का समर्थन करता है जहां एक डिवाइस दूसरे की मेमोरी तक नहीं पहुंच सकता है)। लेकिन ऐसा लगता है कि आईआर स्तर पर, ओपनसीएल कोड में इंटरमीडिएट अनुवाद w/o पर काबू पाना संभव है - यही मैंने माना :)

@benoitsteiner , @henline , https://github.com/henline/streamexecutordoc से, यह सुझाव देता है कि स्ट्रीम एक्सक्यूटर ने सीएल संस्करण डिब्बाबंद ऑपरेशन (जैसे डीएनएन, बीएलएएस) आउट-ऑफ-बॉक्स का समर्थन किया है। क्या यह सुझाव देता है कि Google के पास पहले से ही clDNN, clBLAS कार्यान्वयन Tensorflow के लिए तैयार है, लेकिन अभी तक इसे खुला स्रोत नहीं है?

अन्यथा OpenCL 2.0+ और SYCL 2.2 SVM का समर्थन करते हैं, यदि आप समान सॉफ़्टवेयर आर्किटेक्चर रखना चाहते हैं।
OpenCL 2.0+ उदाहरण के लिए AMD और Intel GPU द्वारा समर्थित है। एम्बेडेड दुनिया में, ओपनसीएल 1.x के साथ भी इसे अक्सर साइड इफेक्ट द्वारा समर्थित किया जाता है, क्योंकि लागत कारणों से होस्ट और डिवाइस की यादें अक्सर समान होती हैं।

@ केरीएल
लेकिन सबसे उल्लेखनीय प्लेटफॉर्म, लिनक्स + नए एएमडी जीपीयू (आरएक्स 480, आगामी वेगा) अभी के लिए केवल ओपनसीएल 1.2 का समर्थन करते हैं ... और कौन जानता है कि यह कब बदलने वाला है (मेरी शर्त एक वर्ष में चालू है)। ओपनसीएल 2.0 के लिए बेगनेट (ओपनसोर्स लिनक्स इंटेल) अभी भी एक छोटी सी गड़बड़ी है; स्थिर संस्करण में 1.2 है।
ओपनसीएल संगत चिप्स बनाने वाली सभी छोटी कंपनियों को भी मुश्किल से 1.2 समर्थन मिल रहा है। तो मुझे लगता है कि ओपनसीएल 2.0 पर निर्भर कुछ भी व्यवहार में बहुत खराब अनुकूलन दर देखेगा।

मुझे लगता है.. किसी भी हार्डवेयर विक्रेता को SPIR-V का उपभोग करने की अत्यावश्यकता है? मुझे लगता है कि वल्कन पर ग्राफिक/शेडर्स का दबाव ओपनक्ल पक्ष की मदद कर सकता है ..

@ naibaf7 ओपनसीएल 2 पर चर्चा पर वापस जाने के लिए या नहीं, किसी बिंदु पर वास्तविक चीजों को वितरित करना होगा ... अन्यथा पहले से ही nVidia GPU और CUDA है जिसमें TensorFlow चल रहा है ... :-)
लेकिन निश्चित रूप से, SVM के बिना TensorFlow के एक संस्करण में कुछ रुचि है।

@keryell ड्राइवरों पर कितना Vulkan SPIR-V काम करता है (जिसमें पहले से ही एक अच्छा डिवाइस कवरेज है) क्या आपको लगता है कि आधुनिक ओपनक्ल संस्करणों को धक्का देगा?

@ naibaf7 Khronos बैठक अगले सप्ताह सियोल में OpenCL और Vulkan दोनों लोगों के साथ है, लेकिन चर्चा सार्वजनिक नहीं है। लेकिन यह एक अच्छा विचार लगता है कि प्रत्येक दुनिया को दूसरे को बेहतर बनाने के लिए, और कुछ बिंदु पर TensorFlow को लाभ होता है। :-)

@ केरीएल
हां, मुझे आशा है कि वे कुछ डीप लर्निंग लाभकारी सामग्री पर चर्चा करेंगे :)

बधाई! एचआईपी परियोजना की जांच करना सुनिश्चित करें, क्योंकि उन्होंने उसी समस्या को हल करने का प्रयास किया था। उन्होंने एचआईपी नामक एक नई भाषा बनाने का विकल्प चुना, जो परिभाषित करता है कि मैन्युअल रूप से क्या परिवर्तित करने की आवश्यकता है (जैसे गणना स्तर की जांच करके डबल सटीक समर्थन की जांच करना)। जबकि परियोजना आगे बढ़ती है, मैन्युअल अनुवादों की मात्रा कम हो जाएगी। देखें: https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP

आपके लिए मेरा सुझाव है कि आप HIP का उपयोग करें और कुछ बगों को ठीक करें जो Tensorflow या अपने स्वयं के लक्ष्यों को आगे बढ़ाने के लिए अवरुद्ध कर रहे हैं, क्योंकि अब आपके पास इसे करने के लिए LLVM की समझ है। इस तरह आपको पहले से तय की गई समस्याओं को हल करने की ज़रूरत नहीं है।

@ ह्यूगपरकिंस
इस https://github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/get_started/os_setup.md#create -the-pip-package-and-install के बाद आपके कांटे के साथ अजगर मॉड्यूल का निर्माण नहीं कर सकता

INFO: From Compiling tensorflow/core/kernels/gather_functor_gpu.cu.cc:
gpus/crosstool: -x cuda
gpus/crosstool: using cocl
gpus/crosstool: PATH=/usr/bin:/usr/local/bin /usr/local/bin/cocl -D_FORCE_INLINES -gencode=arch=compute_30,\"code=sm_30,compute_30\"   -U_FORTIFY_SOURCE -D_FORTIFY_SOURCE=1 -DNDEBUG -DEIGEN_MPL2_ONLY -std=c++11  -I. -Ibazel-out/local_linux-py3-opt/genfiles -Iexternal/bazel_tools -Ibazel-out/local_linux-py3-opt/genfiles/external/bazel_tools -Iexternal/eigen_archive -Ibazel-out/local_linux-py3-opt/genfiles/external/eigen_archive  --compiler-bindir=/usr/bin/gcc -I . -fPIC  -x cu  -O2 -c  -o bazel-out/local_linux-py3-opt/bin/tensorflow/core/kernels/_objs/gather_functor_gpu/tensorflow/core/kernels/gather_functor_gpu.cu.pic.o tensorflow/core/kernels/gather_functor_gpu.cu.cc
dirname: invalid option -- 'O'
Try 'dirname --help' for more information.

मैं ubuntu 16.04 पर हूँ, dirname coreutils-8.25-2ubuntu2 से है

@hughperkins मुझे लगता है कि इस निर्देश के साथ अपने भंडार पर TF dockerfile को ट्विक करने से दूसरों के लिए सेटअप आसान हो सकता है।

हां, जब कुछ और फंक्शनल होगा। मूल रूप से यह आपके द्वारा पोस्ट किए गए निर्देशों की काफी कॉपी और अतीत है।

मैं इसे MacOS 10.10.5 पर मैकबुक पर 2015 के अंत में अति 6770M (ओपनसीएल 1.2) के साथ बनाने का प्रयोग कर रहा हूं।

मैंने एक्सकोड 8, एनाकोंडा (पायथन 3.5), और मैकपॉर्ट्स क्लैंग + एलवीएम के समकक्ष स्थापित किए हैं:

उपयुक्त लाइनों के बजाय, करें:

सुडो पोर्ट क्लैंग-3.8 llvm-3.8 . स्थापित करें

/proc/cpuinfo का उपयोग करने के बजाय, करें:

NUM_PROCS=$(system_profiler SPHardwareDataType | grep "कुल संख्या में कोर" | कट-डी ":" -f 2)

फिर मैकपोर्ट का उपयोग करने के लिए मेकफ़ाइल को संशोधित करें और मेक . चलाएं

perl -pi.bak -e 's|(CLANG)=.+|$1=/opt/local/libexec/llvm-3.8/bin/clag++|' मेकफ़ाइल
perl -pi -e 's|(LLVM_CONFIG)=.+|$1=/opt/local/bin/llvm-config-mp-3.8|' मेकफ़ाइल
perl -pi -e 's|(LLVM_INCLUDE)=.+|$1=/opt/local/libexec/llvm-3.8/include|' मेकफ़ाइल

Macos OpenCL dirs में अद्यतन; भविष्य: उपयोग /System/Library/Frameworks/OpenCL.framework/Versions/Current/Headers/cl.h '#ifdef APPLE ' सशर्त

grep -Rl 'include "CL/' * | xargs perl -pi.bak -e 's|include "CL/|include"OpenCL/|g'
मेक-जे ${NUM_PROCS}

यह जहाँ तक मुझे मिलता है:

$ मेक-जे ${NUM_PROCS}
एमकेडीआईआर-पी बिल्ड
एमकेडीआईआर-पी बिल्ड
एमकेडीआईआर-पी बिल्ड
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/hostside_opencl_funcs.o -std=c++11 -fPIC -g -O2 -I pwd /include -I pwd /src/EasyCL src/hostside_opencl_funcs.cpp
/opt/स्थानीय/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-अपवाद -c -o बिल्ड/म्यूटेशन.o -g -I/opt/local/libexec/llvm-3.8/include src/mutations.cpp
/opt/स्थानीय/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-अपवाद-c -o बिल्ड/struct_clone.o -g -I/opt/local/libexec/llvm-3.8/include src/struct_clone.cpp
/opt/स्थानीय/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-अपवाद-c -o बिल्ड/readIR.o -g -I/opt/local/libexec/llvm-3.8/include src/readIR.cpp
src/hostside_opencl_funcs.cpp:17 से शामिल फ़ाइल में:
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl.h:91:16: चेतावनी: 'होस्ट' विशेषता पर ध्यान नहीं दिया गया [-विग्नोर-एट्रिब्यूट्स]
विशेषता ((होस्ट)) इनलाइन अहस्ताक्षरित लंबी लंबी परमाणुएक्सच (अस्थिर अहस्ताक्षरित लंबी लंबी _p, अहस्ताक्षरित लंबी लंबी वैल) {
^
src/hostside_opencl_funcs.cpp:194:33: त्रुटि: सदस्य फ़ंक्शन 'इन' में कॉल अस्पष्ट है
launchConfiguration.kernel->in(offset);
~~~~~~~~ ^ ~ _ _
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:101:15: नोट: कैंडिडेट फंक्शन
CLKernel in(फ्लोट वैल्यू);^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:104:15: नोट: कैंडिडेट फंक्शनCLKernel *in(int32_t value);^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:106:15: नोट: कैंडिडेट फंक्शनCLKernel *in(int64_t value);^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:108:15: नोट: कैंडिडेट फंक्शनCLKernel *in(uint64_t value);^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:110:15: नोट: कैंडिडेट फंक्शनCLKernel *in(uint32_t value);^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:73:15: नोट: उम्मीदवार कार्य व्यवहार्य नहीं: 'size_t' से कोई ज्ञात रूपांतरण नहीं (उर्फ 'अहस्ताक्षरित लंबा' ') से 'ईज़ीसीएल :: CLArray *'पहले तर्क के लिएCLKernel *in(CLArray *clarray1d) {रिटर्न इनपुट (clarray1d);



}^/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/src/EasyCL/CLKernel.h:91:36: नोट: उम्मीदवार फ़ंक्शन टेम्प्लेट व्यवहार्य नहीं है: 2 तर्कों की आवश्यकता है, लेकिन 1 प्रदान किया गया थाटेम्पलेटCLKernel *in(int N, const T *data);^1 चेतावनी और 1 त्रुटि उत्पन्न।बनाना: *_* [बिल्ड/hostside_opencl_funcs.o] त्रुटि 1बनाना: * *अधूरे कामों का इंतजार....
src/struct_clone. cpp:245 :12: चेतावनी: 11 गणना मान स्विच में हैंडल नहीं किए गए: 'HalfTyID', 'X86_FP80TyID', 'FP128TyID'... [-Wswitch]
स्विच (टाइपआईडी) {
^
1 चेतावनी उत्पन्न।

launchConfiguration.kernel->in((int64_t)offset);

यह पैच काम कर गया। धन्यवाद।

इसे लागू करने के बाद, निर्माण जारी रखने के परिणामस्वरूप size_t नामस्थान त्रुटियाँ हुईं:

$ मेक-जे ${NUM_PROCS}
एमकेडीआईआर-पी बिल्ड
एमकेडीआईआर-पी बिल्ड
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/hostside_opencl_funcs.o -std=c++11 -fPIC -g -O2 -I pwd /include -I pwd /src/EasyCL src/hostside_opencl_funcs.cpp
/opt/स्थानीय/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-अपवाद-ओ बिल्ड/ir-to-opencl -g -I/opt/local/libexec/llvm-3.8/include src/ir-to-opencl.cpp बिल्ड/स्ट्रक्चर_क्लोन .o बिल्ड/readIR.o src/ir-to-opencl-common.cpp बिल्ड/म्यूटेशन.o /opt/local/bin/llvm-config-mp-3.8 --ldflags --system-libs --libs all
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_events.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_events.cpp
/opt/स्थानीय/libexec/llvm-3.8/bin/clang++ -I/usr/lib/llvm-3.8/include -fPIC -fvisibility-inlines-hidden -ffunction-sections -fdata-sections -g -D_GNU_SOURCE -D__STDC_CONSTANT_MACROS -D__STDC_FORMAT -D__STDC_LIMIT_MACROS -std=c++11 -fcxx-अपवाद-ओ बिल्ड/पैच-होस्टसाइड-जी-आई/ऑप्ट/स्थानीय/libexec/llvm-3.8/include src/patch-hostside.cpp बिल्ड/readIR.o बिल्ड/ म्यूटेशन.ओ बिल्ड/स्ट्रक्चर_क्लोन.ओ src/ir-to-opencl-common.cpp /opt/local/bin/llvm-config-mp-3.8 --ldflags --system-libs --libs all
फ़ाइल में src/hostside_opencl_funcs से शामिल है। सीपीपी:17 :
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl.h:91:16: चेतावनी: 'होस्ट' विशेषता पर ध्यान नहीं दिया गया [-विग्नोर-एट्रिब्यूट्स]
विशेषता ((होस्ट)) इनलाइन अहस्ताक्षरित लंबी लंबी परमाणुएक्सच (अस्थिर अहस्ताक्षरित लंबी लंबी _p, अहस्ताक्षरित लंबी लंबी वैल) {
^
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_blas.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_blas.cpp
1 चेतावनी उत्पन्न।
/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_error.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_error.cpp
फ़ाइल में src/cocl_blas से शामिल है। सीपीपी:15 :
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl_blas.h:8:9: एरर: नेमस्पेस 'std' में 'size_t' नाम का कोई टाइप नहीं; क्या आपका मतलब बस 'size_t' था?
टाइपपीफ एसटीडी :: size_t cublasStatus_t;
^ ~ ~
size_t
/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: नोट: 'size_t' यहां घोषित किया गया है
टाइपपीफ SIZE_TYPE size_t;
^
फ़ाइल में src/cocl_blas से शामिल है। सीपीपी:15 :
/Users/erybski/git/tensorflow-cl/third_party/cuda-on-cl/include/cocl/cocl_blas.h:17:5: एरर: नेमस्पेस 'std' में 'size_t' नाम का कोई टाइप नहीं; क्या आपका मतलब बस 'size_t' था?
std::size_t cublasCreate(cublasHandle_t phandle);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: नोट: 'size_t' यहां घोषित किया गया हैटाइपपीफ SIZE_TYPE size_t;^फ़ाइल में src/cocl_blas से शामिल है।
क्या आपका मतलब बस 'size_t' था?std::size_t cublasDestroy (cublasHandle_t हैंडल);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: नोट: 'size_t' यहां घोषित किया गया हैटाइपपीफ SIZE_TYPE size_t;^फ़ाइल में src/cocl_blas से शामिल है।
क्या आपका मतलब बस 'size_t' था?std::size_t cublasSgemm(cublasHandle_t blas, int transA, int transB, int M, int N, int K,^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: नोट: 'size_t' यहां घोषित किया गया हैटाइपपीफ SIZE_TYPE size_t;^फ़ाइल में src/cocl_blas से शामिल है।
क्या आपका मतलब बस 'size_t' था?std::size_t cublasSetPointerMode(cublasHandle_t हैंडल, cublasPointerMode_t मोड);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: नोट: 'size_t' यहां घोषित किया गया हैटाइपपीफ SIZE_TYPE size_t;^फ़ाइल में src/cocl_blas से शामिल है।
क्या आपका मतलब बस 'size_t' था?std::size_t cublasGetPointerMode(cublasHandle_t हैंडल, cublasPointerMode_t *mode);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: नोट: 'size_t' यहां घोषित किया गया हैटाइपपीफ SIZE_TYPE size_t;^फ़ाइल में src/cocl_blas से शामिल है।
क्या आपका मतलब बस 'size_t' था?std::size_t cublasSetStream (cublasHandle_t हैंडल, cudaStream_t streamId);^ ~ ~size_t/opt/local/libexec/llvm-3.8/bin/../lib/clang/3.8.1/include/stddef.h:62:23: नोट: 'size_t' यहां घोषित किया गया हैटाइपपीफ SIZE_TYPE size_t;^/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_memory.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_memory.cpp/opt/local/libexec/llvm-3.8/bin/clang++ -c -o build/cocl_device.o -std=c++11 -fPIC -g -O2 -I pwd /src/CLBlast/include -I pwd /include -I pwd /src/EasyCL src/cocl_device.cpp7 त्रुटियाँ उत्पन्न।बनाना: *_* [बिल्ड/cocl_blas.o] त्रुटि 1बनाना:* *अधूरे कामों का इंतजार....

क्या हम धागे को अभी भी पठनीय होने देने के लिए जिस्ट पर लंबे लॉग को आगे बढ़ा सकते हैं?

प्रश्न: आप लोग एड्रेस स्पेस के मुद्दे को कैसे हल कर रहे हैं?

@hughperkins एसवाईसीएल चश्मा खंड 5.8 ("पता-स्थान कटौती") में वर्णित है
विभिन्न मेमोरी प्रकारों से निपटने के लिए कार्यान्वयन की आवश्यकता कैसे होती है। इस
PlayStation 3 के लिए किए गए पिछले कार्य के समान है और इसमें वर्णित है
यह पेपर: ऑफलोड - ऑटोमेटिंग कोड माइग्रेशन टू हेटेरोजेनियसमल्टीकोर सिस्टम या सी ++: क्लैंग का उपयोग करके सिंगल-सोर्स एसवाईसीएल और एचएसए प्रोग्रामिंग मॉडल का समर्थन करना

उम्मीद है की वो मदद करदे।

@hughperkins क्या मैं अपने एआरएम बोर्ड को लागू करने के लिए आपके टेंसरफ्लो-ओपनसीएल रेपो कोड को संकलित कर सकता हूं? माई एआरएम बोर्ड में इमेजिनेशन जीपीयू है जो ओपनक्ल 1.2 का समर्थन करता है।

टीएफ/इंटेल समर्थन की खोज करते समय मैं इस धागे पर ठोकर खाई।

मेरे पास एक इंटेल मैकबुक प्रो है, मैं कैसे मदद कर सकता हूं? मुझे सी/सी ++ नहीं पता, लेकिन मैं बिल्ड/संकलन/परीक्षण निर्देशों का पालन कर सकता हूं और बैक (पेस्टबिन) परिणाम पास कर सकता हूं ...

डेरेक$ system_profiler SPDisplaysDataType
ग्राफिक्स/डिस्प्ले:

Intel Iris:

  Chipset Model: Intel Iris
  Type: GPU
  Bus: Built-In
  VRAM (Dynamic, Max): 1536 MB
  Vendor: Intel (0x8086)
  Device ID: 0x0a2e
  Revision ID: 0x0009
  Metal: Supported
  Displays:
    Color LCD:
      Display Type: Retina LCD
      Resolution: 2560 x 1600 Retina
      Retina: Yes
      Pixel Depth: 32-Bit Color (ARGB8888)
      Main Display: Yes
      Mirror: Off
      Online: Yes
      Automatically Adjust Brightness: Yes
      Built-In: Yes
    PL2202W:
      Resolution: 1680 x 1050 @ 60 Hz
      Pixel Depth: 32-Bit Color (ARGB8888)
      Display Serial Number: 05884C7A57014
      Mirror: Off
      Online: Yes
      Rotation: Supported
      Adapter Type: Apple Mini DisplayPort To VGA Adapter
      Automatically Adjust Brightness: No
      Adapter Firmware Version: 1.03

@hughperkins आपके निर्देशों के लिए धन्यवाद!
मैं आपके cuda-on-cl को आर्म प्लेटफॉर्म पर संकलित करने का प्रयास करता हूं। आपके cuda-on-cl की मार्गदर्शिका के बाद:
मेरे एआरएम बोर्ड की जानकारी:
आर्म 64, जीसीसी 4.9, क्लैंग और एलवीएम 3.5, ओपनसीएल 1.2

* क्या मुझे क्लैंग ++ - 3.8 संस्करण का उपयोग करना है? *
git क्लोन --recursive https://github.com/hughperkins/cuda-on-cl
बनाना
त्रुटि:
क्लैंग ++ - 3.8: कमांड नहीं मिली
मैं मेकफ़ाइल को इस तरह संपादित करता हूं: CLANG=clang++ LLVM_CONFIG=llvm-config LLVM_INCLUDE=/usr/include/llvm
फिर बनाएं:
त्रुटि:
src/mutations.h:3:10: घातक त्रुटि: 'llvm/IR/Module.h' फ़ाइल नहीं मिली

रन बनाने का प्रयास करें रन-टेस्ट-cocl-cuda_sample:
बनाना: cocl: कमांड नहीं मिली

@hughperkins मुझे इसे आज़माने दें।

टेंसरफ़्लो के साथ केरस का परीक्षण करते समय त्रुटि हुई

keras$ KERAS_BACKEND=tensorflow pytest3

आउटपुट त्रुटियां:

Invalid kernel name, code -46, kernel _ZN5Eigen8internal15EigenMetaKernelINS_15TensorEvaluatorIKNS_14TensorAssignOpINS_9TensorMapINS_6TensorIfLi1ELi1EiEELi16ENS_11MakePointerEEEKNS_18TensorCwiseUnaryOpINS0_12scalar_rightIffNS0_17scalar_product_opIffEEEEKNS4_INS5_IKfLi1ELi1EiEELi16ES7_EEEEEENS_9GpuDeviceEEEiEEvT_T0_
__internal__ build log: 
"/tmp/OCL11307T1.cl", line 3: error: variable with automatic storage duration
          cannot be stored in the named address space
      local float mem[1024];

कोड:

inline float __shfl_down_3(float v0, int v1, int v2) {
    local float mem[1024];
    int tid = get_local_id(0);
    int warpid = tid % 32;
    int warpstart = tid - warpid;
    mem[tid] = v0;
    //barrier(CLK_LOCAL_MEM_FENCE);
    int warpsrc = warpid + v1;
    warpsrc = warpsrc >= 32 ? warpid : warpsrc;
    return mem[warpstart + warpsrc];
}

हाय सब, मेरा नाम रिकार्डो है, मैं सी ++ प्रोग्रामर हूं, सी ++ अनुभव में कई वर्षों के साथ, और कूडा पर थोड़ा, मुझे इस प्रयास में योगदान करने में खुशी होगी। मैं इस नौकरी में कैसे योगदान दे सकता हूं?

ठीक है, मेरे पास माली-T628 MP6 (OpenGL ES 3.0/2.0/1.1 और OpenCL 1.1 पूर्ण प्रोफ़ाइल) के साथ एक Odroid Xu3 है।
ओएस पर चल रहा है: लुबंटू 1404 64 बिट
मैं पूरी तरह से इंस्टालेशन करूंगा और इस प्लेटफॉर्म पर परिणाम पोस्ट करूंगा।
बग्स के बारे में, बग्स की सूची है (बगज़िला जैसा कुछ?) या बग्स की सूची वाली स्प्रेडशीट?
चीयर्स!

एचआईपी का उपयोग करने के बारे में क्या?
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/blob/master/docs/markdown/hip_faq.md#how -does-hip-compare-with-opencl
https://github.com/RadeonOpenCompute/hcc
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/45
"आपकी इच्छा दी जा रही है, Eigen को HIP के माध्यम से AMD GPU पर पोर्ट किया जा रहा है। आपके अनुरोध का दूसरा भाग यह है कि क्या हम FLOAT16 का समर्थन करने वाला मानकीकृत टूल ला सकते हैं जो हमारे सभी GFX8 GPU के साथ जहाज करता है, इच्छा दी गई है।"
एएमडीजीपीयू कंपाइलर की हमारी विकास शाखा अब एफपी16/इंट16 को एफपी16/इंट16 से फ्लोट और बैक में कनवर्ट करने के लिए अप कन्वर्ट और डाउन कन्वर्ट निर्देशों के साथ एफपी16/इंट16 को अनुकरण करने के बजाय फ्लोट16 और इंट16 दोनों मूल निर्देशों का समर्थन करती है।

यह फिजी हार्डवेयर पर f16 परीक्षण सफलतापूर्वक आधा प्रकार के रूपांतरण और मूल निर्देशों के साथ मैट्रिक्स गुणन निष्पादित कर रहा है।"

इसके अलावा, संबंधित नहीं है लेकिन आपको 1.2 के बजाय syCL/openCL 2.0 का उपयोग करना चाहिए, क्योंकि एनवीडिया पहले से ही सीयूडीए के माध्यम से समर्थित है। और ओपनसीएल 2.0 एएमडी और इंटेल विंडोज ड्राइवरों दोनों पर समर्थित है। इसके अलावा एएमडी ने कहा है कि वे जल्द ही लिनक्स के लिए ओपन सीएल 2.0 ड्राइवर खोलेंगे (जिसे इंटेल, ओपनसोर्स जादू द्वारा इस्तेमाल किया जा सकता है) (और इंटेल के पास पहले से ही एक लिनक्स ओपनसीएल 2.0 कार्यान्वयन है जिसे बस परिपक्वता की आवश्यकता है।) यदि आप इंटेल और एएमडी से पूछें, हो सकता है वे काम में तेजी ला सकते हैं, क्योंकि उनके आर्थिक हितों के लिए टेंसरफ़्लो महत्वपूर्ण है। और वे पहले ही इस टिप्पणी अनुभाग में कह चुके हैं कि वे मदद करना चाहते थे। साथ ही सभी प्रमुख एआरएम निर्माता ओपनसीएल 2.0 का समर्थन करते हैं। यह Android (जो Google के आर्थिक हित में है), रास्पबेरी जैसे, स्मार्ट टीवी आदि के लिए बहुत सारे अवसर खोल सकता है।

और मध्य अवधि में हम अंततः गैर समर्थित हार्डवेयर के लिए एक opencl 1.2 फ़ॉलबैक परत विकसित कर सकते हैं।
और कार्यान्वयन में ओपनवीएक्स (जो अब सभी प्रमुख हार्डवेयर निर्माताओं द्वारा समर्थित है, और एएमडी के पास एक ओपनसोर्स कार्यान्वयन है) और https://www.khronos.org/news/press/khronos-launches-dual-neural-network का उपयोग करना चाहिए।
और सभी स्पिर-वी के साथ (जिसे वल्कन और ओपनजीएल द्वारा एक साथ उपयोग किया जा सकता है)।
आप कह सकते हैं कि मैं पहले से कही गई बातों का डुप्लिकेट बना रहा हूं, लेकिन सिंथेटाइज़ करना महत्वपूर्ण है।
और अंत में, क्या टेंसरफ़्लो एचएसए का उपयोग कर सकता है?

http://www.hsafoundation.com
Android पर HSA कमाल का होगा।

मुझे नहीं पता कि एचआईपी उपयोगी होगा या नहीं। यह केवल कुछ एएमडी कार्डों पर समर्थित है, इसलिए यदि हम सभी उपकरणों का समर्थन करना चाहते हैं तो हमें ओपनसीएल कार्यान्वयन की आवश्यकता है। यह अभी भी इसके लायक हो सकता है यदि एचआईपी कार्यान्वयन उल्लेखनीय रूप से तेज हो। यह मामला हो सकता है लेकिन मैंने अभी तक कई बेंचमार्क (एचआईपी बनाम ओपनसीएल) नहीं देखे हैं। एक अन्य कारण MLOpen (जो HC में लिखा गया है) को cudnn के प्रतिस्थापन के रूप में हो सकता है, लेकिन फिर से मुझे नहीं पता कि यह कितना तेज़ है या यह किन विशेषताओं का समर्थन करता है।

TensorFlow सीधे HSA का उपयोग नहीं करेगा क्योंकि यह काफी निम्न-स्तर है। लेकिन एचसी (और एचआईपी) इसके शीर्ष पर लागू किया गया है और आप ओपनसीएल को शीर्ष पर भी कार्यान्वित कर सकते हैं (पीओसीएल ऐसा करता है)।

क्या रिलूपर एल्गोरिदम यहां मददगार होगा? http://mozakai.blogspot.ca/2012/05/reloop-all-blocks.html

@hughperkins यह देखकर अच्छा लगा कि आपने अपने कंपाइलर के साथ कुछ प्रगति की है, लेकिन मुझे लगता है कि यह TensorFlow के लिए ऑफ-टॉपिक बन गया है। इसके बजाय आपको अपने कंपाइलर प्रोजेक्ट के GitHub पेज पर कई छोटे चर्चा सूत्र शुरू करने चाहिए। मुझे लगता है कि यह अधिक केंद्रित और उत्पादक होगा।

देखें https://github.com/chihchun/opencl-docker

https://github.com/kripken/emscripten-fastcomp/blob/master/lib/Target/JSBackend/Relooper.cpp भी है

यहां संबद्ध पेपर है: https://github.com/kripken/emscripten/blob/master/docs/paper.pdf?raw=true

प्रारंभिक OpenCL/SyCL समर्थन को मास्टर में https://github.com/tensorflow/tensorflow/pull/5267 के साथ मिला दिया गया था

बधाई हो!

@keryell बीटीडब्ल्यू , ट्राईएसवाईसीएल रिपोजिटरी का क्या हुआ? ऐसा लगता है कि यह चला गया है और मुझे केवल ख्रोनोस के गिटलाब का संदर्भ मिल सकता है जो सार्वजनिक रूप से सुलभ नहीं है।

संपादित करें: मुझे आपका निजी क्लोन मिल गया है, केवल एएमडी से एक ही चला गया है।

@bhack , मैक प्लेटफॉर्म में ओपनक्ल-डॉकर सपोर्ट करता है?

@alepman मेरे पास OSX प्लेटफॉर्म नहीं है, लेकिन मुझे लगता है कि लॉन्चिंग कमांड को थोड़ा सा अपनाने से काम चल सकता है।

@bhack @alepman : ऊपर मैक के बारे में मेरी टिप्पणी देखें, अगर आप मुझे निर्माण निर्देशों की ओर इशारा करते हैं तो मुझे जाना होगा

@olesalscheider : हाँ, triSYCL AMD से Xilinx https://github.com/Xilinx/triSYCL में स्थानांतरित हो गया, लेकिन आप सही हैं, मेरे GitHub कार्यक्षेत्र पर संस्करण https://github.com/keryell/triSYCL पर भी काम करता है

हमने अभी तक TensorFlow पर ट्राईएसवाईसीएल की कोशिश नहीं की है। कोशिश करने के लिए पहले से ही एक बड़ा निर्माण कॉन्फ़िगरेशन कार्य है ...

@keryell ट्राईएसवाईसीएल स्थिति क्या है?

Intel beignet opencl 2.0 सपोर्ट लगभग पूरा हो चुका है!
http://phoronix.com/scan.php?page=news_item&px=Beignet-Birthday-CL2

@bhack triSYCL मुख्य रूप से अब Xilinx में विकसित किया गया है। अभी भी अधिक से अधिक सुविधाएँ जोड़ रहे हैं। क्लैंग/एलएलवीएम-आधारित आउटलाइनिंग कंपाइलर अभी भी एक डिवाइस पर पूर्ण एकल-स्रोत अनुभव के लिए विकास में है। लेकिन ओपनसीएल संगतता मोड, जो पहले से ही लागू है, का कुछ मूल्य भी है, एसवाईसीएल रनटाइम के साथ मेजबान और कर्नेल के बीच संचार को सरल बनाकर, एक्सेसर्स द्वारा व्यक्त निर्भरता के अनुसार आलसी स्थानान्तरण करना।

मेरा मैक ओपनसीएल संगत है, तो मैं ओपनसीएल के साथ अपना टेंसरफ्लो कैसे चला सकता हूं? मैंने अभी पाया है कि जब मैं नए कोड कॉन्फ़िगर करता हूं, तो ओपनक्ल को टेंसरफ़्लो में समर्थित किया गया था।

@hughperkins मेरे मैक में कोई clinfo निर्देश नहीं है, मैं इसके लिए क्या कर सकता हूं? लेकिन मैं क्लैंग के साथ ओपनक्ल के लिए यहां टेस्ट कोड संकलित कर सकता हूं और निम्न जानकारी का परिणाम दे सकता हूं:
clang -framework OpenCL dumpcl.c -o dumpcl && ./dumpcl Device Intel(R) Core(TM) i5-5257U CPU @ 2.70GHz supports OpenCL 1.2 Device Intel(R) Iris(TM) Graphics 6100 supports OpenCL 1.2

धन्यवाद @hughperkins , लेकिन मुझे लगता है कि मैंने कल कंप्यूटेकप की कोशिश की थी, और ऐसा लगता है कि मैकबुक सिस्टम अभी भी कंप्यूटेकप के साथ समर्थित नहीं है। इसलिए, शायद नए अपडेट का इंतजार करते रहें, यही एकमात्र चीज है जो मैं (टीटी) कर सकता हूं। बीटीडब्ल्यू, मेरी आईरिस 6100 आठ पीढ़ी है, जो ओपनसीएल 1.2 के लिए अच्छा है।

@hughperkins हाँ SYCL 1.2 OpenCL 1.2 के लिए एक प्राथमिकता है और SYCL 2.2 OpenCL 2.2 के लिए एक प्राथमिकता है।
मैंने कहा "एक प्राथमिकता" चूंकि, यदि आप एसवाईसीएल के ओपनसीएल-संगतता मोड की आवश्यकता वाले किसी भी चीज़ का उपयोग नहीं करते हैं, तो एसवाईसीएल को वास्तव में ओपनसीएल की आवश्यकता नहीं है। वास्तव में SYCL विषम कंप्यूटिंग के लिए एक बहुत ही सामान्य मॉडल है और किसी भी चीज़ के ऊपर चल सकता है। लेकिन निश्चित रूप से वास्तविक कार्यान्वयन के लिए ओपनसीएल की भी आवश्यकता हो सकती है।

नमस्ते,

मैं फिलहाल TensorFlow और Keras के साथ सीख रहा/काम कर रहा हूं और मुझे macOS के तहत OpenCL सपोर्ट काम करने में दिलचस्पी होगी ... क्या macOS के आसपास किए गए काम के बारे में कुछ खबर है?

मैं TensorFlow को संकलित करने में सफल रहा, लेकिन अगर मैं OpenCL के लिए कॉन्फ़िगर करने का प्रयास करता हूं तो यह मुझसे कंप्यूटसीपीपी 1.2 स्थान के लिए पूछता है, और ऐसा लगता है कि मैकोज़ के लिए कोई कंप्यूटसीपीपी नहीं है।

नमस्कार। किसी भी तरह से ML / Tensorflow / या यहाँ तक कि OpenCL का विशेषज्ञ नहीं है, लेकिन मैं एक अनुभवी मैक ग्राफिक्स देव हूँ, जो एकीकृत और AMD GPU के बिल्ट इन लाइब्रेरी और सरल निर्भरता वाले सिस्टम पर Tensorflow का तेज़ प्रदर्शन चाहता है :)

मैं आपकी कैसे मदद कर सकता हूँ?

ट्रैविस लॉग @hughperkins में OS X पर अंतिम संकलन विफलता को देखते हुए - ऐसा लगता है कि 'xcode-select --install' चलाना एक हल हो सकता है? इसे /usr/include डायरेक्टरी को फिर से लिंक करना चाहिए। एक्सकोड बीटा को रिलीज़ करने के लिए अपडेट करते समय मेरे पास यह समस्या थी और कुछ सी ++ कोड संकलित करने में समस्याएं थीं।

ऐसा लगता है कि XLA कंपाइलर (https://www.tensorflow.org/versions/master/resources/xla_prerelease.html) डेटाफ्लो ग्राफ़ से LLVM कोड जनरेशन प्रदान करेगा। इसका अर्थ है स्पिर-वी तक बहुत आसान पहुंच और इसलिए वल्कन की गणना एपीआई। कोड जनरेशन को हल करने के साथ, मैं कल्पना नहीं कर सकता कि Google एंड्रॉइड पर चल रहे अप्रयुक्त एकीकृत जीपीयू की उच्च संख्या को देखते हुए वल्कन संगतता प्रदान नहीं कर रहा है।

@ ह्यूगपरकिंस

जल्दी: अभी मैं कस्टम सी ++/ऑब्जेक्ट-सी कोडबेस पर इंसेप्शन v3 चला रहा हूं और नेटवर्क में डीकोडेड वीडियो फ्रेम में गुजर रहा हूं। मुझे निम्न स्तर की जरूरतों को जानने के लिए टीएफ के बारे में पर्याप्त जानकारी नहीं है, लेकिन उच्च स्तर: लोड मॉडल, रन सत्र, सामान काम करने की उम्मीद है। मुझे लगता है कि वास्तव में ईमानदार होने के लिए 100% संगतता का मतलब है। मुझे पता है कि प्राथमिकता देने में कोई मदद नहीं है। मूल रूप से TF /InceptionV3 का उपयोग करके C++ इमेज रिकग्निशन मेरा शुरुआती बिंदु था।

क्यूडा-ऑन-सीएल मैक पर चल रहा है: मैंने रेपो की जांच की है और मेरे सिस्टम पर डिबग और रन बनाने में मदद कर सकता है और विभिन्न प्रकार के हार्डवेयर पर परिणाम सत्यापित कर सकता है: मेरे पास ड्यूल डी 700, एनवीडिया मैक लैपटॉप और एएमडी मैक प्रोस तक पहुंच है। डेस्कटॉप सिस्टम।

आपकी विस्तृत प्रतिक्रिया के लिए धन्यवाद। मैं रेपो की निगरानी करूंगा, साथ चलने की कोशिश करूंगा, और अपनी तरफ से हर संभव मदद करने की कोशिश करूंगा।

ह्यूग, हो सकता है कि आप यह जानने के लिए http://chrec.cs.vt.edu/cu2cl/ देखना चाहें कि कुछ फ़ंक्शन कैसे मैप किए जाते हैं।

मेरी कंपनी StreamComputing में हमारे पास बिल्ड-टेस्टिंग और बेंचमार्किंग के लिए विभिन्न GPU हैं, जिनका उपयोग हम अपने ग्राहक-परियोजनाओं के लिए करते हैं। साप्ताहिक रन करने के लिए मैं आपके जीथब को हमारे जेनकींस में लगा सकता हूं।

उत्तर के लिए धन्यवाद, मैं विशिष्ट स्क्रिप्ट के साथ इस सप्ताह काम पर विषय पर वापस जाऊंगा।

मेरे प्रयोगों में Gensim और Keras/tensorflow का उपयोग करते हुए, मेरे उपयोग के मामले टेक्स्ट/वाक्यविन्यास मिलान विश्लेषण के आसपास हैं।

मैं परीक्षण के लिए आपकी मदद करने को तैयार हूं

मेरे पास एएमडी कार्ड के साथ एक विंडोज़ पीसी है
एएमडी कार्ड के साथ एमबीपी
एक इंटेल एकीकृत जीपीयू के साथ एक एमबी

अरे @hughperkins - मैं आज शाम को AMD R9 390 8GB पर परीक्षण सेट के माध्यम से जा रहा हूँ। अब तक मुझे पहले से ही एक अलग परिणाम मिला है; logistic_regression.py ट्रेनें और वापस नहीं आती nan । बहुत अच्छा! यह अंत में segfaults है, इसलिए मैं जांच करूंगा कि स्क्रिप्ट या सीएल कोड गलती है या नहीं।

मुझे अपने परिणामों को कहां आगे बढ़ाना चाहिए, जहां वे आपके लिए सबसे उपयोगी हो सकते हैं?
शायद हम एक मानक "परीक्षण स्क्रिप्ट" प्राप्त कर सकते हैं जो परिणामों का एक मानक सेट उत्पन्न करता है जो स्वयंसेवक आपको धक्का दे सकते हैं (या स्थानीय सीआई या जो कुछ भी स्थापित कर सकते हैं)?

py.test उतना ही अच्छा समाधान है जितना कोई; यह केवल pip दूर है और यह किसी भी तरह से tensorflow को स्थापित करने की प्रक्रिया का हिस्सा है।

मैंने अपने परीक्षण शुरू करने के बाद से कुछ दिलचस्प चीजें खोजी हैं, और वे अकेले पायथन आउटपुट का उपयोग करके डिबग करने योग्य नहीं हो सकते हैं, हालांकि:

• एक ही स्क्रिप्ट के लिए अलग-अलग कॉल जल्दी क्रैश हो सकते हैं, या "हैंग" हो सकते हैं (कोई आउटपुट नहीं, कोई प्रगति नहीं, कोई प्रतिक्रिया नहीं Ctrl-C , प्रक्रिया को pkill -9 'd होना चाहिए), या देर से क्रैश हो सकता है या तो सत्यापन भाग पर या स्क्रिप्ट के सफलतापूर्वक पूर्ण होने के बाद। क्रैश (segfaults) Xorg को नीचे ले जा सकता है।
• परिणाम बिना किसी कारण के भिन्न होते हैं: मैं एक स्क्रिप्ट को कॉल कर सकता हूं और इसे सेगफॉल्ट कर सकता हूं, फिर इसे फिर से कॉल करें और यह काम करेगा।
• कोड के कुछ हिस्सों में हैंग हो सकता है जो सचमुच क्षण पहले काम कर रहे थे, मैंने एक प्रशिक्षण बैच के भीतर या बाद में एक हैंग किया है, कई सौ बैचों के सफलतापूर्वक होने के बाद।

तो, यह हो सकता है कि GPU पक्ष पर अनसुलझे सामान हैं, और इसे साफ़ करने के लिए एक अच्छे segfault की आवश्यकता है? मुझे अभी तक GPU मॉडल या OpenCL के बारे में ज्यादा जानकारी नहीं है, इसलिए मैं यहां ज्यादा योगदान नहीं दे सकता। लेकिन, यह हो सकता है कि क्या हो रहा है इसका ठीक से पता लगाने के लिए GPU डिबगिंग आउटपुट की आवश्यकता है।

साथ ही, मैंने सोचा था कि आप अपने जीथब से एएमडी के साथ थे, लेकिन ऐसा लगता है कि आप एक "दुष्ट एजेंट" हैं जो इस पूरे सीयूडीए-ऑन-सीएल चीज को अपने समय पर कर रहे हैं। इसका नेतृत्व करने के लिए दिल से धन्यवाद! क्या ऐसा कोई तरीका है जिससे मैं और अन्य लोग आपके प्रयासों में योगदान दे सकें, शायद आपको GPU क्राउडफंडिंग करके? या आप एक Patreon स्थापित कर सकते हैं, मुझे परियोजना में मासिक योगदान के लिए साइन अप करने में खुशी हो रही है?

AMD GPU के संबंध में, हम AMD के भागीदार हैं। देखिए 8 दिन पहले का मेरा मैसेज, जो शायद आपने मिस किया होगा:

मेरी कंपनी StreamComputing में हमारे पास बिल्ड-टेस्टिंग और बेंचमार्किंग के लिए विभिन्न GPU हैं, जिनका उपयोग हम अपने ग्राहक-परियोजनाओं के लिए करते हैं। साप्ताहिक रन करने के लिए मैं आपके जीथब को हमारे जेनकींस में लगा सकता हूं।

मुझे आश्चर्य है कि क्या आपके पास एक सीआई सर्वर स्थापित करने की संभावना हो सकती है, जो प्रत्येक प्रतिबद्धता पर चलता है?

कोई दिक्कत नहीं है। मुझे शायद परियोजना के लिए लेखन-पहुंच की आवश्यकता है, इसलिए जेनकिंस लॉग-फाइल को बिल्ड-लॉग निर्देशिका में लिख सकते हैं। मैं सिर्फ आपको स्पैम भेजता हूं, ताकि हम चर्चा कर सकें।

नमस्ते,

जैसा कि आप शायद पहले ही देख चुके हैं, SYCL सामान का एक गुच्छा TensorFlow पर धकेल दिया गया है। हम अभी पूर्ण नहीं हैं, और करने के लिए बहुत कुछ है। लेकिन हम वहां पहुंचने के लिए आगे बढ़ रहे हैं।

यदि आप योगदान देने में रुचि रखते हैं या वर्तमान स्थिति के बारे में जानना चाहते हैं, तो नीचे विश्लेषण देखें।

आधारभूत संरचना
Google ने कृपया दो मशीनें दान की हैं जो समय-समय पर @benoitsteiner के TensorFlow (https://github.com/benoitsteiner/tensorflow-opencl) के कांटे का परीक्षण करने के लिए स्थापित की गई हैं।

दोनों में AMD GPU है:

CL_DEVICE_NAME : हवाई
CL_DRIVER_VERSION: 1912.5 (वीएम)

तथा

CL_DEVICE_NAME : फिजी
CL_DRIVER_VERSION: 1912.5 (वीएम)

कोडप्ले में हम अगले साल भी मशीन समर्पित करने की सोच रहे हैं। ओपनसीएल डिवाइस विविधता कवरेज में सुधार करने के लिए।

हम उस मोर्चे पर योगदानकर्ताओं की तलाश कर रहे हैं यदि कोई प्रासंगिक प्लेटफॉर्म के लिए टेस्ट बिल्ड सर्वर प्रदान करने में रुचि रखता है जिसका हम समर्थन करते हैं।
वर्तमान में, आवश्यकताएं हैं:
- उबंटू 14.04
- ओपनसीएल ड्राइवर जो SPIR (इंटेल सीपीयू / जीपीयू या एएमडी जीपीयू) का समर्थन करते हैं

@VincentSC शायद आप इसमें मदद कर सकते हैं?

परीक्षण
फिजी मशीन पर ( https://ci.tensorflow.org/job/tensorflow-opencl/127/consoleFull ) हम 164 विफलताओं का सामना कर रहे हैं।

हवाई मशीन पर ( https://ci.tensorflow.org/job/tensorflow-opencl/129/consoleFull ) हम 56 फेल हो गए हैं।

हम असफल ग्रेडिएंट परीक्षणों को ठीक करने और फिजी मशीन पर अतिरिक्त विफलताओं की उत्पत्ति की जांच कर रहे हैं।

ईजिन
पिछले कुछ महीनों से हम सक्रिय रूप से TensorFlow द्वारा आवश्यक सुविधाओं को लागू कर रहे हैं जिनमें शामिल हैं: रीशेपिंग, स्लाइसिंग, बेसिक रिडक्शन आदि। वर्तमान में हम संकुचन को लागू कर रहे हैं। विस्तृत विश्लेषण https://docs.google.com/spreadsheets/d/1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =0 के Eigen Tensor टैब में पाया जा सकता है।

टेंसरफ्लो
एब्स, फ्लोर, आईएसफिनिट, लॉग, पॉव, मुल, आदि के साथ-साथ रीशेप, शेप, आइडेंटिटी, फिल आदि जैसे टेन्सर मैनिपुलेशन सहित कई गुणांक-वार संचालन लागू किए गए हैं।
विस्तृत विश्लेषण https://docs.google.com/spreadsheets/d/1YbHn7dAFPPG_PgTtgCJlWhMGorUPYsF681TsZ4Y4LP0/edit#gid =1719702219 के TensorFlow कर्नेल टैब में पाया जा सकता है

संगठन
उपरोक्त स्प्रेडशीट में कई टैब हैं जो परियोजना के प्रयासों को वर्गीकृत करते हैं जैसे: समग्र योजना, ईजेन टेंसर, टेंसरफ्लो कर्नेल, मॉडल।

यदि आप शामिल होना चाहते हैं, तो कृपया अपना नाम उस आइटम के आगे रखें जिस पर आप काम कर रहे हैं या कुछ भी महत्वपूर्ण जोड़ें जो गायब है।
धन्यवाद,
ल्यूक

क्या यह रोडमैप सक्रिय है?

@lukeiwanski हाँ, कोई बात नहीं। [email protected] के माध्यम से हमसे संपर्क करें

यह सब पढ़ने के बाद मैं अनुमान लगा रहा हूं कि macOS/OS X पर OpenCL का उपयोग करने के लिए अभी तक कोई ठोस समाधान नहीं है? मैंने OpenCL समर्थन के साथ Tensorflow C++ को संकलित करने का प्रयास किया (जो मुझे लगता है कि SYCL 1.2 के लिए ComputeCpp की आवश्यकता है जैसा कि किसी ने बताया)।

मैंने चारों ओर देखा और एसवाईसीएल पुस्तकालय को डाउनलोड करने, संकलित करने या बनाने का पता नहीं लगा सका। क्या यह यहाँ है https://www.codeplay.com/ ? मैं वास्तव में अनिश्चित हूं कि कैसे आगे बढ़ना है, धन्यवाद ...

@dylib जहाँ तक मुझे पता है कि macOS के लिए अभी भी ComputeCpp नहीं है। तो इसका मतलब है कि macOS के लिए OpenCL तैयार नहीं है।

अभी भी इसे AMD कार्ड और उत्प्रेरक ड्राइवर https://github.com/tensorflow/tensorflow/issues/6497 के साथ Ubuntu 16.04 पर काम नहीं कर सकता। क्या कोई तरीका है?

ओपनसीएल समर्थन के साथ संकलित टीएफ का उपयोग करने की कोशिश करने से पहले मुझे /usr/local/computecpp/bin/computecpp_info आउटपुट देखना पड़ा। मेरे मामले में यह दिखा रहा है

  Device is supported                     : NO - Unsupported vendor
  CL_DEVICE_NAME                          : Pitcairn
  CL_DEVICE_VENDOR                        : Advanced Micro Devices, Inc.

अब GPU पर TF चलाने के लिए 2 विकल्प हैं:
सीमित (विक्रेता द्वारा) उपकरणों की संख्या पर अच्छा काम कर रहा है, लेकिन मालिकाना CUDA
सीमित (कम्प्यूटेकपीपी डेवलपर्स द्वारा) उपकरणों की संख्या और मालिकाना कंप्यूट पर भी खराब काम करना
अभी भी कोई ओपनसीएल समर्थन नहीं है।

@inferrna समग्र TensorFlow प्रलेखन में एक OpenCL विशिष्ट खंड में। इसे जल्द ही tensorflow.org साइट पर प्रकाशित किया जाएगा।

@benoitsteiner ओपनक्ल कनवल्शन सपोर्ट पर वर्तमान स्थिति क्या है? क्या आप सीधे बाहर निकलने वाली गुठली का लाभ उठाने की योजना बना रहे हैं? मैट्रिक्स गुणन के बारे में क्या?

कोई ईटीए?

CUDA कोड को पोर्ट अज्ञेयवादी प्लेटफॉर्म पर पोर्ट करने के लिए HIP का उपयोग करने के बारे में कैसे? https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/blob/master/docs/markdown/hip_porting_guide.md

ऐसा लगता है कि एएमडी उस पर काम कर रहा है: https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/45#issuecomment -269827686

क्या XLA बैकएंड LLVM IR को https://github.com/KhronosGroup/SPIRV-LLVM के साथ SPIR-V में परिवर्तित कर सकता है?

इस बारे में कैसा है? मुझे लगता है कि यह पैकेज Radeon GPU पर काम कर सकता है।

https://github.com/RadeonOpenCompute/ROCm

@bhack https://github.com/tensorflow/tensorflow/issues/6449#issuecomment -269245727 से

@lukeiwanski क्या XLA आपके प्रयास को भी प्रभावित करेगा?

XLA और SYCL समाधान विभिन्न स्थितियों के लिए पूरक हैं: SYCL को पूर्ण प्रोग्रामयोग्यता और अनुकूलन क्षमता प्रदान करने के लिए डिज़ाइन किया गया है। XLA रेखांकन में अच्छी तरह से परिभाषित पैटर्न को अनुकूलित करने के लिए है।

एक्सएलए के बारे में मेरी समझ यह है कि यह एलएलवीएम कंपाइलर का उपयोग करके रनटाइम पर कुछ मौजूदा टेंसरफ्लो ग्राफ को अनुकूलित करता है। इसे ग्राफ़ में उपयोग किए जाने वाले प्रत्येक एल्गोरिथ्म के लिए कंपाइलर में ऑप्टिमाइज़ेशन पास लागू करने की आवश्यकता होती है।
SYCL दृष्टिकोण एकमात्र दृष्टिकोण है जो प्रोग्रामिंग का CUDA स्तर प्रदान करेगा - जो कि डेवलपर्स को चाहिए।

SYCL के साथ हम सभी TensorFlow संचालन के लिए सहायता प्रदान करने और नए संचालन के विकास को आसान बनाने का लक्ष्य रखते हैं।

इसका मतलब है कि SYCL आपको नए उच्च प्रदर्शन संचालन बहुत आसानी से लिखने देता है, जबकि XLA पूरे ग्राफ़ को अनुकूलित कर सकता है यदि यह ग्राफ़ में सभी ऑप्स का समर्थन करता है।

क्या XLA बैकएंड LLVM IR को https://github.com/KhronosGroup/SPIRV-LLVM के साथ SPIR-V में परिवर्तित कर सकता है?

मुझे कोई कारण नहीं दिख रहा है कि यह संभव क्यों नहीं होगा।

@lukeiwanski धन्यवाद, मैं विशेष रूप से देख रहा था https://www.tensorflow.org/versions/master/experimental/xla/developing_new_backend

@ k-hashimoto: हम यहां TensorFlow को OpenCL में पोर्ट करने के बारे में चर्चा कर रहे हैं, जो Khronos Group का एक मानक है, और वास्तव में अधिक OpenCL SYCL, जो कि Khronos Group का पोस्ट-मॉडर्न C++ सिंगल सोर्स मानक है।
ROCm अभी तक-एक-गैर-मानक-समाधान-से-कुछ-विक्रेता जैसा दिखता है।
यदि आप मालिकाना समाधानों में रुचि रखते हैं, तो पहले से ही TensorFlow का एक CUDA संस्करण है जो अच्छी तरह से काम कर रहा है। :-)

सहमत: ओपनसीएल पर बातचीत/प्रयास करते रहें, और विक्रेताओं को उस खुले मानक के ऊपर अपने जो कुछ भी लागू करने दें।

17 जनवरी 2017 को 10:01:32 GMT+00:00 पर, रोनन केरील नोटिफिकेशन @github.com ने लिखा:

@ k-hashimoto: हम यहां TensorFlow को पोर्ट करने के बारे में चर्चा कर रहे हैं
OpenCL, Khronos Group का एक मानक, और वास्तव में अधिक OpenCL SYCL,
ख्रोनोस ग्रुप से पोस्ट-मॉडर्न सी ++ सिंगल सोर्स मानक।
ROCm अभी तक-एक-गैर-मानक-समाधान-से-कुछ-विक्रेता जैसा दिखता है।
यदि आप मालिकाना समाधानों में रुचि रखते हैं, तो पहले से ही एक CUDA है
TensorFlow का संस्करण जो अच्छी तरह से काम कर रहा है। :-)

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपने टिप्पणी की थी।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -273076892

--
K-9 मेल के साथ मेरे Android डिवाइस से भेजा गया। मेरे संक्षिप्तता को माफ़ करो।

:+1:

मैं

:+1:

यह संदेश मेल डिलिवरी सॉफ्टवेयर द्वारा स्वतः ही रचित किया गया है।

आपके द्वारा भेजा गया एक संदेश इसके एक या अधिक को डिलीवर नहीं किया जा सका
प्राप्तकर्ता। यह एक अस्थायी त्रुटि है। निम्नलिखित पता (पते) आस्थगित:

[email protected]
डोमेन biomassiv.es अधिकतम ईमेल प्रति घंटे (111/100 (111%)) को पार कर गया है। संदेश बाद में पुनः प्रयास किया जाएगा

------- यह संदेश की एक प्रति है, जिसमें सभी शीर्षलेख शामिल हैं। ------
प्राप्त: github-smtp2-ext6.iad.github.net से ([192.30.252.197]:48606 helo=github-smtp2b-ext-cp1-prd.iad.github.net)
esmtps के साथ chi-server32.websitehostserver.net द्वारा (TLSv1.2:ECDHE-RSA-AES256-GCM-SHA384:256)
(एक्जिम 4.87)
( लिफाफा[email protected] से)
आईडी 1cWmiQ-0032as-W9
[email protected] के लिए; गुरु, 26 जनवरी 2017 10:16:03 -0600
दिनांक: बुध, 25 जनवरी 2017 04:09:21 -0800
DKIM-हस्ताक्षर: v=1; ए = आरएसए-sha256; सी = आराम से / आराम से; डी = जीथब डॉट कॉम;
एस = पीएफ2014; टी=1485346161;
bh=N1Pjga2Q9PtEE8ncEMXBtSJzd3kd6HAkJRnj6H2dDEg=;
एच = से: उत्तर-टू : टू: सीसी: इन- रिप्लाई-टू: आर संदर्भ: विषय : सूची-आईडी:
सूची- संग्रह: सूची-पोस्ट : सूची-अन सदस्यता लें: से;
b=e5r+VKm/UtpLYj0OCnfEPSYl6a7xCOd9bN+jS3gify2mRv/g4kofW7ZrEeDyeJT+
GvddVV/w5htZFUbHy9+92pYUHGEYEn2XrmFqc6ZFVoPqBsPW5Cxk31O3Kvi1cwuSPI
g8J4X/qvl1DT+yKrh1es7CeXkr23c8mFNgWkG5qk=
से: मिगुएल Ángel सूचनाएं @github.com
उत्तर-प्रति: tensorflow/tensorflow [email protected]
प्रति: tensorflow/tensorflow [email protected]
प्रतिलिपि: [email protected] सब्सक्राइब किया गया
संदेश-आईडी:
प्रतिउत्तर में:
सन्दर्भ:
विषय: पुन: [टेंसरफ़्लो/टेंसरफ़्लो] ओपनसीएल समर्थन (#22)
माइम-संस्करण: 1.0
सामग्री-प्रकार: बहुखण्डीय/वैकल्पिक;
सीमा="--==_mimepart_5888957158d12_78b73ff902fe113c148134";
वर्णसेट = UTF-8
सामग्री-स्थानांतरण-एन्कोडिंग: 7bit
वरीयता: सूची
X-GitHub-प्रेषक: migpradel
X-GitHub-प्राप्तकर्ता: बायोमैसिव्स
एक्स-गिटहब-कारण: सब्सक्राइब किया गया
सूची-आईडी: टेंसरफ़्लो/टेंसरफ़्लो
सूची-संग्रह: https://github.com/tensorflow/tensorflow
सूची-पोस्ट: [email protected]
सूची-सदस्यता समाप्त करें:,
https://github.com/notifications/unsubscribe/AELU4lfFKxIqjh4jaQkUHuRKD7zj_eKCks5rVztxgaJpZM4Gex3i
एक्स-ऑटो-रिस्पांस-सप्रेस: ​​सभी
X-GitHub-प्राप्तकर्ता-पता: [email protected]

----==_mimepart_5888957158d12_78b73ff902fe113c148134
सामग्री-प्रकार: टेक्स्ट/सादा;
वर्णसेट = UTF-8
सामग्री-स्थानांतरण-एन्कोडिंग: 7bit

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपने इस थ्रेड की सदस्यता ली है।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -275092277
----==_mimepart_5888957158d12_78b73ff902fe113c148134
सामग्री-प्रकार: टेक्स्ट/एचटीएमएल;
वर्णसेट = UTF-8
सामग्री-स्थानांतरण-एन्कोडिंग: 7bit

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपने इस थ्रेड की सदस्यता ली है।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें , या थ्रेड को म्यूट करें ।

----==_mimepart_5888957158d12_78b73ff902fe113c148134--

नए यहाँ। पूछना चाहते हैं कि क्या भविष्य में टेंसरफ़्लो में ओपनसीएल समर्थन होगा, क्या इसका मतलब यह होगा कि FPGA पर टेंसरफ़्लो चलाने के लिए समर्थन होगा?
शुक्रिया

@atinzad : हाँ यदि OpenCL या SYCL संस्करण और स्रोत कोड FPGA वातावरण द्वारा समर्थित है। लेकिन चूंकि TensorFlow शायद विभिन्न माध्यमों के साथ सबसे अधिक पोर्ट किया गया ढांचा है, हो सकता है कि इसका कुछ हिस्सा पहले से ही कहीं FPGA पर चल रहा हो ...

हे भगवान। https://www.youtube.com/watch?v=LqLyrl-agOw

मध्यावधि दृष्टि में पीटीएक्स के अलावा एसवाईसीएल विकास प्रयास और एसपीआईआर-वी को लक्षित करने वाले एक्सएलए के बीच अंतर क्या हैं?

क्या बढ़िया सवाल है। शायद - शामिल लोगों की संख्या? जानना बहुत दिलचस्प होगा!

16 फरवरी 2017 को दोपहर 1:35 बजे bhack [email protected] ने लिखा:

मध्यावधि दृष्टि में पीटीएक्स के अलावा एसवाईसीएल विकास प्रयास और एसपीआईआर-वी को लक्षित करने वाले एक्सएलए के बीच क्या अंतर हैं?

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपने टिप्पणी की थी।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें, या थ्रेड को म्यूट करें।

मध्यावधि दृष्टि में पीटीएक्स के अलावा एसवाईसीएल विकास प्रयास और एसपीआईआर-वी को लक्षित करने वाले एक्सएलए के बीच क्या अंतर हैं?

@bhack कल के TensorFlow देव शिखर सम्मेलन में होने वाली यह एक अच्छी चर्चा होगी

क्या आप योगदान करने के लिए उपलब्ध संसाधनों/प्रोग्रामर के प्रकार के बारे में पूछते हैं?

यदि ऐसा है, तो ओपनसीएल/एसवाईसीएल दृष्टिकोण में सी++ प्रोग्रामर/ओपनसीएल सी प्रोग्रामर को तेजी से लाया जा सकता है और योगदान करने में सक्षम हो सकते हैं। एक्सएलए दृष्टिकोण के लिए एक कंपाइलर/एलएलवीएम अनुभव की आवश्यकता होती है।

एक्सएलए विस्तार से Google की आंतरिक परियोजना है, उनके पास इससे जुड़े अधिक संसाधन हैं। लेकिन, दूसरी तरफ उनका काम भी बहुत बड़ा है.. कंपाइलर लिखना कोई आसान काम नहीं है।

अन्यथा, यदि आप मॉडल के बारे में पूछ रहे हैं:

जैसा कि मैंने पहले https://github.com/tensorflow/tensorflow/issues/22#issuecomment -272908870 में उल्लेख किया है, हम दोनों प्रयासों को पूरक दृष्टिकोण के रूप में देख रहे हैं और दोनों के अलग-अलग उपयोग के मामले हैं। मैं अभी भी उस बयान के साथ खड़ा हूं।

उदाहरण के लिए @tatatodd ने अपनी प्रस्तुति में उल्लेख किया है कि कुछ ऑप्स में कभी भी लक्ष्य के रूप में XLA नहीं होगा। मुझे विश्वास है कि हम इस कमी को पूरा कर सकते हैं।

अन्य बातों पर विचार करना नए प्लेटफॉर्म हैं। मैं इस तर्क के लिए मोबाइल और एम्बेडेड वातावरण का उपयोग करूंगा क्योंकि नए चिप्स GPU की तुलना में अधिक बार पॉप आउट होते हैं (सिद्धांत समान है)।

यदि सेमीकंडक्टर SYCL / OpenCL को सपोर्ट करता है तो आपको बॉक्स से बाहर TF सपोर्ट मिलता है (कुछ परफॉर्मेंस ट्विक्स की आवश्यकता हो सकती है)।

यदि वास्तुकला आकर्षक है और इसके लिए कोई एलएलवीएम बैकएंड नहीं है, फिर भी एक्सएलए को इसे जोड़ने की जरूरत है (यह बहुत बार नहीं हो सकता है लेकिन फिर भी)। अधिक बार क्या होता है कि आर्किटेक्चर थोड़ा बदल जाता है और फिर नए अनुकूलन पास जोड़ने की आवश्यकता होती है या लाभ प्राप्त करने के लिए मौजूदा को संशोधित किया जाना चाहिए। कर्नेल कोड को ट्वीक करना आसान है।

मैंने एक्सएलए को बहुत गहराई से नहीं देखा है, लेकिन मुझे लगता है कि एक्सएलए को पीटीएक्स कर्नेल कोड चलाने के लिए किसी भी तरह से सीयूडीए एपीआई में कॉल करना है, इसलिए इसके बजाय एसपीआईआर-वी कर्नेल चलाने के लिए ओपनसीएल या वल्कन को पोर्ट करना होगा - मुझे लगता है StreamExecutor के माध्यम से जाना होगा - परिचित होने के लिए एक और ढांचा - शायद काफी बड़ा प्रयास।

संक्षेप में, हम बहुत ही खंडित/विकृत पारिस्थितिकी तंत्र में एक एकीकृत/स्थिर मंच प्रदान कर रहे हैं जिसे सेमीकंडक्टर कंपनियां और डेवलपर्स दोनों लक्षित कर सकते हैं। जबकि XLA को समर्थन के लिए प्रतिबद्ध होना होगा।

@benoitsteiner या @drpngx XLA के बारे में अधिक जानकारी देने में सक्षम हो सकते हैं क्योंकि मैं बातचीत के आधार पर बहुत सारी धारणाओं/निष्कर्षों के साथ काम कर रहा हूं।

ओह, साथ ही मैंने संचार को आसान बनाने के लिए स्लैक चैनल बनाया है https://tensorflowopencl.slack.com/shared_invite/MTQzNDQ0NzgzNzAyLTE0ODcyOTE1NjctMDZhM2RkODRlYg

ईद:
स्लैक लिंक अब मान्य नहीं है। अगर आप शामिल होना चाहते हैं तो कृपया मुझे पिंग करें।

मुझे लगता है कि यह सही है और आंशिक रूप से यह निर्भर करेगा कि अर्धचालक उत्पादक किस दिशा में उन्मुख होंगे।
"ये बैकएंड एक कुशल तरीके से एक्सएलए एचएलओ गणना का प्रतिनिधित्व करने के लिए आवश्यक एलएलवीएम आईआर उत्सर्जित करते हैं, और फिर एलएलवीएम आईआर से मूल कोड उत्सर्जित करने के लिए एलएलवीएम का आह्वान करते हैं।" तो LLVM IR को SPIR-V में बदला जा सकता है । लेकिन Opencl SPIRV बोली यह वल्कन से अलग है । Streamexecutor को LLVM समानांतर-लिब में धकेला जा रहा है और मूल @henline विवरण में मूल योजना opencl को कवर करती प्रतीत होती है।

/ सीसी @ dneto0

http://phoronix.com/scan.php?page=news_item&px=OpenCL-2.0-NVIDIA-Preps
Nvidia को जल्द ही Linux और Windows दोनों पर opencl 2.0 का समर्थन करना चाहिए, यह YUGE है!

प्रदर्शन के लिहाज से यह CUDA की तुलना में धीमा होने की संभावना है।

यह भी याद रखें कि नोव्यू लोग एसपीआईआर-वी के साथ ओपनक्ल पर स्वतंत्र रूप से काम कर रहे हैं। स्थिति थोड़ी पुरानी है लेकिन नई प्रतिबद्धताएं हैं।

ओपनक्ल कुडा की तुलना में स्वाभाविक रूप से धीमा नहीं है, यह सिर्फ एनवीडिया है जो अपने ओपनक्ल ड्राइवर को अपंग करके बाजार को लॉक कर रहा है।
लेकिन एनवीडिया अग्रणी अंत में समाप्त हो रहा है और यहां तक ​​​​कि उनके अनैतिक विरोधी प्रतिस्पर्धात्मक अभ्यास भी उन्हें नहीं बचाएंगे। प्रभावशाली कूडा ऑटोट्रांसलेटर एचआईपी (https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP) के साथ
विंडोज़ में आने वाले आगामी वेगा एपस और डीजीपीयूएस और एआरएम, एनवीडिया का कोई भविष्य नहीं है, यही कारण है कि उद्योग को ओपनसीएल/एसआईसीएल/एचआईपी/एचएसए को बहुत जल्द और व्यापक रूप से समर्थन देने की आवश्यकता है।

https://autodiff-workshop.github.io/slides/JeffDean.pdf की स्लाइड 40 के बारे में क्या?

हैलो, कि मैं योजना बना रहा हूं कि टेंसरफ्लो नए एएमडी राडेन इंस्टिंक्ट का समर्थन करेगा? (http://instinct.radeon.com/en-us/)

नमस्ते, क्या FPGAs के लिए TF-OpenCL समर्थन में कोई प्रगति हुई है?

@alexivia https://github.com/iteong/tensorflow/blob/master/tensorflow/stream_executor/platform.h#L30 कुछ महीने पहले हटा दिया गया था और Streamexecutor रोडमैप यह स्पष्ट नहीं है।

@bhack त्वरित प्रतिक्रिया के लिए धन्यवाद
तो, क्या इसका मतलब यह है कि कोई समर्थन नहीं है, या सही संचालन की गारंटी नहीं है?
इसके अलावा, मैंने इस धागे पर जो पढ़ा है, उससे मैं देखता हूं कि परीक्षण मुख्य रूप से एएमडी जीपीयू पर होते हैं ... क्या कोई इस ओपनसीएल पोर्ट के साथ एनवीडिया जीपीयू पर प्रशिक्षण नेट है?

Streamexecutor का नाम बदलकर LLVM समानांतर-लिबास में कर दिया गया था और अब accxel

क्या कोई Google सदस्य स्ट्रीम एक्ज़ीक्यूटर और https://reviews.llvm.org/rL285111 के बीच अंतर और रोडमैप की व्याख्या कर सकता है?

सीसी @ झेंग-xq

स्ट्रीम एक्सक्यूटर और https://reviews.llvm.org/rL285111 के बीच अंतर का जवाब देने के लिए @henline और @jlebar विशेषज्ञ हैं ?

Axcell और StreamExecutor अलग-अलग प्रोजेक्ट हैं। उन्हें मर्ज करने की कोई मौजूदा योजना नहीं है। मैं यह कहने के लिए TensorFlow लोगों पर छोड़ देता हूं कि वे स्विच करने की योजना बना रहे हैं या नहीं।

तो StreamExecutor और StreamExecutor llvm भी वही प्रोजेक्ट नहीं थे?

सही है, वे एक ही परियोजना नहीं हैं।

गुरु, 16 मार्च, 2017 को पूर्वाह्न 11:06 बजे, bhack [email protected] ने लिखा:

तो StreamExecutor और StreamExecutor llvm भी वही प्रोजेक्ट नहीं थे?

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-287143104 ,
या थ्रेड को म्यूट करें
https://github.com/notifications/unsubscribe-auth/AAJMh_4ODoCVglGRbFBs8UmtSEm6D47_ks5rmXoUgaJpZM4Gex3i
.

@jlebar अगली बार नामकरण के लिए एक रचनात्मक इकाई;) लेकिन शायद रचनात्मकता प्रेरणा की कमी नहीं थी बल्कि एक आंतरिक उपकरण का एक अपस्ट्रीमिंग प्रयास था जो टीएफ में बनाए गए एक से अलग हो गया था ..

@bhack , हमने नाम बदल दिया, ठीक तब जब हमें एहसास हुआ कि हमने किया था
ऐसा नहीं लगता कि StreamExecutor को LLVM थोक में स्थानांतरित करना समझ में आता है। यह है
अब "Acxxel" कहा जाता है।

मुझे भ्रम के लिए खेद है और मैं प्रतिक्रिया की सराहना करता हूं.. यह एक था
निश्चित रूप से सीखने की प्रक्रिया।

गुरु, 16 मार्च, 2017 को पूर्वाह्न 11:24 बजे, bhack [email protected] ने लिखा:

@jlebar https://github.com/jlebar अगली बार नामकरण के लिए एक रचनात्मक इकाई
;) लेकिन शायद रचनात्मकता प्रेरणा की कमी नहीं थी बल्कि सिर्फ एक
एक आंतरिक उपकरण का अपस्ट्रीमिंग प्रयास जो बनाए रखने के लिए अलग हो गया
टीएफ में..

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-287148247 ,
या थ्रेड को म्यूट करें
https://github.com/notifications/unsubscribe-auth/AAJMh0MMZvdTJ-bUoa71FBrEqHqFpDjvks5rmX5IgaJpZM4Gex3i
.

हां, मुझे अभी भी StreamExecutor, SyCL in eigen, XLA (जिसमें वास्तव में केवल एक CUDA बैकएंड है, CPU और कुछ स्लाइड्स में opencl के अलावा) के बीच थोड़ा भ्रम है।

टक्कर

क्या Google में किसी ने इसे आसान बनाने के लिए Apple या AMD से बात की है? मुझे लगता है कि एएमडी लोग इतने खो गए हैं कि उन्हें पता भी नहीं है कि समस्या है और वे अभी भी सोच रहे हैं कि एनवीडिया के पास इतना बड़ा बाजार हिस्सा क्यों है। मुझे लगता है कि ऐप्पल एआई टीम भी यहां मदद करने से ज्यादा खुश होगी ... अगर ओपनसीएल 2013 से उनकी तरफ से एक त्याग नहीं था और इससे भी बदतर, उनके मालिक Google पर पागल नहीं होंगे।

इस पर नवीनतम क्या है?

टीएफ 1.1 रिलीज नोट्स के अनुसार मैक जीपीयू (केवल एनवीडिया) समर्थन को हटा दिया गया है। आइए आशा करते हैं कि इससे ओपनसीएल दृष्टिकोण में सुधार करने में मदद मिलेगी (इस पर बहुत भरोसा नहीं है)।

आप पीआर की स्थिति का भी अनुसरण कर सकते हैं https://github.com/tensorflow/tensorflow/pull/9117

धन्यवाद! मैं पिछले महीनों के दौरान इस मुद्दे का अनुसरण कर रहा हूं। मुझे Apple OpenCL प्रतिबद्धता के बारे में विश्वास नहीं है, क्योंकि वे 2013 से OpenCL 1.2 पर अटके हुए हैं (Apple अभी तक SPIR 1.2 समर्थन प्रदान नहीं कर रहा है)।

यदि OpenCL पर TensorFlow आपके काम में आपकी मदद करेगा, तो मुझे बताएं कि मैं किस हद तक गहन शिक्षण के उन्नत अनुसंधान और अभ्यास में मदद कर सकता हूं, मैं मदद करना चाहता हूं। मेरी कंपनी ने ऑन-डिवाइस अनुमान में हमारे काम के हिस्से के रूप में विभिन्न प्रकार के GPU के लिए ट्यून किए गए TensorFlow के लिए एक OpenCL बैक एंड बनाया है। हमने विंडोज़ और मैक पर सामान्य कॉन्फ़िगरेशन सहित प्रमुख मोबाइल और डेस्कटॉप जीपीयू परिवारों पर परीक्षण किया है। यदि पर्याप्त रुचि है तो हम किसी प्रकार का सार्वजनिक वितरण कर सकते हैं। हमारे पास मेटल (ऐप्पल जीपीयू) और एलएलवीएम (सीपीयू) भी है, साथ ही शून्य-निर्भरता परिनियोजन करने का एक तरीका भी है। यहां हर उपकरण को गहन सीखने के लिए महान समर्थन देने का विचार है।

@choongng - यह सब अविश्वसनीय रूप से उपयोगी और सहायक लगता है। मेरा निजी प्रोजेक्ट https://github.com/Synopsis/ OS X पर OpenCL के साथ-साथ iOS और डेस्कटॉप परिनियोजन के लिए मेटल से बहुत लाभान्वित होगा। यदि इसके लिए Tensorflow के लिए उचित रूप से पेश किया जाना संभव है, तो मुझे लगता है कि यह कई डेवलपर्स के लिए एक जबरदस्त वरदान होगा।

धन्यवाद।

@choongng

यदि आपकी कंपनी एक OpenCL संस्करण प्रकाशित करती है, या अधिक दिलचस्प TensorFlow का धातु संस्करण प्रकाशित करती है, तो मुझे लगता है कि यह बहुत से लोगों के लिए एक अच्छी खबर होने जा रही है, मैं TensorFlow प्राप्त करने के लिए एक NVidia कार्ड के साथ एक eGPU बनाने की प्रक्रिया में हूँ / मेरी नौकरी के लिए एमबीपी पर चल रहे केरस...

रुचि रखने वाले लोगों के लिए ... eGPU.io समुदाय पर जाएं

@choongng

मुझे इसे देखने में बहुत दिलचस्पी होगी, इसलिए मैं आपका बहुत आभारी रहूंगा कि आप इसे आगे बढ़ा सके! खासकर अगर इसे स्केची क्लोज-सोर्स कंपाइलर्स की आवश्यकता नहीं है, तो TF ने CL सपोर्ट के लिए चुना है।

26 अप्रैल 2017 को 03:33:51 जीएमटी+01:00, चूंग एनजी नोटिफिकेशन @github.com ने लिखा:

अगर OpenCL पर TensorFlow आपके काम में आपकी मदद करेगा, तो मुझे बताएं
जिस हद तक मैं गहन शिक्षण के अनुसंधान और अभ्यास को आगे बढ़ाने में मदद कर सकता हूँ I
मदद करना पसंद है। मेरी कंपनी ने TensorFlow के लिए एक OpenCL बैक एंड बनाया है
ऑन-डिवाइस अनुमान में हमारे काम के हिस्से के रूप में विभिन्न प्रकार के GPU के लिए ट्यून किया गया है।
हमने प्रमुख मोबाइल और डेस्कटॉप GPU परिवारों पर परीक्षण किया है जिनमें शामिल हैं
विंडोज और मैक पर सामान्य कॉन्फ़िगरेशन। यदि पर्याप्त रुचि है तो हम
किसी प्रकार का सार्वजनिक वितरण कर सकते हैं। हमारे पास मेटल (Apple GPU) भी है
और एलएलवीएम (सीपीयू), शून्य-निर्भरता परिनियोजन करने के तरीके के साथ।
यहाँ हर उपकरण को गहन सीखने के लिए महान समर्थन देने का विचार है।

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपने टिप्पणी की थी।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -297220160

--
K-9 मेल के साथ मेरे Android डिवाइस से भेजा गया। मेरे संक्षिप्तता को माफ़ करो।

मुझे लगता है कि यह क्रांतिकारी होगा;)

@choongng शायद अगर आप इन लोगों के साथ सेना में शामिल हों तो इससे मदद मिलेगी
https://github.com/benoitsteiner/tensorflow-opencl

@cathalgarvey आप किस ओपन सोर्स कंपाइलर का उपयोग करने का प्रस्ताव रखते हैं? जंगली में बहुत सारे उपकरणों को संबोधित करने के लिए ओपन सोर्स ओपनसीएल-अनुपालन समाधान खोजना मुश्किल है ...
हमें किसी बिंदु पर किसी समाधान को बूटस्ट्रैप करने की आवश्यकता है ...

मैंने यह नहीं कहा कि यह एक आसान फिक्स था। लेकिन, ओपनसीएल समस्या नहीं है। आखिरकार, CUDA पूरी तरह से मालिकाना है, यहां तक ​​​​कि OpenCL विकल्प TensorFlow से भी बदतर है।

इतना ही नहीं, यदि आप स्क्रैच से शुरू कर रहे हैं, तो पोर्टेबल मिडलवेयर रनटाइम्स या एरेफायर इत्यादि सहित सीएल-या-क्यूडा सिस्टम के लिए विकल्प हैं। हालांकि टेंसरफ्लो भी सीयूडीए से जुड़ा हुआ है।

मुझे यह निराशाजनक लगता है कि लोग CUDA में कर्नेल लिखने के लिए तैयार हैं, लेकिन CL के लिए ऐसा करने से कतराते हैं, भले ही यह अधिक उपयोगकर्ताओं तक पहुंचेगा और बाजार पारिस्थितिकी तंत्र को गंभीरता से बढ़ाएगा। सभी के लिए एक खुले मंच के प्रत्यक्ष और अप्रत्यक्ष लाभ हैं, जिससे संभवतः लंबे समय में सभी के लिए बड़ी लागत बचत हो सकती है।

यदि SYSCL है तो यह अंततः कैसे होता है, बढ़िया: तो कुछ बड़े नाम फ्रिंज मालिकाना विकल्पों में खरीदने के बजाय एक खुले SYSCL वितरण पर पैसा क्यों नहीं लगा रहे हैं, किस तरह की हार एक खुले मानक के उद्देश्य को विफल करती है?

28 अप्रैल 2017 को 09:13:06 GMT+01:00, Ronan Keryell [email protected] ने लिखा:

@cathalgarvey आप किस ओपन सोर्स कंपाइलर का उपयोग करने का प्रस्ताव रखते हैं?
ओपन सोर्स ओपनसीएल-संगत समाधान खोजना मुश्किल है
जंगली में बहुत सारे उपकरणों को संबोधित करें ...
हमें किसी बिंदु पर किसी समाधान को बूटस्ट्रैप करने की आवश्यकता है ...

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -297936468

--
K-9 मेल के साथ मेरे Android डिवाइस से भेजा गया। मेरे संक्षिप्तता को माफ़ करो।

इस संदर्भ में मैं जो पूछना चाहता हूं वह यह है:

इसलिए Tensorflow जैसे कुछ गहन शिक्षण ढांचे कुछ हद तक CUDA के विकल्प के रूप में opencl के उपयोग की खोज कर रहे हैं। बेशक CUDA सिर्फ "भाषा" है जिस पर cuDNN विकसित किया गया था, और वह है (यदि मेरी समझ सही है) वास्तव में सबसे गहरी सीखने वाली भाषाएं उपयोग कर रही हैं। इस संदर्भ में, मुझे यकीन नहीं है कि cuDNN का ओपनक्ल संस्करण क्या है।

साथ ही AMD CUDA के ओपन-सोर्स विकल्पों के बारे में बात कर रहा है जिसे वे लगातार विकसित कर रहे हैं और rocM को कॉल कर रहे हैं। वे miOpen के बारे में भी बात कर रहे हैं जो cuDNN समकक्ष (सामान्य गहन शिक्षण कार्यों के लिए दस्तकारी असेंबलर लाइब्रेरी) है, जो कि अभी तक जारी नहीं किया गया है। एएमडी दृष्टिकोण कुछ अधिक समग्र है: हम केवल GPU के लिए भारी-गणना का निर्यात नहीं कर रहे हैं।

इस संदर्भ में, मैं वास्तव में भ्रमित हूँ। ऊपर सूचीबद्ध लोगों की तरह ओपनसीएल प्रयास एक साथ कैसे फिट होते हैं? NVIDIA GPU के लिए, यह आसान है... CUDA है, और CUDA में cuDNN लिखा है। गैर-एनवीआईडीआईए/या इस मामले में एएमडी के लिए, यह इतना कम स्पष्ट लगता है। एचआईपी को कब प्राथमिकता दी जाती है? एचसीसी का उपयोग कब पसंद किया जाता है? ओपनक्ल का उपयोग कब पसंद किया जाता है? किसी भी अंतर्दृष्टि की वास्तव में सराहना की जाएगी!

@cathalgarvey इन सभी विशाल सॉफ्टवेयर/हार्डवेयर इन्फ्रास्ट्रक्चर के पीछे बहुत सारी राजनीति है ... :-(
भले ही हम शुद्ध वैज्ञानिक मानदंडों के आधार पर क्लीन-स्लेट समाधान का सपना देख सकें, मुझे लगता है कि हमें व्यावहारिक होना चाहिए।
Google TensorFlow आर्किटेक्चर में बहुत अधिक बदलाव नहीं करना चाहता है। यही कारण है कि ओपनसीएल-आधारित आर्किटेक्चर बहुत समान होना चाहिए, जिसमें निचले स्तर के गैर-एकल-स्रोत ओपनसीएल सी समाधान के बजाय सिंगल-सोर्स सी ++ जैसे "सीयूडीए रनटाइम" की आवश्यकता होती है। ख्रोनोस दायरे में, ओपनसीएल के सिंगल-सोर्स सी ++ संस्करण को एसवाईसीएल कहा जाता है।
उदाहरण के लिए, जब आप डबलिन द्वारा ड्रॉप करते हैं, तो इस पर चर्चा करें, क्योंकि आप आयरलैंड में भी आधारित दिखते हैं। :-)
इस बीच, https://github.com/triSYCL/triSYCL और SYCL से निपटने वाली TensorFlow और Eigen शाखाओं में योगदान करने के लिए स्वतंत्र महसूस करें...

@keryell क्या आप जानते हैं कि क्या XLA : GPU : OpenCL की योजना SyCL पर है?

हाय @benoitsteiner , के बारे में:

समग्र TensorFlow प्रलेखन में एक OpenCL विशिष्ट खंड में। इसे जल्द ही tensorflow.org साइट पर प्रकाशित किया जाएगा।

मैंने ओपनसीएल के लिए tensorflow.org पर एक खोज की और ऐसा कुछ भी महत्वपूर्ण नहीं लग रहा था, ऐसा लगता है कि यह सब यहां वापस इंगित करता है। "जल्द ही" से, क्या आपका मतलब ______ से पहले है? ( _मजेदार व्यंग्य यहां डालें_)।

मैं आपके रेपो को संकलित करने में सक्षम था (याय!), हालांकि मैं अनुमान लगा रहा हूं कि मैक के लिए काम कर रहे Tensorflow OpenCL बनाने के लिए इसे कुछ और चाहिए; मैंने उल्लेखित triSYCL कंपाइलर बनाने की कोशिश की लेकिन दुख की बात है कि असफल रहा।

@bhack चूंकि मैं Google के लिए काम नहीं करता, मुझे XLA विवरण के बारे में कोई जानकारी नहीं है ...

@dylib दुर्भाग्य से यह सब एक प्रगति पर है ...

@keryell हाँ मुझे पता है .. कुछ बैठकों में चर्चा होने पर मैं बस उत्सुक था।

ओपनसीएल सीयूडीए से मौलिक रूप से अलग है। हालाँकि मैं निश्चित रूप से इसे इसके बजाय HIP में पोर्ट करते हुए देखूंगा।
तो +1 आप सभी के लिए जिन्होंने इसका सुझाव दिया।
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP

HIP डेवलपर्स को CUDA कोड को पोर्टेबल C++ में बदलने की अनुमति देता है। उसी स्रोत कोड को NVIDIA या AMD GPU पर चलाने के लिए संकलित किया जा सकता है

एचआईपी के बारे में बहुत कम लोग जानते हैं।
आप यहाँ tensorflow और HIP के बारे में अधिक जानकारी प्राप्त कर सकते हैं:
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/37
तथा
https://github.com/GPUOpen-ProfessionalCompute-Tools/HIP/issues/45

साइड नोट:
मुझे नहीं लगता कि हमें एनवीडिया बनाम एएमडी के बारे में लड़ना / डींग मारना चाहिए। वे सम्मानजनक कंपनियां हैं जो अद्भुत हार्डवेयर और सॉफ्टवेयर अवधि बनाती हैं। इसके बजाय हमें एक बड़े उपयोगकर्ता आधार पर टेंसरफ़्लो देने पर ध्यान देना चाहिए।
बाइंडिंग के माध्यम से कई भाषाओं को लक्षित करना पहले से ही एक अच्छा प्रारंभिक बिंदु है, लेकिन हमें अधिक से अधिक हार्डवेयर को लक्षित करने की भी आवश्यकता है। (भले ही क्लाउड समाधान अद्भुत हों, वे हमेशा उत्तर नहीं होते हैं)

हमारे पास यहां स्ट्रीम में एचआईपी के साथ अनुभव है। मुझे देखने दो।

"मेरी कंपनी बेहतर है" बहस पर सहमत हों। मैं जानना चाहता हूं कि कौन से GPU TensorFlow को लक्षित किया जाना चाहिए। इसे व्यावहारिक और उपयोगी होना चाहिए। उदाहरण के लिए इंटेल जीपीयू या एम्बेडेड जीपीयू (क्वालकॉम, एआरएम, इमेजिनेशन), रास्पबेरी पाई - हाँ या नहीं?

AMD Radeon वेगा फ्रंटियर संस्करण

हम अपने ROCm ओपन सॉफ्टवेयर प्लेटफॉर्म और मशीन लर्निंग लाइब्रेरी में आक्रामक रूप से सुधार करना जारी रखते हैं। हम कैफ (अप्रैल में जारी) जैसे ओपन मशीन इंटेलिजेंस फ्रेमवर्क का भी समर्थन कर रहे हैं। बाद में इस तिमाही में हम मशाल के लिए समर्थन की पेशकश करने की योजना बना रहे हैं, और टेंसर फ्लो पर काम चल रहा है।

उन्होंने पहले ही कैफ जारी कर दिया है, इस धागे पर दूसरों को बिल्डिंग/परीक्षण के साथ अपने अनुभव साझा करने में बहुत दिलचस्पी होगी:

https://github.com/ROCmSoftwarePlatform/hipCaffe

मैंने इंस्टॉल करना शुरू कर दिया है लेकिन एक रोडब्लॉक मारा है जहां सीएल की आवश्यकता होती है, यहां तक ​​​​कि clinfo भी जमा हो जाती है। सुनिश्चित नहीं है कि यह किसी सॉफ़्टवेयर समस्या के कारण है, या यदि मेरा कार्ड (R9 390) केवल ROCm द्वारा समर्थित नहीं है।

17 मई 2017 को 15:18:32 जीएमटी+01:00, ब्रायन ली नोटिफिकेशन @github.com ने लिखा:

एएमडी रेडियन वेगा फ्रंटियरसंस्करण

हम अपने आरओसीएम ओपन सॉफ्टवेयर प्लेटफॉर्म में आक्रामक रूप से सुधार करना जारी रखते हैं
और मशीन लर्निंग लाइब्रेरी। हम खुली मशीन का भी समर्थन कर रहे हैं
कैफ जैसे खुफिया ढांचे (अप्रैल में जारी)। बाद में यह
जिस तिमाही में हम मशाल के लिए समर्थन की पेशकश करने की योजना बना रहे हैं, और टेंसर फ्लो में है
काम।

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -302103815

--
K-9 मेल के साथ मेरे Android डिवाइस से भेजा गया। मेरे संक्षिप्तता को माफ़ करो।

@cathalgarvey मैं AMD के GPU पर Caffe OpenCL शाखा का उपयोग कर रहा हूं और यह ठीक काम करता है। make run test एक को छोड़कर सभी परीक्षण पास कर लिया

सुन कर अच्छा लगा; क्या मैं आपके HW/SW सेटअप के बारे में पूछ सकता हूँ? जैसे, आप किस कार्ड के हैं
लिनक्स के किस डिस्ट्रो/संस्करण का उपयोग कर रहे हैं, आदि?

मेरे पास पहले AMDGPU-pro था, लेकिन ROCm इंस्टॉल करते समय इसे अनइंस्टॉल कर दिया।
यह संभव है कि कोई पुरानी चीज़ मेरे साथ हस्तक्षेप कर रही हो।

--
@onetruecathal / @ [email protected]

बुधवार, 17 मई, 2017 को अपराह्न 3:50 बजे, ब्रायन ली नोटिफिकेशन @github.com
लिखा था:

@cathalgarvey मैं एएमडी के जीपीयू पर कैफ ओपनसीएल शाखा का उपयोग कर रहा हूं और
यह ठीक काम करता है। मेक रन टेस्ट ने एक को छोड़कर सभी टेस्ट पास कर लिए

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें, या थ्रेड को म्यूट करें।

@cathalgarvey

• कैफे ओपनसीएल शाखा (परीक्षण प्रतिबद्ध c61d48746b2df1d237c64abc7416342ce98f3251 )
• ओएस: उबंटू 16.04.2 एलटीएस
• पोलारिस (RX460), फिजी (फ्यूरी एक्स) और टोंगा (W7100) पर परीक्षण किया गया
• ड्राइवर: Linux 16.40 या इसके बाद के संस्करण के लिए AMDGPU-Pro ड्राइवर
• वियनासीएल
• सामान्य निर्भरताएँ: libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compiler libatlas-base-dev libblas-dev libgflags-dev libgoogle-glog-dev liblmdb-dev libboost-all-dev cmake python-numpy
• सेमेक: cmake -DViennaCL_INCLUDE_DIR=<wherever you downloaded ViennaCL>/ViennaCL-<version> -DOPENCL_INCLUDE_DIRS=<wherever you downloaded ViennaCL>/ViennaCL-<version>/CL/ -DOPENCL_LIBRARIES=/opt/amdgpu-pro/lib/x86_64-linux-gnu/libOpenCL.so.1 ..

हां, उपरोक्त ओपनसीएल शाखा के अतिरिक्त, नायबाफ7 एएमडी और एचडी ग्राफिक्स का उपयोग करके कमोडिटी हार्डवेयर पर रीयल-टाइम अनुमान के लिए इसका उपयोग करने पर एक पुस्तक (बहुत जल्द) प्रकाशित करेगा।

आह; मैं हिपकैफ के बारे में बात कर रहा था, ओपनसीएल शाखा नहीं:

https://github.com/ROCmSoftwarePlatform/hipCaffe

हिपकैफ बनाने/परीक्षण करने के लिए आरओसीएम स्थापित करने के लिए मुझे अनइंस्टॉल करना पड़ा
एएमडीजीपीयू-प्रो, शायद मैं फिर से वेनिला शाखा की कोशिश करूंगा। यह खराब है
प्रलेखित, दुर्भाग्य से .. मुझे लगता है कि मैं एक अंधा "बनाने" की कोशिश करूँगा और देखूंगा।

इसलिए, मुझे अभी भी AMD के साथ दूसरों के अनुभव सुनने में दिलचस्पी है
आरओसीएम/हिप स्टैक; अगर वे एक Tensorflow कांटा पर काम कर रहे हैं तो यह बहुत अच्छा होगा,
बशर्ते यह वास्तव में एएमडी कार्ड के 3/4 से अधिक मॉडलों पर काम करता हो
जंगली।

--
@onetruecathal / @ [email protected]

बुधवार, 17 मई, 2017 को शाम 4:09 बजे, ब्रायन ली नोटिफिकेशन @github.com
लिखा था:

@cathalgarvey

कैफ ओपनसीएल शाखा (परीक्षण प्रतिबद्ध
c61d48746b2df1d237c64abc7416342ce98f3251)
ओएस: उबंटू 16.04.2 एलटीएस
पोलारिस (RX460), फिजी (फ्यूरी एक्स) और टोंगा (W7100) पर परीक्षण किया गया
ड्राइवर: Linux 16.40 या इसके बाद के संस्करण के लिए AMDGPU-Pro ड्राइवर
वियनासीएल
सामान्य निर्भरताएँ: libprotobuf-dev libleveldb-dev libsnappy-dev
libopencv-देव libhdf5-धारावाहिक-देव प्रोटोबफ-संकलक libatlas-आधार-देव
libblas-देव libgflags-dev libgoogle-glog-dev liblmdb-dev
libboost-ऑल-देव cmake git अजगर-सुन्न cmake
-
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें, या थ्रेड को म्यूट करें।

@cathalgarvey मुझे आशा है कि वे एक हिप बैकएंड पर काम कर रहे हैं, न कि पूर्ण कांटा। यह दुखद होगा और केवल काम करने के प्रयास को विभाजित करेगा।
पहले से ही पर्याप्त टूलिंग है: /

@YvanDaSilva AMD के प्रयास इस समय थोड़े खराब समन्वित हैं (हाँ, सभी कांटे)। उदाहरण के लिए, कैफे की ओपनसीएल शाखा के विपरीत, यह अभी तक बड़ी संख्या में उपकरणों पर काम नहीं कर रहा है ...

@naibaf7 मैं बिल्कुल सहमत हूँ।
सच कहूं तो उनके पास वास्तव में मानव संसाधनों की कमी लगती है, वे सभी मोर्चों पर काम कर रहे हैं।
वैसे: नहीं पता था कि ईटीएच में न्यूरोइनफॉरमैटिक्स था;) अच्छा!

@cathalgarvey क्या आप अपने जैसे आम आदमी के लिए ROCm/HIP स्टैक के बारे में विस्तार से बता सकते हैं। मैं अपने सागर द्वीप कार्ड के साथ एएमजीपीयू-प्रो और एएमडीजीपीयू खेल रहा हूं, इसलिए मुझे यकीन है कि मैं कुछ उपयोगी परिणाम पोस्ट कर सकता हूं।

@YvanDaSilva
उन्होंने मेरी मूल कैफ ओपनसीएल परियोजना को प्रायोजित किया, और दुर्भाग्य से अच्छी तरह से समन्वय नहीं किया, इसलिए एएमडी अनुसंधान और एएमडी में एक स्वतंत्र व्यक्ति ने समानांतर में ओपनसीएल बंदरगाहों पर भी काम किया - पूर्व एएमडी अनुसंधान टीम अब निष्क्रिय है और उनमें से ज्यादातर वास्तव में टेस्ला के लिए काम करते हैं ( सेल्फ ड्राइविंग कार प्रोजेक्ट) अब... तो घटनाओं की एक दुर्भाग्यपूर्ण श्रृंखला।
मैं अभी भी उनके साथ सहयोग और संपर्क में हूं। वेगा दिलचस्प होने जा रहा है :)

@naibaf7 नाइस, लकी यू! काश ऐसी पढ़ाई होती जब मैं हीग-वीडी में होता तो निश्चित रूप से एमएससी करता।

हाँ... मुझे यही लगा। इतना काम, इतने कम मानव संसाधन इन क्षेत्रों में उपलब्ध हैं।

वह सब चीजें बहुत अच्छी लगती हैं, लेकिन आइए TensorFlow को OpenCL SYCL के साथ काम करने और न केवल विक्रेता-विशिष्ट समाधान के बारे में चर्चा पर फिर से ध्यान दें ... :-)
मुझे आशा है कि RoC और अन्य HiP के पास अपने स्वयं के मुद्दों पर चर्चा करने के लिए अपना स्वयं का GitHub होगा ...
@ naibaf7 : कम से कम मैं अभी भी ओपनसीएल दायरे में हूं। फिर से क्लब में शामिल हों! :-)

@keryell मुझे लगता है कि HIP पर चर्चा मान्य है, अगर काम में Tensorflow के लिए HIP पोर्ट है। आखिरकार, आधिकारिक Tensorflow-on-CL समाधान एक मालिकाना SYCL ढांचे का उपयोग तेजी से सीमित प्लेटफॉर्म और कर्नेल समर्थन के साथ करना है, इसलिए यह वास्तव में "विक्रेता-विशिष्ट" HIP समाधानों से बेहतर नहीं है जो CUDA से बाहर एक नया तरीका प्रदान करते हैं।

एचआईपी ज्यादातर एएमडी अभी कर रहा है, लेकिन AFAIK यह एक खुला मानक है? शायद मैं गलत हूँ। यदि ऐसा है, और यदि AMD एक tensorflow-on-HIP पोर्ट वितरित कर सकता है, तो यह तुरंत आधिकारिक tensorflow-on-SYCL एक से अधिक खुला होगा।

HIP CUDA का एक सबसेट है, इसलिए यह CUDA जितना खुला है।

अच्छी बात है; HIP-the-API, CUDA-the-API का एक उपसमुच्चय है, लेकिन जब तक NVidia Oracle को चैनलिंग शुरू करने के लिए पर्याप्त लालसा नहीं करता है, मुझे संदेह है कि यह एक मुद्दा होगा। मैं एचआईपी के लिए रनटाइम/कंपाइलर का जिक्र कर रहा था, जिसमें से मुझे लगता है कि एएमडी ~ खुले हैं।

संपादित करें : क्षमा करें यदि उपरोक्त अशिष्ट लग रहा था; बस ऊपर मेरी स्थिति स्पष्ट करने की कोशिश कर रहा हूँ!

क्या वल्कन और ओपनक्ल का विलय होगा ?

राजा के रेडिट एएमए के अनुसार, वेगा MIOpen के माध्यम से Tensorflow, Cafe2, Cafe, Torch7 और MxNet का समर्थन करेगा।

@cathalgarvey चर्चा स्पष्ट रूप से मान्य है, लेकिन यहाँ नहीं ...
आप खरनोस समूह मानकों का उपयोग करते हुए TensorFlow और Eigen के बंदरगाह पर चर्चा करने वाले ट्रैक पर यहां गिटहब पर हैं।
यह ट्विटर या आपकी फेसबुक वॉल नहीं है... :-)
तो कृपया इन परियोजनाओं पर कुछ प्रतिबद्धताओं के साथ योगदान दें! :-)

TensorFlow को ComputeCpp, कोडप्ले के SYCL के कार्यान्वयन के साथ संकलित करने के लिए सेटअप गाइड का एक नया संस्करण है, ताकि OpenCL उपकरणों का उपयोग किया जा सके। इस पर आप हमें जो भी प्रतिक्रिया दे सकते हैं, हम उसकी सराहना करेंगे। https://www.codeplay.com/products/computesuite/computecpp/guides/how-to-setup-tensorflow-with-computecpp

क्या आपको पता है कि परीक्षण न किए गए AMD gpus पर काम करने के लिए सफलता दर क्या है? मुझे विशेष रूप से दिलचस्पी है अगर इसे AMD Radeon Pro 460 @rodburns के लिए परीक्षण किया गया है। मुझे अपने मैकबुक लैपटॉप पर ubuntu चलाने में कुछ घंटे बिताने में खुशी होगी अगर एक अप्रयुक्त GPU के साथ कोई उम्मीद है

@samhains हमने इसका परीक्षण नहीं किया है लेकिन आप इसे आज़मा सकते हैं। आपको उबंटू के साथ कुछ पुराने एएमडी ड्राइवरों का उपयोग करने की आवश्यकता होगी जो एसपीआईआर एक्सटेंशन का समर्थन करते हैं। मैं अभी तक यह पता नहीं लगा पाया हूं कि वे कौन से ड्राइवर हैं।

@samhains यदि कोडप्ले मार्ग वितरित करने में विफल रहता है, तो tf-coriander को याद न करें, जो अंततः उबंटू/मैक पर व्यावहारिक उपयोग की स्थिति में है।

मैं वर्तमान में इसे convnets, द्विदिश rnns, वगैरह पर परीक्षण कर रहा हूँ और सब कुछ बहुत अच्छा काम कर रहा है। यह "वेनिला" ओपनसीएल 1.2 पर चलता है ताकि अपेक्षाकृत पुराने हार्डवेयर की एक विशाल श्रृंखला पर Tensorflow को सक्षम किया जा सके।

रगड़, अभी के लिए, यह Tensorflow 0.11 पर आधारित है।

@रोडबर्न्स। मैंने लिंक पर सूचीबद्ध चरणों का पालन करने की कोशिश की https://www.codeplay.com/products/computesuite/computecpp/guides/how-to-setup-tensorflow-with-computecpp
मुझे निम्नलिखित त्रुटि मिलती है:
त्रुटि: /home/sayantan/.cache/bazel/_bazel_sayantan/6f05f78a1e215999d72e42c1e87a8c1d/external/protobuf/ BUILD:609 :1: अघोषित समावेशन नियम '@protobuf_/:python/internal/sopiimplation. ':
असल में मुझे वही त्रुटि मिल रही है यदि मैं स्रोत से टेंसरफ़्लो संकलित करने का प्रयास करता हूं। मैंने इसे पहले संकलित किया है, सुनिश्चित नहीं है कि क्या बदल गया है।

@rahasayantan इसमें क्या शामिल है? --config=sycl के बिना संकलन करते समय भी आप इसे प्राप्त करते हैं?

@lukeiwanski : जैसा कि मैं समझता हूं कि बाज़ल प्रोटोबफ को संकलित करने की कोशिश कर रहा है और यह उप निर्देशिकाओं को ढूंढ या डाउनलोड नहीं कर रहा है। मैंने रिकर्सिव-सबमिशन के साथ एक पुल किया था, फिर भी इसमें वही समस्याएं हैं। और इसके बिना एक ही समस्या है --config = sycl. वास्तव में मुझे उसी मुद्दे का सामना करना पड़ रहा है जब मैं टेंसरफ्लो मुख्य प्रोजेक्ट से गिट पुल करता हूं। मुझे नहीं लगता कि यह ओपनसीएल से जुड़ा हुआ है, इसके कुछ मुद्दे जिस तरह से मैं खींच रहा हूं। जब मैं मैन्युअल रूप से गिट और संकलन के बिना आपके रेपो से प्रोजेक्ट ज़िप डाउनलोड करता हूं, तो यह ठीक से संकलित होता है, लेकिन फिर मुझे सेगमेंटेशन गलती मिलती है। मैंने आपके जीआईटी प्रोजेक्ट पर पहले ही इस मुद्दे को उठाया है और हम वहां बात कर रहे हैं, मैं उस थ्रेड पर सेगमेंटेशन गलती से संबंधित अपडेट दूंगा (चीजों को डुप्लिकेट करने का कोई बिंदु नहीं)। आपके जवाब के लिए धन्यवाद।

ओपनसोर्स ट्राईएसवाईसीएल आ रहा है। देखें https://github.com/triSYCL/triSYCL/pull/45

मेरे लिए यह स्थान नया है। टीएफ समर्थन ओपनसीएल देखने में बहुत दिलचस्पी है। मैं इस थ्रेड से अपडेट कैसे प्राप्त करूं?

एम्म्म...दिलचस्प, लेकिन क्यों? मेरा मतलब है कि Tensorflow शुरुआत में cuda लेकिन opencl क्यों चुनें? मुझे लगता है कि कुछ व्यावसायिक कारण?

हाय @ टेंसरफ्लॉवर-माली,

@hughperkins ने धनिया बनाया है जो OpenCL 1.2 उपकरणों पर NVIDIA® CUDA™ कोड चला सकता है। यदि आप TF को OpenCL 1.2 उपकरणों से कनेक्ट करने की आपकी आवश्यकता के अनुरूप हैं, तो आप यह देखना चाहेंगे। यदि आप उनके काम का उपयोग करने की योजना बना रहे हैं तो कृपया उनके नाम और उनके योगदान का श्रेय दें।

ऐसा लगता है कि मैक के लिए कभी भी OpenCL समर्थन देखने की उम्मीद कम से कम tf.zero हो गई है। मैंने अभी पढ़ा है कि TensorFlow Mac में अब स्पष्ट रूप से कोई GPU समर्थन नहीं होगा (1.2+):

Note: As of version 1.2, TensorFlow no longer provides GPU support on Mac OS X.

https://www.tensorflow.org/install/install_mac

मैक पर टीएफ-धनिया का परीक्षण किया जाता है, इसलिए यदि/जब यह संस्करण समानता तक पहुंचता है तो आप इसका उपयोग करने में सक्षम होना चाहिए।

22 जून 2017 को 11:46:51 सीईएसटी , dylib [email protected] ने लिखा:

ऐसा लगता है कि मैक के लिए कभी भी OpenCL समर्थन देखने की उम्मीदें खत्म हो गई हैं
थोड़ा से tf.zero । मैंने अभी पढ़ा है कि मैक अब नहीं होंगे
जाहिरा तौर पर कोई भी GPU समर्थन (1.2+):

Note: As of version 1.2, TensorFlow no longer provides GPU support on
Mac OS X.

https://www.tensorflow.org/install/install_mac

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -310331281

--
K-9 मेल के साथ मेरे Android डिवाइस से भेजा गया। मेरे संक्षिप्तता को माफ़ करो।

दुख की बात है क्योंकि अब एक eGPU और n Nvidia 980 Ti के अंदर हमें ड्राइवर काम करने और Cuda काम करने के लिए मिलता है

मेरे पास अभी तक अपने कॉन्फ़िगरेशन में Tensor Flow को आज़माने का समय नहीं है।

मेरे कंप्यूटर पर स्थापित वेबड्राइवर और कूडा टूलकिट और कूडा के नमूने अच्छी तरह से काम करते हैं

https://youtu.be/JN9fDmqf010

@cathalgarvey आपने कहा था कि आप tf-धनिया पर कन्वनेट का परीक्षण करते हैं, लेकिन ऐसा नहीं लगता कि अभी तक कन्वनेट काम कर रहे हैं। क्या आप कृपया स्पष्ट कर सकते हैं कि क्या आप tf-धनिया का उपयोग करके GPU पर चलने के लिए कन्वनेट प्राप्त करने में सफल रहे हैं?

एफवाईआई,
https://github.com/tensorflow/tensorflow/issues/10703

टेंसरफ़्लो अब OS X पर GPU का समर्थन क्यों नहीं करता है? मैं एक eGPU सेटअप के साथ Tensorflow का उपयोग करने की योजना बना रहा था जो मेरे पास है।

@justinrmiller वे दावा करते हैं कि वे अब मैक ओएस पर इसका परीक्षण नहीं कर सकते हैं, और इसलिए समर्थन को रोकने का फैसला किया। हालांकि, मुझे इस पर विश्वास करने में मुश्किल हो रही है। हाई सिएरा पर एगपस के विज्ञापन और नए एनवीडिया ड्राइवरों के साथ आगे बढ़ते हुए, अब ऐसा नहीं होगा।

@tscholak हाँ बिल्कुल। मैं अपने विंडोज़ बॉक्स को अच्छे के लिए खोदने के लिए अपने नए एगपू एनक्लोजर का उपयोग करने जा रहा था।

यह ध्यान में रखते हुए कि हालांकि एनवीडिया कार्ड ईजीपीयू बाड़ों में काम करते हैं, ऐप्पल केवल आधिकारिक तौर पर अपने देव किट में आरएक्स 580 का समर्थन करेगा, इसलिए ओपनसीएल की आवश्यकता दूर नहीं होगी।

मैक पर ओपनसीएल 1.2 है जिसका अर्थ है कि कोई सक्रिय ड्राइवर नहीं लगता है
विकास। मुझे लगता है कि TF में मेटल सपोर्ट जोड़ना एक श्रमसाध्य प्रक्रिया है
(Eigen और स्ट्रीम निष्पादक को सक्षम करना) लेकिन करने योग्य।

सूर्य पर, जुलाई 16, 2017 अपराह्न 3:17 बजे फेर्डिया मैककेओघ अधिसूचनाएं @github.com
लिखा था:

यह ध्यान में रखते हुए कि हालांकि एनवीडिया कार्ड ईजीपीयू बाड़ों में काम करते हैं, ऐप्पल
केवल आधिकारिक तौर पर RX580 को उनके देव किट में समर्थन करेगा, इसलिए इसकी आवश्यकता है
ओपनसीएल दूर नहीं जाएगा।

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपने टिप्पणी की थी।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-315634166 ,
या थ्रेड को म्यूट करें
https://github.com/notifications/unsubscribe-auth/ACFkv3bmDr_KFSydC-QW_xbuR008pvLXks5sOm_kgaJpZM4Gex3i
.

मैं macOS के लिए GPU समर्थन के परित्याग से बहुत दुखी हूँ।

अभी भी macOS पर GPU के लिए OpenCL सपोर्ट की तलाश है क्योंकि Apple, जाहिर है, जल्द ही किसी भी समय Nvidia GPU में बदलाव नहीं करेगा।

Tensorflow मेरी पसंद का इंजन है। मेरे मैकबुक प्रो या भविष्य के आईमैक प्रो पर स्थानीय रूप से जीपीयू त्वरण का उपयोग करना कमाल का होगा।

Microsoft के लिए यह Apple को तोड़फोड़ करने के लिए समझ में आता है, लेकिन चूंकि Google के पास कोई डेस्कटॉप OS नहीं है, इसलिए वे केवल खुद को नुकसान पहुंचा रहे हैं।

ईमानदारी से किसी को मुझसे ज्यादा होशियार मैक ओएस 10.13 के एमपीएस - मेटल परफॉर्मेंस शेड्स को एकीकृत करने पर ध्यान देना चाहिए, जिसमें बॉक्स के बाहर तंत्रिका नेटवर्क प्राइमेटिव के एक बड़े सेट के लिए समर्थन है। यह मोबाइल और डेस्कटॉप आईओएस और मैकोज़ टेन्सरफ्लो अनुमान परिनियोजन के लिए अद्यतित, उच्च प्रदर्शन जीपीयू की अनुमति देगा।

जैसा कि मैं इसे समझता हूं (वे कुछ भी प्रदान नहीं करते हैं) आप सेब आदिम के साथ प्रशिक्षित नहीं कर सकते हैं, लेकिन Tensorflow समर्थन के साथ शायद आप कर सकते हैं? मैं ऐप्पल प्लेटफॉर्म पर लोगों के लिए इसकी कल्पना करता हूं जो एक वरदान होगा।

मुझे नहीं लगता कि Google इसे आंतरिक रूप से प्रदान करेगा, और मेरे पास इसे स्वयं करने के लिए आवश्यक कौशल नहीं है। इस विचार को पोस्ट करना ताकि लोग मुझसे अधिक प्रतिभाशाली हों जो मैं इसे ले सकता हूं।

:)

Apple का उद्देश्य केवल Apple डिवाइस बेचना है। Google का उद्देश्य Google को व्यापक सेवाएं प्रदान करना है।

यदि आप एक ऐप्पल लैपटॉप की तरह एक ही डिवाइस के साथ एआई (लर्निंग) करने के इच्छुक हैं, तो आप "डीप लर्निंग" के बजाय "सतही सीखना" करेंगे, इसलिए बेहतर होगा कि आप ट्यूटोरियल के अलावा कुछ भी करना छोड़ दें। एक एकल उपयोगकर्ता के लिए एक प्रशिक्षित मॉडल में निष्कर्ष परिणाम, एक डिवाइस में (यहां तक ​​कि एक बहुत-से-मल्टीकोर फोन में भी), GPU के माध्यम से किया जा सकता है, लेकिन केवल सीपीयू के साथ पूरी तरह से करने योग्य है।

दूसरी ओर, यदि आप सीखने के लिए बहुत बड़े डेटासेट खिला रहे हैं या आप बहुत बड़े समवर्ती ग्राहक समूहों के लिए प्रशिक्षित अनुमान की सेवा करने वाले हैं, तो GPU की बिल्कुल आवश्यकता है।

हालांकि, इतने बड़े पैमाने पर इसे करना नेटवर्क की समस्या के कारण इतना आसान नहीं है। बस टीपीयू-पॉड्स की भौतिक वास्तुकला पर एक नज़र डालें। यह एक लैपटॉप के एंटीपोड में है (मेमोरी-ओवरलोडेड मल्टी-कोर सर्वर के लिए कई जीपीयू, इंटर-सर्वर संचार के लिए समर्पित ऑप्टिकल-फाइबर के साथ)।

मेरे पास मैकबुक प्रो है। क्लाउड पर जाने के लिए यह एक अच्छा टर्मिनल है :-D

मुझे लगता है कि धातु पर टीएफ आईओएस तक भी विस्तारित हो सकता है। अगर कोई इसे लेने में दिलचस्पी रखता है, तो मैं पहले ईजिन को धातु समर्थन जोड़ने की सलाह देता हूं (ओपनसीएल को संदर्भ के रूप में उपयोग कर सकता हूं)।

@rogerpasky स्कूल के लिए मुझे प्रशिक्षण मॉडल के लिए Tensorflow का उपयोग करना था, न कि केवल एक मॉडल के मूल्यांकन के लिए। और मुझे निकट भविष्य में इसे फिर से दोहराना होगा। मेरे जैसे छात्रों के लिए, बहुत समय बचाने के लिए, GPU पर प्रशिक्षण होना आवश्यक है। यह केवल एकाधिक समवर्ती उपयोगकर्ता की सेवा करने की बात नहीं है।

@rogerpasky यह मैक पर स्थानीय रूप से मॉडल और समाधान विकसित करने की क्षमता के बारे में है

@rogerpasky सम्मानपूर्वक असहमत हैं। जबकि क्लाउड आधारित मल्टी-जीपीयू समाधान इंटरनेट सेवाओं के लिए बहुत अच्छा काम करते हैं, मैं पेशेवर वीडियो उत्पादन पाइपलाइनों को लक्षित कर रहा हूं जहां प्रो-रेस और असम्पीडित एचडी, 2 के, 4 के फुटेज के घंटों और घंटों पर अनुमान लगाया जा रहा है, जो ए) कोई प्रोडक्शन हाउस नहीं है क्लाउड पर अपलोड करने जा रहे हैं, बी) वे नहीं चाहते हैं कि Google या जिनके पास उनका डेटा हो, सी) उनके पास स्थानीय रूप से मल्टी जीपीयू सक्षम सिस्टम (मैक और विंडोज) से भरे कमरे हैं, जिनका वे लाभ उठाना चाहते हैं, और डी) जबकि एक छवि पर अनुमान सीपीयू पर ठीक है, कई ग्राफ के माध्यम से अनुमान के लिए पूरी फिल्में चलाना 100% एमपीएस बनाम सीपीयू जैसे कुछ का उपयोग करके पूर्णता में वृद्धि देखता है। क्योंकि समुदाय ने मानकों का समर्थन / गले लगाने से इनकार कर दिया है और इसके बजाय केवल एनवीडिया कोड का उपयोग करता है, वास्तविक दुनिया के उपयोग के मामलों में कबूतर हो जाते हैं और यह वास्तव में शर्म की बात है।

यह किसी ऐसे व्यक्ति का बेकार अनुरोध नहीं है जो एक शौक़ीन चल रहे ट्यूटोरियल है - GPU का अनुमान महत्वपूर्ण है क्योंकि वास्तविक विश्व हार्डवेयर पर विविध कार्यभार के लिए विविध GPU / CPU परिवारों का समर्थन कर रहा है। मुझे वाकई उम्मीद है कि Google इसे गंभीरता से लेगा, क्योंकि टीएफ जैसी एकल लाइब्रेरी के साथ रहना बहुत अच्छा होगा, जो कि कमाल है।

मुझे सुनने के लिए धन्यवाद, मैं शेखी बघारने की कोशिश नहीं कर रहा हूं, बल्कि समुदाय को एक वैकल्पिक दृष्टिकोण प्रदान करने की कोशिश कर रहा हूं।

@pldelisle , @tscholak , @vade कृपया मुझे गलत न समझें। मुझे इसे प्राप्त करना अच्छा लगेगा, और यदि आप इस सूत्र में खोजते हैं तो मैं एक समर्थक के रूप में शामिल हुआ, लेकिन जहां तक ​​मैं इसका अनुसरण कर रहा हूं, मैं उस निष्कर्ष पर पहुंचा हूं जो मैंने लिखा था, सिर्फ इसलिए नहीं कि मुझे ऐसा लगता है (मुझे लगता है कि ए हजारों वीडियो के साथ प्रशिक्षित होने पर मैकबुक पिघल जाएगा :-डी), लेकिन वास्तविक उद्योग तथ्यों के साथ। इसे कम समय सीमा में हल करने की प्रतीक्षा न करें (IMHO, इसे कभी भी हल नहीं किया जाएगा क्योंकि Apple और Google iPhone/Android समस्या के बाद से एक-दूसरे से नफरत करते हैं)।

@rogerpasky मैक ओएस पर एनवीडिया जीपीयू के लिए पहले से ही सपोर्ट था। इसे 1.2 में हटा दिया गया था।

Note: As of version 1.2, TensorFlow no longer provides GPU support on Mac OS X.

मैंने एक ईजीपीयू (सॉनेट) के लिए अपना ऑर्डर रद्द कर दिया है और मेरे गेमिंग रिग पर सिर्फ डुअल बूट लिनक्स होगा, लेकिन लोगों द्वारा उपयोग की जा रही किसी चीज़ का समर्थन करना बंद करना एक तरह से बुरा है। वास्तव में एक eGPU (मॉडल प्रशिक्षण) के साथ अपने मैक पर ऐसा करने की उम्मीद कर रहा था, लेकिन मुझे लगता है कि अब ऐसा नहीं होगा: https://github.com/lengstrom/fast-style-transfer

@rogerpasky Er, आप जानते हैं कि CoreML केरस के माध्यम से टेंसर फ्लो मॉडल आयात करने का समर्थन करता है? Apple Google से 'नफरत' नहीं करता है, व्यवसाय व्यवसाय है, Apple के आपूर्तिकर्ताओं में से एक सैमसंग है। उसमें एक पल के लिए पढ़ें। Google, Apple, Samsung व्यवसाय हैं और वही करेंगे जो पैसा कमाते हैं। अलग नोट के रूप में। मेरा मैकबुक प्रो हजारों फिल्मों पर चल रहे अनुमान से पिघल नहीं गया है .. मुझे संदेह है कि सीयूडीए एनवीडिया से समर्थन और निरंतर समर्थन को अपनाने के लिए सुपर सुविधाजनक था और एएमडी से छूटे हुए अवसरों ने हमें वह स्थान दिया जहां हम हैं। मुझे नहीं लगता कि यह नापाक है, बस बदलाव करने की लागत बनाम प्रदर्शन डेल्टा बनाम पाठ्यक्रम में रहने की लागत।

मुझे संदेह है कि इस मुद्दे को हल करने में मदद के लिए कोई प्रतिभा साथ आएगी।

मैंने OpenCL, Mac, iOS, CoreML, Vulkan, आदि जैसे नए स्थानों पर गहन शिक्षा लाने के बारे में एक सहयोगी चर्चा के लिए एक Google समूह बनाया है। यदि आप इसे पूरा करने में मदद करना चाहते हैं तो कृपया शामिल हों और अपने उपयोग के साथ एक नोट पोस्ट करें। मामला या समस्या के किस हिस्से पर आप काम कर रहे हैं। एमआईओपेन, कोडप्ले के काम, टीएफ-धनिया, और मेरी कंपनी (वर्टेक्स.एआई) में एक आंतरिक परियोजना सहित टीएफ को अधिक प्लेटफार्मों पर लाने के प्रयासों पर पहले से ही लोग वास्तव में कड़ी मेहनत कर रहे हैं। डेवलपर्स और उपयोगकर्ताओं को एक ही स्थान पर प्राप्त करना बहुत अच्छा होगा क्योंकि ये सभी प्रयास निकट से संबंधित हैं।

https://groups.google.com/forum/#!forum/deep -learning-everywhere

@benoitsteiner @hughperkins @cathalgarvey
@rogerpasky @vade @tscholak @pldelisle @adityaatluri @ chocol4te @justinrmiller

@justinrmiller मेरे पास सिएरा (एक सॉनेट संलग्नक में टाइटन एक्सपी) पर एक ईजीपीयू है जो टेंसरफ्लो 1.2.1 (सीयूडीए 8, सीयूडीएनएन 6) चला रहा है, जो बहुत ज्यादा परेशानी नहीं थी अगर आपको खरोंच से निर्माण करने में कोई दिक्कत नहीं है। अगर आपको कोई परेशानी है तो मुझे बताएं।

tensorflow/core/common_runtime/gpu/gpu_device.cc:1045] Creating TensorFlow device (/gpu:0) -> (device: 0, name: TITAN Xp, pci bus id: 0000:4f:00.0)

In [5]: tf.__version__
Out[5]: '1.2.1'

@ danbarnes333 यह कमाल है! जानकारी के लिए धन्यवाद!

@ danbarnes333 cuDNN 6 के साथ निर्माण करने के लिए आपको tf 1.2 कैसे मिला? क्या आपने एलएलवीएम का इस्तेमाल किया था? जीसीसी? मैं केवल इसे cuDNN 5 के साथ बनाने में कामयाब रहा ...

एफवाईआई, https://machinelearning.apple.com/

@tscholak मैं इसे OpenCL पर रखने के लिए यहां पोस्ट नहीं करूंगा, लेकिन यहां दिए गए चरणों को संक्षेप में बताऊंगा।

@choongng मैं Google समूह में शामिल हो गया लेकिन यह शांत प्रतीत हो रहा है। तो मैं यहाँ शेख़ी करूँगा ;-)

1. मशीन लर्निंग / हाई परफॉर्मेंस / जीपीयू कंप्यूटिंग एक बेहद प्रतिस्पर्धी बाजार है। एनवीडिया, इसे पसंद करें या नहीं, बाजार पर हावी है और अपने कार्ड और सॉफ्टवेयर को बनियान के पास रखता है। यदि आपके पास बजट और समय सीमा है, तो आप अभी के लिए एनवीडिया के साथ कमोबेश अटके हुए हैं।

2. मेरे पास एक पुराना-ईश एएमडी कार्ड ("बोनेयर") और शून्य बजट - शौक़ीन है। मुझे कल की तरह आर्क लिनक्स पर मालिकाना AMD OpenCL 2 कार्यान्वयन के साथ caffe चल रहा है, और मुझे अभी-अभी AMD का खुला स्रोत MIOpen मिला है जो आज सुबह उसी तरह चल रहा है। वह मुझे कुछ मॉडलों को प्रशिक्षित करने देगा; बोनेयर लगभग 1800 GFLOPS एकल-परिशुद्धता शिखर पर है। तो अगर TensorFlow Bonaire पर OpenCL के साथ नहीं चलेगा तो मैं TensorFlow का उपयोग नहीं करूंगा।

3. यदि कोई बजट जादुई रूप से प्रकट होना चाहिए तो मैं एक इंटेल सीपीयू और एक एनवीडिया कार्ड खरीदूंगा और विक्रेता-समर्थित मालिकाना सॉफ्टवेयर चलाऊंगा। मैं Google, Red Hat, Canonical और AMD जैसे विक्रेताओं के लिए अवैतनिक QA कर रहा हूं।

   तीन साल से मेरे पास एक GPU से कुछ प्राप्त करने में मुझे तीन महीने (और तीन डिस्ट्रोस - फेडोरा 25, उबंटू 16.04 एलटीएस और आर्क) लगे हैं। फेडोरा के बग ट्रैकर में मेरे नाम के साथ अनफिक्स बग हैं। वही Ubuntu और Freedesktop.org के लिए जाता है। उन्हें ठीक करने वाले अधिकांश लोगों को या तो भुगतान नहीं किया जा रहा है, या उन्हें कुछ और करने के लिए भुगतान किया जा रहा है।

   हां, एएमडी के नए सीपीयू प्रभावशाली हैं, और हां, उनके अधिकांश सॉफ्टवेयर ओपन सोर्स हैं, लेकिन बजट और समय सीमा चीजों को बदल देती है। समर्थन कुंजी है। समर्थन ही सब कुछ है!

@znmeb मुझे यह भी नहीं पता था कि आप TF के लिए प्री-जीसीएन हार्डवेयर का उपयोग कर सकते हैं।
मेरी ताहिती के साथ मेरे पास केवल एक डिस्ट्रो (उबंटू 14.01.x) को फेंकने का समर्थन है क्योंकि एएमडी मालिकाना ड्राइवर केवल जीसीएन 1 के लिए पुराने लिनक्स कर्नेल के साथ काम करते हैं। (मुझे एसवाईसीएल के माध्यम से टीएफ + ओपनसीएल मिलता है (7970 पर परीक्षण नहीं किया गया))

जहां मैं काम करता हूं वहां पूरा आर एंड डी विभाग ग्रीन टीम चलाता है। उन सभी के पास PHD और सभी हैं लेकिन किसी ने भी cuda (न ही OCL) की एक भी पंक्ति नहीं लिखी है। लेकिन टूलींग यहां उनके Keras कार्यभार में तेजी लाने के लिए है। मैं अपने पुनर्नवीनीकरण खनन जीपीयू के साथ एक दूसरे जीवन को निचोड़ने की कोशिश कर रहा एक अजीब तरह का हूं।

tl; dr ग्रीन टीम सपोर्ट के अलावा केवल तभी दिखाई देगा जब AMD GPU मार्केट शेयर दिखाई दे।
यह चिकन और अंडे की समस्या है। मुझे वेगा के लिए आशा है ... लेकिन हाँ ... कोई 1080Ti हत्यारा नहीं है।

@acoye FWIW यहाँ GitHub पोस्ट है जो मुझे अप्रैल से थ्रैशिंग और Googling के बाद इस सप्ताह के अंत में जा रही है: https://github.com/BVLC/caffe/issues/5804#issuecomment-318789942 । https://github.com/cdeterman/gpuR/issues/77#issuecomment-318814154 भी देखें। वह मेरा मूल मुद्दा था - आर पर रैखिक बीजगणित में तेजी लाने के लिए मेरे बोनेयर का उपयोग करने की कोशिश कर रहा था।

@acoye
आप नवीनतम लिनक्स डिस्ट्रोस पर आगे बढ़ सकते हैं और एएमडीजीपीयू ड्राइवरों के साथ 4.11/4.12 जैसे हाल के कस्टम संकलित कर्नेल का उपयोग कर सकते हैं, रेडियन अक्षम और CONFIG_DRM_AMDGPU_SI=Y और/या CONFIG_DRM_AMDGPU_CIK=Y कर्नेल कॉन्फ़िगरेशन में सेट के साथ, साथ ही initramfs में 7970 (ताहिती) के लिए AMD फर्मवेयर => नवीनतम AMDGPU-PRO OpenCL किसी भी GCN कार्ड पर काम करेगा। RADEON ड्राइवरों के माध्यम से FGLRX (पुराने लिनक्स डिस्ट्रोस पर) और क्लोवर के बारे में भूल जाओ, दोनों उप-बराबर हैं।
प्री-जीसीएन कार्ड के बारे में भी भूल जाइए। मैंने कैफ के लिए विंडोज़ पर ओपनसीएल का उपयोग करके उनका परीक्षण किया, प्रदर्शन ऐसे पुराने कार्डों के लिए प्रयास करने लायक नहीं है। जैसा कि 2012 के बाद के सभी AMD कार्ड वैसे भी GCN होने चाहिए।

@ naibaf7 मैंने एएमडी के ओपन सोर्स स्टैक को काम करने की कोशिश में कल कुछ घंटे बिताए। मुझे MIOpen और इसकी निर्भरताएं मिलीं लेकिन hcc में अभी भी कुछ बिट्स गायब हैं। मुझे सब कुछ प्राप्त करने के लिए एक कस्टम कर्नेल निर्माण करने की आवश्यकता हो सकती है। मुझे सीयूडीए कोड को पोर्ट करने या जीपीयू पर संकलित सी ++ चलाने की ज्यादा परवाह नहीं है - मैं इस पर नंबर क्रंचिंग करना चाहता हूं। ;-)

मैंने असेंबलर में प्रोग्रामिंग के बारे में उनकी वेबसाइट पर कुछ भी देखा - जिसमें मुझे दिलचस्पी हो सकती है, क्योंकि असेंबलर से आगे जाना आसान है। ;-)

@znmeb हाँ, मैं अपने RX 480 पर कुछ MIOpen और TensorFlow सामान काम करने की कोशिश कर रहा हूँ, लेकिन मैं अपने मुख्य विकास रिग को नष्ट नहीं करना चाहता, इसलिए इसके बजाय मैं IOMMU वर्चुअलाइजेशन का उपयोग करता हूं और एक Ubuntu 16.04 वर्चुअल मशीन का उपयोग करता हूं जो उपयोग कर सकता है RX 480। AMD ड्राइवर वर्चुअलाइजेशन के लिए बहुत अनुकूल हैं (गेमिंग कार्ड के लिए बनाए गए nVidia ड्राइवरों के विपरीत - केवल क्वाड्रो ड्राइवर करते हैं)।

@znmeb आपको बस इतना करना है sudo apt-get install rocm miopen-hip

@adityaatluri यह आर्क यूजर रिपोजिटरी में है लेकिन यह इंस्टॉल नहीं होता है - यह गिटहब स्रोत से भी इंस्टॉल नहीं होता है। यह कुछ आसान जैसा दिखता है - इसे कुछ निर्भरता नहीं मिल रही है।

@znmeb क्या आप यहां एक मुद्दा बना सकते हैं (https://github.com/RadeonOpenCompute/ROCm/issues) ताकि हम वहां चर्चा कर सकें? धन्यवाद!

@adityaatluri ज़रूर - मैं रात के खाने के लिए जा रहा हूँ, लेकिन जब मैं वापस आऊँगा तो इसे फाइल करूँगा

@ebrevdo एएमडी प्रोसेसर के साथ मैक में टेंसरफ्लो जीपीयू का उपयोग करने का कोई तरीका?

@gautam1858 https://news.ycombinator.com/item?id=14894653

मेरी कंपनी कुछ समय से ओपनसीएल डीप लर्निंग पर काम कर रही है और हमारे पास दिखाने के लिए कुछ शुरुआती परिणाम हैं। हम निकट अवधि में केरस पर ध्यान केंद्रित कर रहे हैं, हालांकि हमने (बहुत) प्रयोगात्मक TensorFlow समर्थन भी बनाया है और हमारी प्रारंभिक रिलीज के बाद उस पर फिर से विचार करेंगे। एएमडी पर प्रारंभिक थ्रूपुट संख्या सहित यहां अधिक विवरण: http://vertex.ai/blog/bringing-deep-learning-to-opencl

ठंडा!

टिनी नाइटपिक: AFAIK, MIOpen AMD-विशिष्ट नहीं है, क्योंकि यह OpenCL के साथ-साथ ROCm से भी जुड़ सकता है। उत्तरार्द्ध शायद तेज है, लेकिन फिर भी; MIOpen "GPU पर ओपन सोर्स न्यूरल नेटवर्क्स" shtick के लिए एक बड़ा कदम है, और अगर यह OpenCL पर अच्छी तरह से काम करता है तो AMD इसके लिए बहुत बड़ा श्रेय प्राप्त करता है।

अगस्त 14, 2017 5:19 अपराह्न, "चूंग एनजी" ने लिखा:
मेरी कंपनी कुछ समय से ओपनसीएल डीप लर्निंग पर काम कर रही है और हमारे पास दिखाने के लिए कुछ शुरुआती परिणाम हैं। हम निकट अवधि में केरस पर ध्यान केंद्रित कर रहे हैं, हालांकि हमने (बहुत) प्रयोगात्मक TensorFlow समर्थन भी बनाया है और हमारी प्रारंभिक रिलीज के बाद उस पर फिर से विचार करेंगे। एएमडी पर प्रारंभिक थ्रूपुट संख्या सहित यहां अधिक विवरण: http://vertex.ai/blog/bringing-deep-learning-to-opencl (http://vertex.ai/blog/bringing-deep-learning-to-opencl)

—

आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें, इसे GitHub (https://github.com/tensorflow/tensorflow/issues/22#issuecomment-322235416) पर देखें, या थ्रेड को म्यूट करें (https://github.com/notifications/unsubscribe-auth /ABHR3VYHXFDEX0gPHTGLSbFeHjPfEfsXks5sYHOGgaJpZM4Gex3i)।

@cathalgarvey सुधार के लिए धन्यवाद, मैंने MIOpen प्रलेखन (https://rocmsoftwareplatform.github.io/MIOpen/doc/html/install.html#prequires) में सिस्टम आवश्यकताओं के बारे में अपनी टिप्पणी पर आधारित है, लेकिन अगर कोई है तो अपडेट करने में खुशी होगी बेहतर लिंक।

रुको, मैं इस धागे/मुद्दे को 10 मिनट से पढ़ रहा हूं। मैं आधा हो गया और मैं बाकी के माध्यम से छोड़ दिया। क्या AMD GPU अभी तक समर्थित हैं?

एक बारीक बंद स्रोत चीज़ का उपयोग करना जो केवल कर्नेल/ओएस (कोडप्ले) के एक बहुत पुराने संयोजन पर काम करता है: हाँ

टेंसरफ़्लो के पुराने संस्करण का उपयोग करना और अभी तक कुछ गैर-रेखीयताओं के लिए समर्थन के बिना (tf-धनिया): हाँ।

वास्तव में: आधिकारिक तौर पर नहीं। हालांकि एएमडी एचआईपी को पोर्ट कर रहा है, इसलिए मुझे 3 महीने या उससे भी कम समय में प्रगति की उम्मीद है। अन्य ढांचे पहले से ही उनके प्रयासों के कारण अच्छी तरह से काम कर रहे हैं।

18 अगस्त 2017 को 02:09:55 GMT+01:00, abrad1212 [email protected] ने लिखा:

रुको, मैं इस धागे/मुद्दे को 10 मिनट से पढ़ रहा हूं। मुझे आधा मिल गया
के माध्यम से और मैं बाकी के माध्यम से छोड़ दिया। क्या AMD GPU अभी तक समर्थित हैं?

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -323233294

--
K-9 मेल के साथ मेरे Android डिवाइस से भेजा गया। मेरे संक्षिप्तता को माफ़ करो।

FWIW मेरा मानना ​​है कि PyGpu के हाल के संस्करण CUDA या OpenCL का उपयोग कर सकते हैं। मेरे पास मेरे आर्क बॉक्स पर सभी सॉफ़्टवेयर स्थापित हैं, लेकिन मैंने अभी तक इसका परीक्षण नहीं किया है।

@ abrad1212 हाँ, यह मुद्दा कुछ समय से चल रहा है। प्रयास बड़े पैमाने पर है और बहुत से लोग "इसे काम करने" की कोशिश कर रहे हैं जैसा कि @cathalgarvey ने उल्लेख किया है।

हमारी तरफ से थोड़ा सा अपडेट। आपको Ubuntu 16.04 के लिए AMDGPU-pro ड्राइवर स्टैक पर ComputeCpp 0.3.0 का उपयोग करने में सक्षम होना चाहिए, निर्देश यहां पाए जा सकते हैं: http://deep-beta.co.uk/tensorflow-1-3-on-ubuntu-16 -04-एलटी/

साथ ही, हम अब विभिन्न मॉडलों के प्रदर्शन में सुधार पर ध्यान केंद्रित कर रहे हैं - करने के लिए बहुत कुछ है लेकिन हम वहां पहुंच रहे हैं।

@lukeiwanski बेंचमार्किंग के लिए आपका दृष्टिकोण क्या है? हम केरस के साथ शामिल मॉडलों को समय देते हैं और TF+cuDNN+K80 के खिलाफ सामान्यीकरण करते हैं क्योंकि यह एक सामान्य और अच्छी तरह से अनुकूलित कॉन्फ़िगरेशन है। हमारी कार्यप्रणाली मैक्स वूल्फ (http://minimaxir.com/2017/06/keras-cntk/) के समान है, यह ज्यादा कोड नहीं है लेकिन हमें इसे साझा करने में खुशी होगी। हमारे पास हमारी वेब साइट (http://vertex.ai) पर कुछ थ्रूपुट नंबर हैं, हमारा कोड एक्ससेप्शन अनुमान पर टीएफ 1.2 से बहुत तेज है और साथ-साथ अधिक दृष्टिकोणों की तुलना करना दिलचस्प होगा।

क्या कोई विंडोज़ समाधान हैं? मैं अपने पीसी पर उबंटू स्थापित करूंगा लेकिन मेरे पास वर्तमान में इसे करने के लिए पर्याप्त जगह नहीं है।

उबंटू 14.04
टेंसरफ़्लो मास्टर शाखा
ओपनसीएल समर्थन का निर्माण करें, और केवल ओपनक्ल इंटेल सीपीयू रनटाइम स्थापित करें।
अजगर2.7
https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow गाइड का पालन करें
अजगर को निष्पादित करें classify_image.py
ऐसा लगता है कि opencl ड्राइवर को कॉल नहीं किया। (मैंने अपना ओपनसीएल आईसीडी रैपर जोड़ा, कुछ भी नहीं देखा)
क्या पाइथन कोड में कोई कॉन्फ़िगरेशन जोड़ने की आवश्यकता है?
जैसे sess.graph.device('/cpu0')

लेकिन अगर मैं Eigen skcl गाइड का उपयोग करता हूं तो ओपनसीएल समर्थन के साथ सीपीयू पर चल सकता है। (इसके अलावा यह गाइड कोड थोड़ा पुराना है, कुछ संशोधन की जरूरत है)
https://developer.codeplay.com/computecppce/latest/getting-started-with-eigen

कोई भी व्यक्ति यह जांचने में मदद कर सकता है कि ओपनसीएल समर्थन के साथ टेंसरफ्लो पायथन इंटरफ़ेस भी कैसे चल सकता है।

और इस ऑप्ट सेट के साथ टेंसरफ़्लो का निर्माण वास्तव में टेंसरफ़्लो बाइनरी उत्पन्न नहीं करेगा। --config=sycl
बस इस कमांड में टेंसरफ़्लो बनाएँ:
बेज़ेल बिल्ड-सी ऑप्ट /टेंसरफ़्लो/टूल्स/पाइप_ पैकेज:बिल्ड_पिप_पैकेज

हो सकता है कि मैं भूल जाऊं --config=sycl
मैं कमांड बनाने का प्रयास करूंगा और सत्यापित करूंगा कि यह ओपनसीएल लाइब्रेरी को कॉल कर सकता है या नहीं। परिणाम प्राप्त करने के बाद, मैं यहां पोस्ट करूंगा।
बेज़ल बिल्ड-सी ऑप्ट टेंसरफ़्लो/टूल्स/पाइप_ पैकेज:बिल्ड_पिप_पैकेज

@ joe8086 यदि आप नीचे के साथ tf.Session निर्माण को संशोधित करते हैं तो यह टर्मिनल में एक लॉग दिखाएगा, क्या यह कहीं भी SYCL का उल्लेख कर रहा है?
tf.Session(config=tf.ConfigProto(log_device_placement=True))

ईजिन गाइड के लिए क्या आपके पास कोई विशिष्ट प्रतिक्रिया है जहां यह पुराना है?

@rodburns धन्यवाद।
मेरी गलती है बिल्ड टेंसरफ़्लो मिस कॉन्फ़िग विकल्प --config=sycl
इस विकल्प को इस शाखा कोड के साथ जोड़ने के बाद https://github.com/lukeiwanski/tensorflow.git
मैं ओपनसीएल बैकएंड के साथ टेंसरफ्लो रन देख सकता हूं।

Eigen गाइड के लिए, मुख्य त्रुटि यहां है:
1, सही फ़ाइल शामिल न करें।
2, सरणी के लिए, Tensor, TensorMap सही टेंपल पैरामीटर नहीं देते हैं।
3, static_cast के लिए डेटा प्रकार न दें।

अधिक जानकारी जोड़ें जो शायद इस चर्चा विषय को कुछ मदद दें।
1, मुख्य टेंसरफ़्लो --config=sycl सही के साथ टेंसरफ़्लो नहीं बना सकता।
2, सीपीयू ओपनसीएल के साथ, मेरे वातावरण में सामान्य सीपीयू कार्यान्वयन की तुलना में गति लगभग 4x ~ 8x गुना खर्च होती है।

समय अजगर classify_image.py
2017-09-07 16:56:29.076054: I tensorflow/core/platform/cpu_feature_guard.cc:137] आपका CPU निर्देशों का समर्थन करता है कि इस TensorFlow बाइनरी को उपयोग करने के लिए संकलित नहीं किया गया था: SSE4.1 SSE4.2 AVX
2017-09-07 16:56:29.077967: W ./tensorflow/core/common_runtime/sycl/sycl_device.h:49] कोई OpenCL GPU नहीं मिला जो OpenCL CPU को आज़माते हुए ComputeCpp द्वारा समर्थित हो
2017-09-07 16:56:29.159775: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:66] निम्नलिखित OpenCL डिवाइस मिले:
2017-09-07 16:56:29.159825: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:68] आईडी: 0, प्रकार: CPU, नाम: Intel(R) Core(TM) i7-6700HQ CPU @ 2.60GHz, विक्रेता: Intel(R) Corporation, प्रोफ़ाइल: FULL_PROFILE
2017-09-07 16:56: 30.213375: W ./tensorflow/core/framework/op_def_util.cc:333] Op BatchNormWithGlobalNormalization बहिष्कृत है। यह GraphDef संस्करण 9 में काम करना बंद कर देगा। tf.nn.batch_normalization() का उपयोग करें।
विशाल पांडा, पांडा, पांडा भालू, कून भालू, ऐलुरोपोडा मेलानोलुका (स्कोर = 0.89107)
इंद्री, इंद्री, इंद्री इंद्री, इंद्री ब्रेविकॉडैटस (स्कोर = 0.00779)
कम पांडा, लाल पांडा, पांडा, भालू बिल्ली, बिल्ली भालू, ऐलुरस फुलगेन्स (स्कोर = 0.00296)
कस्टर्ड एप्पल (स्कोर = 0.00147)
अर्थस्टार (स्कोर = 0.00117)

वास्तविक 1m44.473s
उपयोगकर्ता 2m8.980s
sys 1m20.024s

दोस्तों, मैं इस पूरे सूत्र को नहीं पढ़ने जा रहा हूँ, लेकिन अगर कोई मेरे प्रश्न का उत्तर दे सकता है तो यह बहुत अच्छा होगा! क्या मैं अभी तक एक AMD GPU के साथ Tensorflow का उपयोग कर सकता हूँ। यदि हां, तो किस ऑपरेटिंग सिस्टम में, और क्या मैं इसे RX वेगा के साथ कर सकता हूं? धन्यवाद!

@ M3L0NM4N हमम ... मैं धागे का पालन नहीं कर रहा हूं, लेकिन ऐसा लगता है कि अब संभवतः परीक्षण योग्य ओपनसीएल कोड है, कम से कम सीपीयू ओपनसीएल पर। मेरे पास एक पुराना एएमडी जीपीयू ("बोनेयर") है और मेरे पास जीपीयू और सीपीयू दोनों पर ओपनसीएल चल रहा है, इसलिए मैं इसका परीक्षण कर सकता हूं। मैं सप्ताहांत में इस पर एक शॉट ले सकता हूं; मैं वास्तव में अपने GPU पर OpenCL TensorFlow चाहता हूं।

tf-धनिया काम करता है https://github.com/hughperkins/tf-coriander

मैकोज़ पर कोई टेंसरफ़्लो 1.3 जीपीयू/ओपनसीएल समर्थन करता है?

नवीनतम समाचार: मैंने GitHub स्रोत से OpenCL के साथ TensorFlow 1.3.1 को सफलतापूर्वक बनाया है। दस्तावेज़ीकरण में कुछ गायब टुकड़े हैं, और मैंने अभी तक GPU में कुछ भी चलाने की कोशिश नहीं की है, लेकिन यह कम से कम गैर-ओपनसीएल सीपीयू के लिए काम कर रहा है। BTW, मेरे पास CPU OpenCL स्थापित नहीं है, बस GPU OpenCL है।

क्या किसी के पास OpenCL GPU के साथ TensorFlow के लिए कोई परीक्षण मामले हैं? मुझे अंततः अपने लिए एक निर्माण करना होगा लेकिन मैं एक त्वरित जाँच की उम्मीद कर रहा था।

@znmeb हाँ, मेरे द्वारा रिपोर्ट की गई समस्या में परीक्षण ऐप है। https://github.com/hughperkins/tf-coriander/issues/64

क्या आप कृपया मुझे बता सकते हैं कि क्या यह आपके मामले में काम करता है?

@unoexperto हाँ - यह काम करता है (क्रैश नहीं होता है) लेकिन इसका कोई संकेत नहीं है कि इसे ओपनसीएल मिला है या नहीं।

 python ./hello-tensorflow.py 
b'Hello, TensorFlow!'

मुझे लगता है कि यहां कार्रवाई का सबसे अच्छा तरीका दस्तावेज़ीकरण का अनुरोध करने के लिए एक अलग मुद्दा दर्ज करना है, क्योंकि यह स्पष्ट है (जब आप स्रोत से ./configure बिल्डिंग चलाते हैं) कि ओपनसीएल के लिए कोड है। इस तरह मैंने इसे पाया, वैसे भी।

@znmeb मुझे संदेह है कि इसे आपके मामले में GPU डिवाइस मिला है क्योंकि मेरे में इसने GPU डिवाइस के चयन के बारे में शुरुआत में डिबग जानकारी मुद्रित की थी। शायद आप $ tensorflow/core/common_runtime/gpu/gpu_device.cc में कहीं कंसोल करने के लिए जोड़े गए printf के साथ पुन: संकलित कर सकते हैं।

@unoexperto मैं Google समूह की चर्चा में शामिल हुआ और दस्तावेज़ीकरण के लिए एक अनुरोध पोस्ट किया। मैं इसमें और प्रयास करने से पहले यह देखने के लिए इंतजार कर रहा हूं कि कोई प्रतिक्रिया देता है या नहीं।

@znmeb आप किस निर्देश का पालन कर रहे हैं? क्या आपने क्लिनफो चलाया है? क्या आपने computercpp_info चलाया है? क्या यह इंगित करता है कि आपके OpenCL ड्राइवर अपेक्षित रूप से स्थापित हैं? Ubuntu 14.04 के लिए निर्देश यहाँ हैं https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow और यदि आप 16.04 का उपयोग कर रहे हैं तो यहाँ कुछ प्रयोगात्मक निर्देश हैं http://deep-beta.co। uk/tensorflow-1-3-on-ubuntu-16-04-lts/

@rodburns clinfo और clpeak दोनों चलते हैं। मैंने हाल ही में ऐसा नहीं किया है, लेकिन जब मैं स्रोत से कैफे बनाता हूं और परीक्षण चलाता हूं तो यह निश्चित रूप से GPU को हिट करता है। तो मुझे पूरा यकीन है कि ओपनसीएल/जीपीयू ड्राइवर/लाइब्रेरी काम कर रहे हैं।

मैं आर्क लिनक्स पर हूं - कर्नेल उनका एलटीएस है - लिनक्स-एलटीएस 4.9.52-1। यदि यह मायने रखता है, तो "बोनेयर" 32-बिट मोड में लगभग 1.7 टीएफएलओपीएस की चोटी पर है और एएमडी जीपीयू के "सी आइलैंड" परिवार में है।

bin/computecpp_info 
********************************************************************************

ComputeCpp Info (CE 0.3.2)

********************************************************************************

Toolchain information:

GLIBC version: 2.26
GLIBCXX: 20160609
This version of libstdc++ is supported.

********************************************************************************


Device Info:

Discovered 1 devices matching:
  platform    : <any>
  device type : <any>

--------------------------------------------------------------------------------
Device 0:

  Device is supported                     : UNTESTED - Untested OS
  CL_DEVICE_NAME                          : Bonaire
  CL_DEVICE_VENDOR                        : Advanced Micro Devices, Inc.
  CL_DRIVER_VERSION                       : 2442.7
  CL_DEVICE_TYPE                          : CL_DEVICE_TYPE_GPU 

If you encounter problems when using any of these OpenCL devices, please consult
this website for known issues:
https://computecpp.codeplay.com/releases/v0.3.2/platform-support-notes

क्या कोई परीक्षण लॉग एकत्र करता है? यह कहता है कि मेरा उपकरण परीक्षण नहीं किया गया है इसलिए मैं इसका परीक्षण करूंगा। ;-)

मेरे लिए Sycl/OpenCL के लिए TensorFlow बनाना असंभव है!

कॉन्फिग:
उबंटू 16.04
टेंसरफ़्लो r1.3
ओपनसीएल 2.0
ComputeCpp CE 0.3.2 (computecpp_info ठीक है)
इंटेल एचडी ग्राफिक्स 620
बेज़ेल 0.5.4

निर्देश स्थापित करें (ओपनसीएल इंटेल / कंप्यूटसीपीपी बिल्ड):
https://software.intel.com/en-us/articles/opencl-drivers#philinux
https://www.codeplay.com/portal/03-30-17-setting-up-tensorflow-with-opencl-using-sycl

त्रुटि :

ERROR: /home/erwang/workspace/ia/tf_original/tensorflow/tensorflow/core/kernels/BUILD:1695:1: C++ compilation of rule '//tensorflow/core/kernels:adjust_contrast_op' failed (Exit 1)
In file included from tensorflow/core/kernels/adjust_contrast_op.cc:19:
In file included from ./tensorflow/core/kernels/adjust_contrast_op.h:18:
In file included from ./third_party/eigen3/unsupported/Eigen/CXX11/Tensor:1:
In file included from external/eigen_archive/unsupported/Eigen/CXX11/Tensor:14:
In file included from external/eigen_archive/Eigen/Core:299:
In file included from external/local_config_sycl/crosstool/../sycl/include/SYCL/sycl.hpp:20:
In file included from external/local_config_sycl/crosstool/../sycl/include/SYCL/sycl_interface.h:54:
external/local_config_sycl/crosstool/../sycl/include/SYCL/multi_pointer.h:342:3: error: multiple overloads of 'global_ptr' instantiate to the same signature 'void (pointer_t)' (aka 'void (__attribute__((address_space(1))) float *)')

मेरे सीपीयू पर प्रशिक्षण मॉडल में उम्र लगती है, मुझे वास्तव में ओपनसीएल/जीपीयू त्वरण की आवश्यकता है ...

@ErwanGalline हम Eigen (https://bitbucket.org/benoitsteiner/opencl/pull-requests/16/changes-required-for-new-computecpp-ce/diff#comment-None) में बदलावों की प्रक्रिया में हैं, जो कि आप जो समस्या देख रहे हैं उसे ठीक करें।

साथ ही हम Eigen के प्रदर्शन में सुधार करने की तैयारी कर रहे हैं - यह थोड़ा मुश्किल है और मर्ज संघर्षों की धारा से बचने के लिए @benoitsteiner के साथ समन्वय की आवश्यकता है - लेकिन हम वहां पहुंच रहे हैं।

एएमडी उपयोगकर्ताओं के लिए मैं अपने कांटे को आज़माने का सुझाव दूंगा: https://github.com/lukeiwanski/tensorflow/tree/dev/amd_gpu
Ubuntu 16.04 के लिए सेट अप निर्देश यहां देखे जा सकते हैं: http://deep-beta.co.uk/tensorflow-1-3-on-ubuntu-16-04-lts/
पहले बताए गए Eigen परिवर्तन होने के बाद सभी परिवर्तन tensorflow के लिए अपस्ट्रीम होंगे।

उम्मीद है की वो मदद करदे।

@lukeiwanski क्या आपका कांटा केवल AMD R9 नैनो / AMD FirePro GPU का समर्थन करता है?

@lukeiwanski क्या कोई परीक्षण मामला है जिसका उपयोग मैं यह सत्यापित करने के लिए कर सकता हूं कि मैं GPU का उपयोग कर रहा हूं? मैं इसे radeontop के साथ मॉनिटर कर सकता हूं लेकिन मुझे कुछ ऐसा चाहिए जो TensorFlow का उपयोग करे।

@ZixuanLiang नहीं, न केवल ..
वर्तमान में हम AMD (R9 380, R9 Nano, FirePro) पर परीक्षण कर रहे हैं। हम जानते हैं कि इंटेल जीपीयू कुछ ड्राइवर बग को उजागर करता है, लेकिन कुछ सुधार आ रहे हैं। और हमने रेनेसास आर-कार की घोषणा की है और आगे आने की उम्मीद है।

मेरा मानना ​​है कि Xilinx triSYCL के लिए अपस्ट्रीमिंग समर्थन है https://github.com/tensorflow/tensorflow/pull/12882 - इसलिए FPG's (?) - @keryell को इसके बारे में और जानना चाहिए

@znmeb bazel test -c opt --config=sycl --test_output=all //tensorflow/python/kernel_tests:basic_gpu_test एक निष्पक्ष सत्यापन होना चाहिए .. आउटपुट कुछ इस तरह दिखना चाहिए:
INFO: From Testing //tensorflow/python/kernel_tests:basic_gpu_test: ==================== Test output for //tensorflow/python/kernel_tests:basic_gpu_test: 2017-10-05 10:53:52.727745: I tensorflow/core/platform/cpu_feature_guard.cc:137] Your CPU supports instructions that this TensorFlow binary was not compiled to use: SSE4.1 SSE4.2 AVX AVX2 FMA 2017-10-05 10:53:53.059908: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:66] Found following OpenCL devices: 2017-10-05 10:53:53.059926: I ./tensorflow/core/common_runtime/sycl/sycl_device.h:68] id: 0, type: GPU, name: Tonga, vendor: Advanced Micro Devices, Inc., profile: FULL_PROFILE .....

@lukeiwanski धन्यवाद, मैं इसे AMD GPU पर आज़माउंगा!

@lukeiwanski बिल्ड और टेस्ट मेरे बोनेयर पर काम कर रहे हैं। मैं पायथन 3.6 का उपयोग कर रहा हूं, हालांकि, और निर्देश पायथन 2.7 का उपयोग करते हैं। क्या मुझे 2.7 का उपयोग करने की आवश्यकता है या 3.6 काम करेगा?

@znmeb निम्नलिखित https://github.com/tensorflow/tensorflow/issues/6533#issuecomment -273852647 ऐसा लगता है कि पायथन 3.6 काम करना चाहिए - हालांकि मैंने इसकी कोशिश नहीं की है

@lukeiwanski क्या यह एक ComputeCpp संस्करण है जो इस समय TF का निर्माण कर सकता है?
मैंने 0.3.2 और 0.1.4 के बीच विभिन्न संस्करणों की कोशिश की और कोई भी काम नहीं किया। वे सभी "एक ही हस्ताक्षर के लिए 'global_ptr' के कई अधिभार" त्रुटि के साथ समाप्त हो गए।
बीटीडब्ल्यू, मुझे टीएफ स्रोतों में TensorDeviceSycl.h फ़ाइल नहीं मिल रही है, क्या इसका नाम बदला गया है? क्या पैच को मौजूदा स्रोतों पर लागू करना संभव है?

अग्रिम में धन्यवाद।

@eLvErDe ComputeCpp 0.3.2 बना सकता है: https://github.com/lukeiwanski/tensorflow/tree/dev/amd_gpu

अपस्ट्रीम में Eigen के लिए एक पैच गायब है जो इसे ठीक करता है .. देखें https://github.com/tensorflow/tensorflow/issues/22#issuecomment -334154564

किसी भी विचार कैसे bazel निर्माण के दौरान इस Eigen पैच इंजेक्ट करने के लिए? हो सकता है कि हमें निश्चित एक पाने के लिए कहीं Eigen tgz संस्करण टक्कर देनी चाहिए?

धन्यवाद, एडम।

https://github.com/lukeiwanski/tensorflow/commit/8468d65e87e083337f18616f75ac56d3296d6ab1

यह कमिटमेंट इसे बनवाने के लिए काफी होगा?

हाँ, आपको इसे चुनने में सक्षम होना चाहिए

दुर्भाग्य से, यह स्पष्ट रूप से पर्याप्त नहीं है, यहाँ कुछ अगली बिल्ड विफलताएँ हैं:

external/eigen_archive/Eigen/src/Core/util/BlasUtil.h:63:63: error: no type named 'ReturnType' in 'Eigen::ScalarBinaryOpTraits<cl::sycl::vec<float, 4>, std::complex<float>, Eigen::internal::scalar_product_op<cl::sycl::vec<float, 4>, std::complex<float> > >'
  typedef typename ScalarBinaryOpTraits<LhsScalar,RhsScalar>::ReturnType Scalar;
          ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^~~~~~~~~~

external/eigen_archive/Eigen/src/Core/util/BlasUtil.h:69:34: error: invalid operands to binary expression ('const cl::sycl::vec<float, 4>' and 'const std::complex<float>')
  { return conj_if<ConjLhs>()(x) *  conj_if<ConjRhs>()(y); }
           ~~~~~~~~~~~~~~~~~~~~~ ^  ~~~~~~~~~~~~~~~~~~~~~

@eLvErDe कुछ कमिट हैं जिन्हें संकलित करने के लिए आपको आवेदन करना होगा।
मैं सुझाव दूंगा कि आप dev/amd_gpu की नोक का उपयोग करें या यदि आप अपनी वर्तमान शाखा नहीं बदलना चाहते हैं.. आप इसमें dev/amd_gpu का विलय कर सकते हैं।

असल में मैं अपने अनौपचारिक डेबियन/उबंटू पैकेज पर काम कर रहा हूं इसलिए मैं आधिकारिक 1.3.1 रिलीज के करीब रहने की कोशिश कर रहा हूं। मैं ओपनसीएल समर्थन के बिना रह सकता हूं लेकिन जैसे ही यह सही ढंग से समर्थित है, मैं इसे सक्षम करने के लिए तैयार रहना चाहता हूं। हो सकता है कि मैं परीक्षण उद्देश्यों के लिए आपकी शाखा के खिलाफ पैकेज अपडेट कर दूं, लेकिन यह आज के लिए पर्याप्त है;)

मेरे खनन उपकरण में एएमडी जीपीयू की लगभग दस अलग-अलग किस्में हैं। (7970 से RX 480 तक ubuntu 16.04 और amdgpu-pro चल रहा है)। मुझे बताएं कि क्या मैं कुछ भी परीक्षण करके योगदान कर सकता हूं।

मुझे बताएं कि क्या मैं कुछ भी परीक्षण करके योगदान कर सकता हूं।
कैसे के बारे में https://github.com/ROCmSoftwarePlatform/hipCaffe
https://github.com/ROCmSoftwarePlatform/hipeigen

मंगलवार, 17 अक्टूबर, 2017 को सुबह 10:54 बजे, slundell [email protected] ने लिखा:

मेरे खनन उपकरण में एएमडी जीपीयू की लगभग दस अलग-अलग किस्में हैं। (से
7970 से RX 480 में ubuntu 16.04 और amdgpu-pro चल रहा है)। अगर मैं कर सकता हूं तो मुझे बताएं
कुछ भी परीक्षण करके योगदान दें।

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपने टिप्पणी की थी।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-337309059 ,
या थ्रेड को म्यूट करें
https://github.com/notifications/unsubscribe-auth/AA6MNxXJ-G3nCQUA9RucrJ8y4vs5NPtLks5stOnbgaJpZM4Gex3i
.

@lukeiwanski क्या आपका कांटा macOS पर भी AMD GPU को सपोर्ट करेगा?

नमस्ते,
मैं अपने Android डिवाइस के लिए GPU (माली-T720) सक्षम के साथ Ubuntu16.04 x64 पर टेंसरफ़्लो API का निर्माण कर रहा था,

मेरी ओएस जानकारी:
उबंटू 16.04 x64
कंप्यूटर GPU: NVIDIA 1080Ti
CUDA 8.0
CUDNN 5.1 (हालांकि मैं निर्माण के लिए cuda या cudnn का उपयोग नहीं करता)
बेज़ेल 0.5.2
कंप्यूटसीपीपी सीई 0.3.2

मेरा बिल्ड.श है:
'
बेज़ल बिल्ड-सी ऑप्ट --config=sycl //tensorflow/contrib/android:libtensorflow_cc.so --cxxopt="-
std=c++11" --cxxopt="-DTENSORFLOW_DISABLE_META" --verbose_failures --
crosstool_top=//external:android/crosstool --host_crosstool_top=@bazel_tools//tools/cpp:toolchain --
सीपीयू = आर्मेबी-वी7ए
'
निर्माण से पहले। मैं LD_LIBRARY_PATH=my_sycl_lib_path=$LD_LIBRARY_PATH का निर्यात करता हूं, बिना ' --config=sycl ' का निर्माण ठीक है और मुझे सही libtensorflow_cc.so मिला है, लेकिन ' --config=sycl ' के साथ, अंतिम परिणाम बिना किसी अन्य के गायब -lComputeCpp निकला। संकलन त्रुटियां

इस तरह पूरा लॉग:

त्रुटि: /home/e0024/workspace/tensorflow/tensorflow/contrib/android/BUILD:102:1: नियम का लिंकिंग '//tensorflow/contrib/android:libtensorflow.so' विफल: link_dynamic_library.sh विफल: त्रुटि निष्पादन आदेश
(cd /home/e0024/.cache/bazel/_bazel_e0024/783dad02ec856015f56356584726dd10/execroot/org_tensorflow && \
निष्पादन एनवी - \
COMPUTECPP_TOOLKIT_PATH=/home/e0024/workspace/source/computeCppForSYCL1.2 \
HOST_CXX_COMPILER=/usr/bin/g++ \
HOST_C_COMPILER=/usr/bin/gcc \
LD_LIBRARY_PATH=/home/e0024/workspace/source/computeCppForSYCL1.2/lib:/home/e0024/workspace/caffe/build/lib:/home/e0024/workspace/cudnn/lib64: \
PATH=/home/e0024/bin:/home/e0024/.local/bin:/home/e0024/workspace/Anaconda2/bin:/opt/cuda:/home/e0024/workspace/source/protoc-3.3.0- linux-x86_64/bin:/home/e0024/workspace/bazel/output:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/ गेम्स:/usr/लोकल/गेम्स:/स्नैप/बिन \
पीडब्ल्यूडी =/खरीद/स्वयं/सीडब्ल्यूडी \
PYTHON_BIN_PATH=/home/e0024/workspace/Anaconda2/bin/python \
PYTHON_LIB_PATH=/home/e0024/workspace/Anaconda2/lib/python2.7/site-packages \
TF_NEED_CUDA=0 \
TF_NEED_OPENCL=1 \
बाहरी/bazel_tools/tools/cpp/link_dynamic_library.sh कोई अनदेखा अनदेखा अनदेखा बाहरी/androidndk/ndk/toolchains/arm-linux-androideabi-4.9/prebuilt/linux-x86_64/bin/arm-linux-androideabi-gcc -shared -o bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/contrib/android/libtensorflow.so '-Wl,-rpath,$ORIGIN/../../../ _solib_armeabi-v7a / _U @local_Uconfig_Usycl_S_Ssycl_Csyclrt___Uexternal_Slocal_Uconfig_Usycl_Ssycl_Slib '-Lbazel बाहर / हाथ-linux-androideabi-4.9-v7a-gnu-libstdcpp-ऑप्ट / bin / _solib_armeabi-v7a / _U @local_Uconfig_Usycl_S_Ssycl_Csyclrt___Uexternal_Slocal_Uconfig_Usycl_Ssycl_Slib -Wl, आज़ाद-संग्रह Bazel बाहर / हाथ -linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/c/libc_api.a -Wl,-no-whole-archive -Wl,-whole-archive bazel-out/arm-linux-androideabi- 4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/core/libandroid_tensorflow_lib.lo -Wl,-no-whole-archive -Wl,-whole-archive bazel-out/arm-linux-androideabi-4.9-v7a-gnu -libstdcpp-opt/bin/tensorflow/core/kernels/libandr oid_tensorflow_kernels.lo -Wl,-no-whole-archive -Wl,-whole-archive bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/core/libandroid_tensorflow_lib_lite.lo -Wl ,-नहीं-संपूर्ण-संग्रह-Wl,-संपूर्ण-संग्रह bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/tensorflow/core/libprotos_all_cc.a -Wl,-no-whole -संग्रह -Wl,-संपूर्ण-संग्रह bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/external/protobuf/libprotobuf.a -Wl,-no-whole-archive -Wl, -संपूर्ण-संग्रह bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/external/protobuf/libprotobuf_lite.a -Wl,-no-whole-archive -lComputeCpp बाहरी/androidndk/ndk/ स्रोत/cxx-stl/gnu-libstdc++/4.9/libs/armeabi-v7a/libgnustl_static.a बाहरी/androidndk/ndk/sources/cxx-stl/gnu-libstdc++/4.9/libs/armeabi-v7a/libsupc++.a -landroid -लॉग -एलएम -जेड डीएफएस -एस -डब्ल्यूएल,--जीसी-सेक्शन '-डब्ल्यूएल,-सोनम=libtensorflow.so' -डब्ल्यूएल,--वर्जन-स्क्रिप्ट टेंसरफ्लो/सी/वर्जन_स्क्रिप्ट.एलडी-एलजेड -स्टैटिक-लिबगसीसी - नो-कैनोनिकल-उपसर्ग '-मार्च = armv7-a' -Wl,--fix-cortex-a8 '--sysroot=external/androidndk/ndk/platforms/android-14/arch-arm'): com.google.devtools.build.lib.shell.BadExitStatusException: प्रक्रिया के साथ बाहर निकल गया स्थिति 1.
बाहरी/androidndk/ndk/toolchains/arm-linux-androideabi-4.9/prebuilt/linux-x86_64/bin/../lib/gcc/arm-linux-androideabi/4.9/.././../.. /arm-linux-androideabi/bin/ld: चेतावनी: असंगत bazel-out/arm-linux-androideabi-4.9-v7a-gnu-libstdcpp-opt/bin/_solib_armeabi-v7a/_U@local_Uconfig_Usycl_S_Ssycl_Csyclrt___Spp कंप्यूटसीपीपी के लिए
बाहरी/androidndk/ndk/toolchains/arm-linux-androideabi-4.9/prebuilt/linux-x86_64/bin/../lib/gcc/arm-linux-androideabi/4.9/.././../.. /arm-linux-androideabi/bin/ld: त्रुटि: नहीं ढूँढ सकता -lComputeCpp
संग्रह 2: त्रुटि: एलडी ने 1 निकास स्थिति लौटा दी
लक्ष्य //tensorflow/contrib/android:libtensorflow.so निर्माण करने में विफल
जानकारी: बीता हुआ समय: 617.736s, गंभीर पथ: 54.66s

उह... मैं GPU (माली-T720) सक्षम के साथ हाथ के आर्च में टेंसरफ़्लो एपीआई बनाना चाहता हूं,
सराहना की अगर कोई यहां कुछ अनुभव या सुझाव छोड़ सकता है। Thx एक लूट।

आर्म टेककॉन, @ laMia482 पर अगले सप्ताह मेरी बात पर आएं! http://schedule.armtechcon.com/session/running-tensorflow-machine-learning-on-arm-embedded-hardware/850230

आपको SPIR-V सपोर्ट वाले माली ड्राइवरों की आवश्यकता होगी, जो शायद अभी तक आसानी से उपलब्ध नहीं है। और आपको एंड्रॉइड के लिए आर्म सीपीयू सपोर्ट और SPIR-V सपोर्ट के साथ ComputeCpp रनटाइम की आवश्यकता होगी, जो कि उपलब्ध नहीं है (अभी तक)। तो, आपको बस एक _थोड़ा_सा धैर्य रखना होगा।

हमारे पास (Vertex.AI) ओपन सोर्स प्लेडएमएल है, ओपनसीएल पर केरस चलाने के समर्थन के साथ हमारा डीप लर्निंग स्टैक। TensorFlow समर्थन आ रहा है, मदद का स्वागत किया जाएगा। और हाँ, मैक समर्थन रास्ते में है (विंडोज़ भी)। http://vertex.ai/blog/announcing-playidml @ggaabe

@choongng मैं इसे आज़माना चाहता था लेकिन असफल रहा।
pip search plaidml रिटर्न

plaidml (0.1.0rc3)        - PlaidML machine learning accelerator

लेकिन pip install plaidml या pip install plaidml==0.1.0rc3
रिटर्न

Could not find a version that satisfies the requirement plaidml (from versions: )
No matching distribution found for plaidml

@ hy9be मुझे लगता है कि यहां के बजाय प्लेडएमएल रिपोजिटरी में कोई मुद्दा बनाना अधिक उपयुक्त होगा, क्योंकि यह मुद्दा टेंसरफ्लो में ओपनसीएल का समर्थन करने के बारे में है। इसके अतिरिक्त वहां इंस्टॉलेशन निर्देशों को देखकर आपका पाइप इंस्टाल कमांड गलत हो सकता है।

आपका ध्यान और आपके सत्र भाषण के लिए @andrewrichards धन्यवाद।

लेकिन अभी मेरे लिए (एक स्नातक छात्र), Android डिवाइस पर Tensorflow का उपयोग करके एक ऐप बनाने के लिए और GPU (Mali-T720) को सक्रिय करना चाहते हैं, SPIP-V समर्थन के साथ माली ड्राइवर को प्राप्त करने के लिए और आर्म CPU के साथ Android के लिए ComputeCpp रनटाइम की क्या आवश्यकता है। समर्थन और SPIR-V समर्थन।

चूंकि मैंने कोडप्ले होमपेज पर ComputeCpp (Ubuntu16.04 x64 बिन/डॉक्टर/शामिल/lib/) के साथ डाउनलोड किया है, कल मैं दौड़ता हूं:
bazel build -c opt --config=sycl //tensorflow/contrib/android:libtensorflow_cc.so --cxxopt="-std=c++11" --cxxopt="-DTENSORFLOW_DISABLE_META" --verbose_failures --crosstool_top=//external:android/crosstool --host_crosstool_top=@bazel_tools//tools/cpp:toolchain --cpu=armeabi-v7a
त्रुटियों ने कहा libComputeCpp.so incompatible , इसलिए मुझे लगता है कि शायद मुझे एंड्रॉइड के लिए आर्म सीपीयू समर्थन और एसपीआईआर-वी समर्थन के साथ कंप्यूटसीपीपी की आवश्यकता है, लेकिन मुझे एंड्रॉइड कंप्यूटसीपीपी बनाने के लिए कोई स्रोत कोड नहीं मिला, जीथब में केवल नमूने हैं।

और आपने कहा है कि Android के लिए ComputeCpp अब उपलब्ध नहीं है, तो क्या Android डिवाइस का समर्थन करने की कोई योजना है या समर्थित होने पर मैं इसे कैसे प्राप्त कर सकता हूं।

एएमडी जीपीयू और लिनक्स उपयोगकर्ताओं के लिए, एएमडी ने हाल ही में यहां टेंसरफ्लो का एचआईपी पोर्ट जारी किया है। आपकी रुचि हो सकती है।

मैंने हालांकि इसका परीक्षण नहीं किया है।

मैं इसका परीक्षण कर सकता हूं - देखते रहें। ऐसा लगता है कि यह सीआई को विफल कर रहा है।

वास्तव में यह विफल हो रहा है। अभी भी एक प्रारंभिक चरण में, मुझे लगता है।

मैंने इसका परीक्षण किया, तुरंत एमएनआईएसटी उदाहरण में सेगफॉल्ट मिला।
पता नहीं मैं यहाँ क्या गलत कर रहा हूँ।

$ python ./convolutional.py 
I tensorflow/stream_executor/dso_loader.cc:130] Couldn't open CUDA library libhipblas.so. LD_LIBRARY_PATH: :/home/masa/project/rendering/RadeonProRender-Baikal/Bin/Release/x64:/usr/local/lib64:/opt/CodeXL_2.5-25:/usr/lib/x86_64-linux-gnu/:/opt/CodeXL_2.5-25/RuntimeLibs/QT/
I tensorflow/stream_executor/cuda/cuda_blas.cc:2305] Unable to load HIPBLAS DSO.
I tensorflow/stream_executor/dso_loader.cc:130] Couldn't open CUDA library libhipfft.so. LD_LIBRARY_PATH: :/home/masa/project/rendering/RadeonProRender-Baikal/Bin/Release/x64:/usr/local/lib64:/opt/CodeXL_2.5-25:/usr/lib/x86_64-linux-gnu/:/opt/CodeXL_2.5-25/RuntimeLibs/QT/
I tensorflow/stream_executor/cuda/cuda_fft.cc:344] Unable to load cuFFT DSO.
I tensorflow/stream_executor/dso_loader.cc:139] successfully opened CUDA library libhip_hcc.so locally
I tensorflow/stream_executor/dso_loader.cc:130] Couldn't open CUDA library libhiprng.so. LD_LIBRARY_PATH: :/home/masa/project/rendering/RadeonProRender-Baikal/Bin/Release/x64:/usr/local/lib64:/opt/CodeXL_2.5-25:/usr/lib/x86_64-linux-gnu/:/opt/CodeXL_2.5-25/RuntimeLibs/QT/
I tensorflow/stream_executor/cuda/cuda_rng.cc:338] Unable to load cuRAND DSO.
I tensorflow/stream_executor/dso_loader.cc:139] successfully opened CUDA library libMIOpen.so locally
Extracting data/train-images-idx3-ubyte.gz
Extracting data/train-labels-idx1-ubyte.gz
Extracting data/t10k-images-idx3-ubyte.gz
Extracting data/t10k-labels-idx1-ubyte.gz
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE3 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.1 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.2 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use AVX instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use AVX2 instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use FMA instructions, but these are available on your machine and could speed up CPU computations.
W tensorflow/stream_executor/cuda/cuda_driver.cc:633] creating context when one is currently active; existing: 0x7f94fa357e90
I tensorflow/core/common_runtime/gpu/gpu_device.cc:892] Found device 0 with properties: 
name: Fiji [Radeon R9 FURY / NANO Series]
major: 2 minor: 0 memoryClockRate (GHz) 1
pciBusID 1����
Total memory: 4.00GiB
Free memory: 3.75GiB
I tensorflow/core/common_runtime/gpu/gpu_device.cc:913] DMA: 0 
I tensorflow/core/common_runtime/gpu/gpu_device.cc:923] 0:   Y 
I tensorflow/core/common_runtime/gpu/gpu_device.cc:972] Creating TensorFlow device (/gpu:0) -> (device: 0, name: Fiji [Radeon R9 FURY / NANO Series], pci bus id: 1����)
Initialized!
I tensorflow/core/kernels/conv_ops.cc:604] running auto-tune for Convolve
Invoking clang-ocl on "/tmp/miopen-MIOpenUtilKernels.cl-c377-1df5-8b6a-884c/MIOpenUtilKernels.cl"
/opt/rocm/bin/clang-ocl -DNUM_CH_PER_WG=1 -DNUM_IM_BLKS_X=1 -DNUM_IM_BLKS=4 -DLOCAL_MEM_SIZE=432 -DSTRIDE_GT_1=0 -DTILE_SZ_X=32 -DTILE_SZ_Y=8 -DUSE_IM_OFF_GUARD=1 -mcpu=gfx803 -Wno-everything MIOpenUtilKernels.cl -o /tmp/miopen-MIOpenUtilKernels.cl-c377-1df5-8b6a-884c/MIOpenUtilKernels.cl.o
writing gemm kernel to "/tmp/miopen-tinygemm.cl-836e-c4d4-abd3-b292/tinygemm.cl"
Invoking clang-ocl on "/tmp/miopen-tinygemm.cl-836e-c4d4-abd3-b292/tinygemm.cl"
/opt/rocm/bin/clang-ocl -mcpu=gfx803 -Wno-everything tinygemm.cl -o /tmp/miopen-tinygemm.cl-836e-c4d4-abd3-b292/tinygemm.cl.o
GCN assember path: /opt/rocm/opencl/bin/x86_64/clang
Arugment: --version 
Invoking clang-ocl on "/tmp/miopen-MIOpenConvDirUniC.cl-f5fc-85f4-7079-a024/MIOpenConvDirUniC.cl"
/opt/rocm/bin/clang-ocl -DMLO_HW_WAVE_SZ=64 -DMLO_DIR_FORWARD=1 -DMLO_FILTER_SIZE0=5 -DMLO_FILTER_SIZE1=5 -DMLO_FILTER_PAD0=2 -DMLO_FILTER_PAD1=2 -DMLO_N_OUTPUTS=32 -DMLO_N_INPUTS=1 -DMLO_BATCH_SZ=64 -DMLO_OUT_WIDTH=28 -DMLO_OUT_HEIGHT=28 -DMLO_OUT_BATCH_STRIDE=25088 -DMLO_OUT_CHANNEL_STRIDE=784 -DMLO_OUT_STRIDE=28 -DMLO_IN_WIDTH=28 -DMLO_IN_HEIGHT=28 -DMLO_IN_BATCH_STRIDE=784 -DMLO_IN_CHANNEL_STRIDE=784 -DMLO_IN_STRIDE=28 -DMLO_IN_TILE0=28 -DMLO_IN_TILE1=8 -DMLO_OUT_TILE0=28 -DMLO_OUT_TILE1=8 -DMLO_GRP_TILE0=16 -DMLO_GRP_TILE1=8 -DMLO_ACTIVE_ALUS=112 -DMLO_N_ALUTILES_PERSTACK=2 -DMLO_OUT_PIX_TILE0=2 -DMLO_OUT_PIX_TILE1=2 -DMLO_N_STACKS=1 -DMLO_N_OUT_TILES=8 -DMLO_N_OUT_TILES_PERSTACK=16 -DMLO_N_IN_TILES_PERSTACK=1 -DMLO_N_READ_PROCS=128 -DMLO_CONV_BIAS=0 -DMLO_ALU_VTILE0=14 -DMLO_ALU_VTILE1=4 -mcpu=gfx803 -Wno-everything MIOpenConvDirUniC.cl -o /tmp/miopen-MIOpenConvDirUniC.cl-f5fc-85f4-7079-a024/MIOpenConvDirUniC.cl.o
Invoking clang-ocl on "/tmp/miopen-MIOpenConvFFT.cl-2fbf-2ba2-0088-ebfc/MIOpenConvFFT.cl"
/opt/rocm/bin/clang-ocl -DCFF_TRANSP_WT_MOD16=1 -DCFF_CGEMM_CHOICE_0=1 -DCFF_IMG_SZ_28_28 -DCFF_IMG_H=28 -DCFF_IMG_W=28 -DCFF_BATCH=64 -DCFF_NFILTER=32 -DCFF_CHANNELS=1 -DCFF_HALFW=1148928 -mcpu=gfx803 -Wno-everything MIOpenConvFFT.cl -o /tmp/miopen-MIOpenConvFFT.cl-2fbf-2ba2-0088-ebfc/MIOpenConvFFT.cl.o
Segmentation fault (core dumped)

@ मसाही - सुनिश्चित करें कि आपके पास rocm 1.6.4 बेस स्थापित है।

@bensander धन्यवाद, मैं अपग्रेड करूंगा।

@bensander एएमडी स्टैक से मुझे और कुछ चाहिए? मेरे पास अब केवल एएमडी मालिकाना ओपनक्ल लाइब्रेरी है जो ओपन सोर्स "amdgpu" ड्राइवर का उपयोग करती है।

@masahi - यदि आप rocm और rocm-libs (यानी "apt-get install rocm rocm-libs") स्थापित करते हैं, तो यह आपकी सभी ज़रूरतें होनी चाहिए। रेपोट पर rocm_docs में अपेक्षित परिणामों सहित पूर्ण निर्देश हैं।

@bensander मुझे कैसे पता चलेगा कि मैं rocm 1.6.4 सही ढंग से चला रहा हूं (और 1.6.3 नहीं)?

@ मसाही सिर्फ एक अनुमान है: आपको अपनी समस्या के लिए अधिक संबंधित स्थान पर प्रश्न पूछना चाहिए, जैसे कि एएमडी या आरओसीएम प्रोजेक्ट यहां के बजाय ...

@keryell ठीक है, मैं विषय से हट रहा हूँ। मैं यहीं रुकता हूं।
वैसे भी, मैं अपने सिस्टम पर हिपटेंसरफ़्लो काम नहीं कर सका। मैं बाद में क्लीन उबंटू इंस्टाल के साथ कोशिश करूंगा।

@masahi - बस वहां पर एक मुद्दा खोलें और हम आपको स्थापित कर देंगे।

नमस्ते, मैं सिर्फ यह उल्लेख करना चाहता हूं कि मैं हिप्टेंसरफ्लो काम करने में सक्षम था, एएमडी में @bensander और अन्य लोगों के लिए धन्यवाद। मैं सभी उदाहरणों को उनके क्विकस्टार्ट गाइड में चला सकता हूं।

धन्यवाद

जो लोग ROCm का उपयोग करके AMD हार्डवेयर पर TensorFlow को आज़माना चाहते हैं, उनके लिए मैंने एक ब्लॉग लिखा था जिसमें बताया गया था कि AMD Fury Nano का उपयोग करके Fast.ai नोटबुक कैसे चलाएं।
http://briansp2020.github.io/2017/11/05/fast_ai_ROCm/

मैं इसके लिए इंतजार नहीं कर सकता!

ROCm 1.7 रास्ते में है, जो उचित Tensorflow समर्थन की तरह लगता है!

https://www.phoronix.com/scan.php?page=news_item&px=AMD-ROCm-1.7-रिलीज़

AMD GPU के लिए Tensorflow पोर्ट:
https://github.com/ROCmSoftwarePlatform/hiptensorflow/blob/hip/README.ROCm.md

यह मेरे लिए बहुत अच्छा काम करता है। मेरी हार्डवेयर सेटिंग:
GPU: AMD Radeon RX 480
सीपीयू: इंटेल ज़ीऑन 2603 v3
एमबी: सुपरमाइक्रो x10srl-f

कुंजी मदर बोर्ड है और CPU को PCIe v3 . का समर्थन करना है

इसका प्रदर्शन एनवीडिया 980Ti . के समान है

मुझे अपने "समर्थित" उबंटू 16.04 एलटीएस इंस्टॉल पर काम करने के लिए "समर्थित" एएमडी ड्राइवर भी नहीं मिल सकते हैं। नियोजित मूल्यह्रास?

znmeb, आपका AMD GPU क्या है? यदि आपके पास दोहरे GPU हैं, तो असमर्थित GPU को BIOS से अक्षम करें।

संपूर्ण सूत्र नहीं पढ़ा जा सका... MacOS (सिएरा +) पर OpenCL पर tensorflow के लिए वर्तमान स्थिति क्या है? विशेष रूप से, मेरे पास एक इंटेल आईरिस जीपीयू है और उम्मीद कर रहा था कि क्या मैं इसके लिए स्रोत टीएफ + ओपन सीएल समर्थन से निर्माण कर सकता हूं।
इसके अलावा, संस्करण 1.2.2 पर tf कोर्रेंडर ठीक चल रहा है।

@ varun19299 एफडब्ल्यूआईडब्ल्यू ओपनसीएल के लिए एक इंटेल एसडीके है - मुझे यह मेरे प्राचीन सैंडी ब्रिज लैपटॉप पर मिला है लेकिन मुझे यकीन है कि यह आपकी मशीन पर काम करेगा। https://software.intel.com/en-us/intel-opencl

क्या यह वर्तमान में गैर-उबंटू लिनक्स सिस्टम पर प्रयोग करने योग्य स्थिति में है? रोडमैप पेज बस यहां लिंक करता है।

@pfc क्या वर्तमान में गैर-उबंटू लिनक्स पर प्रयोग करने योग्य है? TensorFlow सामान्य रूप से OpenCL का उपयोग कर रहा है? या TensorFlow एक AMD GPU पर OpenCL का उपयोग कर रहा है? मैं बाद वाला मान लूंगा, क्योंकि यही एकमात्र कारण है कि आप OpenCL का उपयोग करके TensorFlow चलाना चाहते हैं। एक एनवीडिया जीपीयू के लिए आप एनवीडिया ड्राइवरों/पुस्तकालयों का उपयोग करेंगे और केवल सीपीयू के लिए ओपनसीएल से हासिल करने के लिए कुछ भी नहीं है।

मैंने कुछ हफ़्ते पहले आर्क लिनक्स पर मालिकाना ComputeCpp SYCL लाइब्रेरी और एक AMD "बोनेयर" (सी आइलैंड्स आर्किटेक्चर) GPU का उपयोग करके यह काम किया था। एक नया ComputeCpp रिलीज है जिसे मुझे परीक्षण करने की आवश्यकता है लेकिन मुझे लगता है कि यह काम करेगा।

यह पता चला है कि इस काम को करने के लिए आपको जिन AMDGPU Pro मालिकाना पुस्तकालयों की आवश्यकता है, वे Ubuntu 16.04.3 पर नहीं चलते हैं। 16.04.2 से अपग्रेड एक नए लिनक्स कर्नेल और एक्स सर्वर में लाया गया, और एएमडी ने अभी तक कुछ ऐसा शिप नहीं किया है जो इस पर काम करता है। विवरण के लिए http://support.amd.com/en-us/kb-articles/Pages/AMDGPU-PRO-Driver-Compatibility-Advisory-with-Ubuntu-16.04.2-and-16.04.3.aspx देखें। मैं उबंटू पर एएमडी ओपनसीएल काम करने में असमर्थ रहा हूं।

TensorFlow का एक प्रयोगात्मक AMD संस्करण है जो CUDA कोड को OpenCL कोड में अनुवाद करने के लिए एक कंपाइलर का उपयोग करता है लेकिन मैंने इसका परीक्षण भी नहीं किया है। एक समर्थित ड्राइवर की अनुपस्थिति में यह बेकार है।

https://github.com/ROCmSoftwarePlatform/hiptensorflow/tree/hip/rocm_docs आधिकारिक तौर पर AMD हार्डवेयर पर टेंसर फ्लो चलाने का समर्थित तरीका है।

@bensander क्या ROCm रनटाइम Ubuntu 16.04.3 पर काम करता है? मैं इसे काम करने में सक्षम नहीं हूं।

पुनश्च: क्या आपके पास कोई अंतर्दृष्टि है यदि / जब AMDGPU-Pro सेटअप Ubuntu 16.04.3 पर काम करेगा? मुझे किसी अन्य प्रोजेक्ट के लिए इसकी आवश्यकता है।

हम्म, मैं कहीं भी उबंटू का मज़ा नहीं लेता (और नहीं) लेकिन मेरे पास एक CentOS 7 w/repos और एक GTX1080TI है, कर्नेल 4.14.x और नवीनतम एनवीडिया बीटा ड्राइवर चला रहा है, इसलिए मैं इसका परीक्षण करने में मदद कर सकता हूं वहाँ पर आज किसी बिंदु पर अगर यह मदद करता है?

--
सैम मैकलियोड

7 दिसंबर 2017 को 07:28 बजे एम. एडवर्ड (एड) बोरास्की नोटिफिकेशन @github.com ने लिखा:

@bensander क्या ROCm रनटाइम Ubuntu 16.04.3 पर काम करता है? मैं इसे काम करने में सक्षम नहीं हूं।

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपने टिप्पणी की थी।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें, या थ्रेड को म्यूट करें।

@sammcj आप ओपनसीएल के साथ एनवीडिया जीपीयू क्यों चलाएंगे जब इसके लिए पूरी तरह से अच्छी सीयूडीए पुस्तकालय हों?

बस इसे आपके लिए परीक्षण करने में मदद करने के लिए!

कोई चिंता नहीं अगर आपको हाथ परीक्षण की आवश्यकता नहीं है, बस सोचा कि मैं पेशकश करूंगा। मैंने उस मशीन को cuda TBH के साथ भी नहीं आज़माया है, मैंने इसे केवल MacOS पर आज़माया है जहाँ मैं इस समय Docker के माध्यम से OpenCL का उपयोग नहीं कर सकता।

--
सैम मैकलियोड

7 दिसंबर 2017 को 08:16 बजे एम. एडवर्ड (एड) बोरास्की नोटिफिकेशन @github.com ने लिखा:

@sammcj आप ओपनसीएल के साथ एनवीडिया जीपीयू क्यों चलाएंगे जब इसके लिए पूरी तरह से अच्छी सीयूडीए पुस्तकालय हों?

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें, या थ्रेड को म्यूट करें।

@znmeb मैं ComputeCpp SYCL को आज़माने जा रहा था, हालाँकि वे केवल ubuntu इंस्टॉलर प्रदान करते हैं (मैं भी आर्च पर हूँ) और aur इंस्टॉल स्क्रिप्ट टूट गई है। यह सुनकर अच्छा लगा कि यह काम कर सकता है। अगर मैं काफी हताश हो जाऊं तो मैं इसे आजमा सकता हूं।
@bensander ऐसा लगता है कि मुझे एडीएम समर्थन प्राप्त करने की आवश्यकता है, हालांकि मैं इस तथ्य से चिंतित हूं कि इस कोड को टीएफ में बैक-पोर्ट नहीं किया गया है और इसका कोड आखिरी बार 2 महीने पहले अपडेट किया गया था क्योंकि मेरा कोड टीएफ 1.4 को लक्षित करता है। 0
ऐसा लगता है कि फिलहाल टेंसरफ्लो मूल रूप से आपको एनवीडिया से जोड़ता है, कम से कम हमारे लिए "नश्वर" प्रोग्रामर। दस्तावेज़ीकरण/अद्यतन रोडमैप का अभाव मदद नहीं करता है। मुझे किसी भी तरह से मदद करने में कोई आपत्ति नहीं होगी, हालांकि मुझे अब तक काम करने में बहुत कम सफलता मिली है।

@pfc मुझे आर्क पर काम करने वाला ComputeCpp SYCL मिला - जब मैंने ऐसा किया तो उनकी वेबसाइट पर एक बाइनरी टैरबॉल था।

इस खबर में SYCL 1.2.1 की रिलीज के बारे में
https://www.roboticstomorrow.com/news/2017/12/06/the-khronos-group-releases-finalized-sycl-121-/11107/
इसे कहते हैं :
_नए विनिर्देशन में तीन अलग-अलग कार्यान्वयनों से प्राप्त महत्वपूर्ण अनुभव और टेंसरफ्लो जैसे मशीन लर्निंग फ्रेमवर्क के डेवलपर्स से प्रतिक्रिया शामिल है, जो अब मूल CUDA त्वरक बैक-एंड के साथ SYCL का समर्थन करता है।_

क्या इसका मतलब यह है कि अब TensorFlow को AMD GPU पर "आसानी से" चलाना संभव है जो OpenCL 1.2 का समर्थन करता है जिस पर SYCL बनाया गया है?

"आसानी से" इस अर्थ में कि एएमडी हार्डवेयर के लिए कुछ निम्न-स्तरीय सॉफ़्टवेयर/ड्राइवर/लाइब्रेरी हैं जहां अधिकांश टूटी हुई चीजें हार्डवेयर या टेंसरफ्लो या ओपनसीएल मानकों या एसवाईसीएल में नहीं हैं। ;-) यदि आपके पास एएमडी जीपीयू ड्राइवर काम कर रहे हैं और ओपनसीएल लाइब्रेरी काम कर रहे हैं तो आपको एएमडी जीपीयू पर टेंसरफ्लो मिला है।

एएमडी बोनेयर (सी आइलैंड्स आर्किटेक्चर) के लिए मेरा वर्किंग सेटअप:

amdgpu कर्नेल मॉड्यूल के साथ आर्क लिनक्स लोड किया गया और radeon कर्नेल मॉड्यूल को ब्लैकलिस्ट किया गया
आर्क यूजर रिपोजिटरी पैकेज opencl-amd
कंप्यूटसीपीपी लाइब्रेरी
TensorFlow @lukeiwanski के कांटे का उपयोग करके मेरे कार्य केंद्र पर स्रोत से बनाया गया है:

https://github.com/tensorflow/tensorflow/issues/22#issuecomment-334154564

आपने जो कहा उससे मैं थोड़ा आश्चर्यचकित हूं "यदि आपके पास एएमडी जीपीयू ड्राइवर काम कर रहे हैं और ओपनसीएल पुस्तकालय काम कर रहे हैं तो आपको एएमडी जीपीयू पर टेंसरफ्लो मिल गया है"। मैं समझ गया था कि TensorFlow "आधिकारिक" संस्करण OpenCL (केवल CUDA) पर नहीं चल रहा था। लगता है मैं भ्रमित हो गया।
मैं प्लेडएमएल प्रोजेक्ट को पाकर काफी खुश था जो कम से कम कुछ केरस कोड को मेरे आईमैक पर एएमडी रेडियन एचडी 6970 के साथ चलाने की अनुमति देता है। (https://groups.google.com/forum/#!topic/plaidml-dev/ksFMgxjgKrM ) AFAIK आपने उस फ्रेमवर्क को भी आजमाया है।
मैं Ubuntu VirtualBox पर TensorFlow चलाने की अनुमति दूंगा, Tensorflow पहले से ही चल रहा है (केवल CPU)।

@PALYGAP मुझे नहीं लगता कि वर्चुअलबॉक्स मैक होस्ट से ओपनसीएल को लिनक्स अतिथि में निर्यात करता है, और उबंटू 16.04.3 अभी काम नहीं करता है। मेरे पास मैक नहीं है इसलिए मेरे पास चीजों का परीक्षण करने का कोई तरीका नहीं है।

क्या किसी ने OpenCL के माध्यम से AMD पर TensorFlow को सफलतापूर्वक चलाने का प्रयास किया और सफल हुआ?

@mohnkhan मेरे पास @lukeiwanski कांटा काम कर रहा है (आर्क लिनक्स) - https://github.com/tensorflow/tensorflow/issues/22#issuecomment-349877056 देखें । ब्लॉग पोस्ट प्रकाशित करने से पहले मैं कुछ और एएमडीजीपीयू-प्रो काम की प्रतीक्षा कर रहा हूं - https://github.com/corngood/archlinux-amdgpu/pull/54 देखें ।

@znmeb इनपुट के लिए धन्यवाद

@ मोहनखान बीटीडब्ल्यू, एएमडी एक वैकल्पिक पथ का निर्माण कर रहे हैं जो पूरी तरह से खुला स्रोत है - सीयूडीए कोड को एक कंपाइलर टूलचेन के साथ ओपनसीएल कोड में अनुवाद करना। मुझे यकीन नहीं है कि मेरे जैसे पुराने कार्डों की स्थिति क्या है।

यदि आप एक लेख लिखने जा रहे हैं, तो मुझे लगता है कि यह समझाने में भी कोई दिक्कत नहीं होगी (पूरी तस्वीर प्राप्त करने में 3 घंटे लग गए):

• TF में वास्तव में SYCL 1.2 बैकएंड है। नहीं *वास्तविक* opencl.
• बदले में, आपके पास मानक के दो कार्यान्वयन हैं (trisycl अच्छा दिखता है, लेकिन यह सीमित एटीएम है)
• अंत में, ComputeCpp 'हुक' SPIR /SPIR-V (पीटीएक्स के अलावा, लेकिन यह वास्तव में एक और कहानी है )

और यह वही है जो अंततः आपको सीधे आपके खूनी लालित्य OpenCL 1.2 (w/ cl_khr_spir ext) पर ले जाता है

एचआईपी इसके बजाय अभी तक एक और बैकएंड है, एसवाईसीएल के विपरीत बैठता है, और केवल और विशेष रूप से आरओसीएम को लक्षित करता है (या अच्छी तरह से, एलओएल, यहां तक ​​​​कि बदले में क्यूडा अगर आपके पास एनवीडिया जीपीयू है .. लेकिन यह फिर से एक और कहानी है)

एएमडी एक वैकल्पिक पथ का निर्माण कर रहा है जो पूरी तरह से खुला स्रोत है - सीयूडीए कोड को ओपनसीएल कोड में एक कंपाइलर टूलचेन के साथ अनुवाद करना।

नहीं। आप एचआईपी के बारे में बात कर रहे हैं, और .. वास्तव में यही है, जिसे आप अंततः अपने कोड को . जो ओपनसीएल नहीं है।
HIP तब ROCm पर चलता है जैसा मैं कह रहा था...
ROCm जो आपके लिए (समर्थित कार्डों पर ) OpenCL भी चलाता है, लेकिन कृपया मैं सभी को यह नोटिस करने के लिए जोर दूंगा कि संबंध केवल ROCm से कैसे आगे हैं, कभी भी "इंट्रा-सब-लेयर्स" नहीं

आप शायद जिस बारे में सोच रहे हैं वह धनिया हो सकता है।

मुझे यकीन नहीं है कि मेरे जैसे पुराने कार्डों की स्थिति क्या है।

यहाँ संक्षेप में: पूरी तरह से विकसित AMDGPU-PRO, amdgpu-pro-opencl-only ड्राइवर जैसा कि आप अभी कर रहे हैं ...

इसके अलावा, fglrx... लेकिन अगर प्री-जीसीएन कार्ड के लिए सिफारिश करना मुश्किल है, तो मुझे लगता है कि पर्दा हटाना बेहतर है।

@mirh

1. मुझे प्री-जीसीएन कार्ड से कोई सरोकार नहीं है। मेरा एक समुद्री द्वीप है और मैं कुछ भी पुराना हासिल करने की योजना नहीं बना रहा हूं। तो फिर, मैं एक और एएमडी जीपीयू प्राप्त करने की योजना नहीं बना रहा हूं। ;-)
2. मुझे नहीं पता कि आरओसीएम मेरे वर्कस्टेशन पर चलेगा या नहीं - कोई ओपन सोर्स हार्डवेयर टेस्टर नहीं है जो मुझे हां या ना में जवाब दे सके। मैंने इसके लिए एक मुद्दा खोला है और मुझे कोई प्रतिक्रिया नहीं मिली है।
3. SPIR-V एक संकलक लक्ष्य है - मैंने इस पर एक नज़र डाली और एक संकलक लेखक को काम पर रखने के लिए बजट नहीं होने पर अपने हाथ ऊपर कर दिए।

तो वह SYCL छोड़ देता है ... या मेरे अन्य दो हाथों को फेंक देता है और Keras के साथ सब कुछ कर रहा है, जिसमें TensorFlow, Theano (जो जम रहा है), CNTK या PlaidML बैक एंड है। विशुद्ध रूप से इंजीनियरिंग अर्थशास्त्र के दृष्टिकोण से, Keras / PlaidML एक बड़ा विजेता है बशर्ते मुझे किसी तरह TensorBoard मिल जाए।

@mirh सभी लिंक के साथ अच्छे सारांश के लिए धन्यवाद। मुझे लगता है कि आपने अपने 3 घंटे बर्बाद नहीं किए... :-)

मुझे नहीं पता कि आरओसीएम मेरे वर्कस्टेशन पर चलेगा या नहीं - कोई ओपन सोर्स हार्डवेयर टेस्टर नहीं है जो मुझे हां या ना में जवाब दे सके। मैंने इसके लिए एक मुद्दा खोला है और मुझे कोई प्रतिक्रिया नहीं मिली है।

जैसा कि मैंने आपको कई बार कहा है, नहीं, यह काम नहीं करेगा।
प्री GCN 3rd gen gpus में ROCm के लिए या तो प्रदर्शन करने या यहां तक ​​कि बिल्कुल भी काम करने के लिए हार्डवेयर की कमी होती है।

SPIR(-V)... मुझे यकीन नहीं है कि आप किस बारे में बात कर रहे हैं। इसकी परवाह करना आपका काम नहीं है। Computecpp इसे SYCL "कमांड" से बनाता है, और फिर यह सब (ओपनसीएल) ड्राइवर व्यवसाय है।

आपके पास वह है जो मैं अस्थायी रूप से amdgpu-pro-opencl-only कह रहा हूं, और मुझे यकीन नहीं है कि समस्या क्या है।
संपादित करें: ल्यूक के कोड के उतरने के लिए किसी प्रकार का ईटीए होना भी अच्छा होगा

@znmeb और हर कोई

मेरे पास (एल) उबंटू 17.10 शामिल है। कर्नेल 4.14.x और एएमडीजीपीयू प्रो 17.40 ड्राइवर से ओपनसीएल लाइब्रेरी पार्ट्स चल रहे हैं और मेरे एएमडी ए12-9800 ई एपीयू पर बिना किसी समस्या के क्लिनोफो या बोइनक (जैसे एंजिमा @ होम, मिल्कीवे @ होम) जैसे ओपनसीएल एप्लिकेशन चला सकते हैं।

मैं टेंसरफ़्लो (वर्तमान में संस्करण 1.4.1) CPU संस्करण को संकलित और उपयोग करने में भी सफल हो सकता हूं। लेकिन मैं टेंसरफ़्लो के ओपनसीएल संस्करण को सफलतापूर्वक संकलित करने में विफल रहा। मैं वनीला टेंसरफ़्लो 1.4.1 और @lukeiwanski के कांटे से "dev/amd_gpu" शाखा के साथ, कंप्यूटेकप 0.5 (वर्तमान में जिसे मैं पंजीकरण करने की आवश्यकता के बिना डाउनलोड कर सकता हूं) का उपयोग करता हूं।

तो क्या कोई ऐसा व्यक्ति खुश हो सकता है जिसने टेंसरफ्लो के ओपनसीएल संस्करण को सफलतापूर्वक संकलित किया है, कुछ जानकारी प्रदान करता है कि कंप्यूटेकप लाइब्रेरी का कौन सा संस्करण और वह किस टेंसरफ्लो गिट का उपयोग कर रहा है?

शुक्रिया

@AlphasCodes मेरे पास उबंटू पर कुछ भी नहीं चल रहा है - मेरी सभी कामकाजी चीजें आर्क पर हैं। मेरे पास उबंटू 16.04.3 के साथ दोहरी बूट वाली मशीन है लेकिन एएमडी मालिकाना पुस्तकालय अभी तक वहां काम नहीं करते हैं। जहां तक ​​​​मुझे पता है कि वे 17.10 को समर्थित नहीं हैं, लेकिन अगर आपके पास ओपनसीएल टुकड़ा 17.10 पर काम कर रहा है तो मैं एक तीसरा बूट जोड़ सकता हूं - मेरे पास बहुत सारे डिस्क स्थान हैं। ;-)

आपको किस प्रकार की त्रुटियां मिल रही हैं? अगर वे बिल्ड एरर कर रहे हैं, तो आपके पास Bazel असंगति हो सकती है। TensorFlow की तरह Bazel लगातार आगे बढ़ रहा है और कभी-कभी एक दूसरे से आगे निकल जाएगा।

आपका क्या मतलब है, "समर्थित नहीं"?

यह ।
उबंटू के लिए, केवल 16.04.3 को समर्थित कहा जाता है (कम से कम आधिकारिक तौर पर, यहां तक ​​​​कि आर्क को भी कुछ स्क्रिप्ट जादू के बाद काम करने के लिए मिल सकता है)
संपादित करें: 'पूर्ण' AMDGPU-PRO ड्राइवर को कर्नेल 4.9 की आवश्यकता होती है, यह संभवतः समस्या थी

अगर कोई परवाह करता है, तो एएमडीजीपीयू-प्रो ड्राइवर 17.40 से आर्क का पोर्ट चल रहा है और https://github.com/corngood/archlinux-amdgpu/pull/54 पर गिटहब पर बहुत सक्रिय है,

हमें वास्तव में इस मुद्दे को बंद करना चाहिए, क्योंकि @mirh ने बताया, TensorFlow SYCL का उपयोग करता है, OpenCL का नहीं। शायद हमें एक और खोलना चाहिए, "एएमडी कार्ड पर टेंसरफ्लो" ??

नहीं, यह पूरी तरह से वैध है।
आप चाहते हैं कि टेंसरफ़्लो अंततः ओपनक्ल उपकरणों पर चले, यही उद्देश्य है। वैध और अंत।
यह कहना कि यह वास्तव में SYCL का उपयोग कर रहा था, केवल एक तकनीकी नाइटपिक था जिसे मैंने बनाया था, क्योंकि जादुई रूप से यादृच्छिक तकनीकों के ये सभी योग मुझे पागल बना रहे थे।
संपादित करें: मैं सभी कोडप्ले लोगों को उनके शानदार काम के लिए धन्यवाद देना चाहता हूं

यदि आप कुछ ऐसा चाहते हैं जो विशेष रूप से एएमडी के लिए तैयार किया गया हो, तो मैं उनके हिपटेंसरफ्लो की जांच करने की सलाह दूंगा। ROCm-केवल हालांकि। और कृपया, इस तर्क को पीछे छोड़ दें।

ठीक है, मुझे नहीं पता कि मेरे पास फिर से निर्माण करने के लिए पर्याप्त समय है और सप्ताहांत तक संकलन त्रुटियां प्रदान करें। लेकिन मैंने अपने मौजूदा दस्तावेज को अपने नए जीथब रेपो में जोड़ा।

विवरण के लिए https://github.com/AlphasCodes/DeepLearning देखें (मेरा हार्डवेयर/सॉफ्टवेयर सेटअप + AMD OpenCL सेटअप + Tensorflow सेटअप)।

@mirh "जादुई रूप से यादृच्छिक प्रौद्योगिकियों के शब्दकोष [...] को [आप] पागल" बनाने के लिए स्पष्ट करने के लिए:

ख्रोनोस ग्रुप के दायरे में, ओपनसीएल निम्न-स्तरीय गैर-एकल स्रोत एपीआई है और एसवाईसीएल उच्च-स्तरीय एकल-स्रोत सी ++ डोमेन-विशिष्ट एम्बेडेड भाषा (डीएसईएल) है। SYCL को OpenCL के शीर्ष पर बनाए जाने की उम्मीद है, इसलिए जब आप SYCL का उपयोग करते हैं, तो अक्सर आप OpenCL का उपयोग करते हैं।

चूंकि TensorFlow Eigen का उपयोग करता है जो एकल-स्रोत CUDA के साथ एकल -स्रोत C++ दृष्टिकोण का उपयोग करता है, जब इसे बाद में OpenCL में पोर्ट किया गया था, SYCL को इसलिए चुना गया क्योंकि यह एकल-स्रोत C++ के लिए Khronos Group मानक तरीका है।

लेकिन अगर आप CUDA के बारे में सोचते हैं, तो यह और भी सूक्ष्म है।

लगभग हर कोई CUDA के उच्च-स्तरीय एकल-स्रोत संस्करण का उपयोग करता है जिसे वास्तव में "CUDA रनटाइम API" नाम दिया गया है। यह किसी तरह SYCL के समान है।
लेकिन वास्तव में CUDA का एक कम ज्ञात निम्न-स्तरीय गैर-एकल-स्रोत संस्करण है जिसे OpenCL के समान "CUDA ड्राइवर API" कहा जाता है, और उदाहरण के लिए "CUDA रनटाइम API" कार्यान्वयन द्वारा उपयोग किया जाता है।

चूंकि यह एक तरह का एफएक्यू है, इसलिए मैंने https://en.wikipedia.org/wiki/SYCL और https://en.wikipedia.org/wiki/CUDA को थोड़ा स्पष्ट किया है।

ComputeCpp जो कि SYCL कार्यान्वयन है जिसका उपयोग आप TensorFlow के साथ कर रहे हैं, अभी तक Ubuntu 17.10 का समर्थन नहीं करता है। आपको उबंटू 16.04 से चिपके रहना होगा जो वर्तमान एलटीएस है। निर्देश और पूर्वापेक्षाएँ यहाँ हैं https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow

एक तरफ, TensorFlow के लिए OpenCL समर्थन का मतलब केवल AMD डिवाइस समर्थन नहीं है। SYCL एकीकरण अन्य OpenCL उपकरणों को भी सक्षम कर रहा है। TensorFlow के साथ हम जो काम कर रहे हैं, उसके हिस्से के रूप में, ARM और Intel GPU के लिए समर्थन तब उपलब्ध होगा जब इन कंपनियों के नवीनतम ड्राइवर उपलब्ध होंगे। हम R-Car प्लेटफॉर्म के लिए भी Renesas त्वरक प्रोसेसर के लिए समर्थन सक्षम करने के लिए भी काम कर रहे हैं।

@rodburns धन्यवाद! मेरे पास आर्क लिनक्स (4.14.4 कर्नेल) पर आर्क यूजर रिपोजिटरी से ओपनक्ल-एएमडी लाइब्रेरी के साथ काम कर रहा है। कार्ड एक बोनेयर (जीसीएन 2.0) है। मैं यह सत्यापित करने के लिए उस पृष्ठ पर परीक्षण चलाऊंगा कि यह वही कर रहा है जो उसे करना चाहिए।

GCN 2nd gen (उर्फ 1.1) यदि कोई हो, 2.0 मौजूद नहीं है।
(इतना पांडित्य होना चाहिए)

सफलता!

@lukeiwanski fork में नवीनतम "dev/amd_gpu" शाखा ने मेरे Tensorflow OpenCL संकलन समस्या को ठीक किया। मुझे लगता है कि यह SysCL 1.2.1 संबंधित कमिट था।

मैंने सफलतापूर्वक एक Tensorflow OpenCL संस्करण संकलित किया और इसका उपयोग कर सकता हूं। विवरण के लिए मेरे Tensorflow सेटअप दस्तावेज़ देखें।

मैंने एक बेंचमार्क पेज भी जोड़ा है जहां आप भविष्य में विभिन्न टेंसरफ्लो सेटअप (गैर सीपीयू अनुकूलित, सीपीयू अनुकूलित, ओपनसीएल) के तहत मेरे सेटअप के कुछ बेंचमार्क पा सकते हैं।

AMDGPU प्रो ड्राइवर संस्करण 17.50 भी मेरे लिए काम कर रहा है। मैंने संबंधित AMD OpenCL सेटअप दस्तावेज़ को अपडेट किया है।

सभी योगदानकर्ताओं को धन्यवाद।

मैंने कुछ बेंचमार्क किए और ऐसा लगता है कि iGPU matmul_bench.py ​​बेंचमार्क को छोड़कर 4 उपलब्ध CPU थ्रेड्स की तुलना में धीमा है।

OpenCL Tensorflow रन का इनिशियलाइज़ेशन भी केवल CPU OpenCL Tensorflow रन की तुलना में बहुत धीमा है। ओपनसीएल के लिए सीपीयू बनाम 1-2 मिनट के लिए 5 सेकंड जैसा कुछ।

क्या कोई ऐसे परिणामों की पुष्टि कर सकता है?

ठीक है मैंने कुछ और समस्या निवारण किया।

• मैंने Tensorflow MNIST उदाहरण का उपयोग किया है, एक Tensorflow सेटअप दस्तावेज़ सत्यापित करें देखें
• मैंने सीपीयू लोड की जांच करने के लिए आईजीपीयू घड़ी/लोड और "टॉप" की जांच/देखने के लिए "सुडो कैट/sys/कर्नेल/डीबग/डीआरआई/0/amdgpu_pm_info" का उपयोग किया
• चरण 0 तक प्रारंभिक चरण में लगभग 6 मिनट लगे, iGPU लोड लगभग 0% था, iGPU घड़ी 300 मेगाहर्ट्ज (न्यूनतम उपलब्ध घड़ी) पर और अजगर प्रक्रिया CPU उपयोग लगभग 200% (= 2 धागे) था।
• चरण 0 से शुरू होकर iGPU लोड लगभग 90% था, iGPU घड़ी हमेशा 654 MHz - 720 MHz - 800 MHz - 900 MHz (अधिकतम उपलब्ध घड़ी) से स्विच की गई और पीछे, अजगर प्रक्रिया CPU उपयोग लगभग 100% (= 1 CPU) था धागा)

मैं अभी भी आर्क पर चीजों को संकलित करने की कोशिश कर रहा हूं।

मैंने कल क्या इस्तेमाल किया ।
14 घंटे के बाद (हाँ, मेरा आलू बहुत धीमा है) अगर आप कोशिश करना चाहते हैं तो मुझे यह बाइनरी मिल गया है।

मैंने यह पता लगाने की कोशिश की कि क्या हो रहा है लेकिन दुर्भाग्य से मैं नहीं कर पाया। मैं आभारी रहूंगा यदि कोई व्यक्ति जो निम्नलिखित के बारे में जानता है, मुझे गति प्राप्त करने में मदद कर सकता है!

उपरोक्त अधिकांश चर्चा एएमडी चिप्स पर ओपनसीएल त्वरण के साथ टेन्सरफ्लो चलाने से संबंधित है। क्या मैं यह कहने में सही हूँ? अगर मैं अपने एकीकृत ग्राफिक्स कार्ड (इंटेल एचडी 5000) का उपयोग करके जीपीयू त्वरित टेंसरफ्लो प्राप्त करना चाहता हूं जो ओपनसीएल का समर्थन करता है, तो मेरा दृष्टिकोण क्या होना चाहिए?

अग्रिम में धन्यवाद!

@znmeb हाय एड, उत्तर देने के लिए धन्यवाद। मुझे अपने सिस्टम पर ओपनसीएल डाउनलोड और चल रहा है। लेकिन मेरा सवाल था - मैं वास्तव में ओपनसीएल पुस्तकालयों का उपयोग करने के लिए टेंसरफ़्लो को कैसे संकलित कर सकता हूं?

https://developer.codeplay.com/computecppce/latest/getting-started-with-tensflow
और सबसे महत्वपूर्ण इंटेल के लिए https://github.com/codeplaysoftware/computecpp-sdk/issues/78#issuecomment -352411192

@AlphaCodes अपने परिणाम प्रकाशित करने के लिए धन्यवाद। आरंभीकरण समय के संबंध में, ओपनसीएल जिस तरह से काम करता है वह यह है कि कोड निष्पादन से पहले संकलित किया जाता है, इसलिए स्टार्टअप समय संकलन प्रक्रिया है।

@brainwave इंटेल उपकरणों के लिए, यहां @mirh के साथ एक धागा है जो बताता है कि चल रहे उपकरणों के आसपास के प्रतिबंधों को कैसे हटाया जाए। हमने इंटेल ड्राइवरों के साथ समस्याएं देखी हैं, यही कारण है कि ये डिवाइस प्रकार प्रतिबंधित हैं, लेकिन हम उम्मीद कर रहे हैं कि अपडेट किए गए ड्राइवर जल्द ही इंटेल डिवाइस के लिए उपलब्ध होंगे जो समर्थन में सुधार करते हैं। इस बीच आप अपने स्वयं के इंटेल हार्डवेयर का परीक्षण करने के लिए परिवर्तन के साथ TensorFlow को फिर से संकलित कर सकते हैं। हम कोडबेस में डिवाइस प्रतिबंधों को हटाने पर विचार कर रहे हैं।

@AlphasCodes दोस्तों, मैं शायद भोले प्रश्न के लिए क्षमा चाहता हूँ लेकिन यह केवल AMD GPU ही क्यों बना रहा है? ओपनसीएल मानक नहीं होना चाहिए? क्या मैं इसे सही ढंग से समझता हूं कि यह मेरे Intel कार्बन X1 पर स्थापित OpenCL 2.0 ड्राइवरों के साथ काम नहीं करेगा?

यदि आप उस मुद्दे को पढ़ते हैं जो दो बार जुड़ा हुआ था, तो आप देखेंगे कि AMD GPU के बारे में कुछ भी नहीं है।
इंटेल को वर्तमान में बाहर रखा गया है, लेकिन इसका उपयोगकर्ताओं को बाध्य करने की इच्छा से कोई लेना-देना नहीं है, और एक अस्थायी समाधान है - यदि वास्तव में कोई है तो वहां चर्चा करें।

जब मैं एक ज्यूपिटर नोटबुक के साथ amd_gpu शाखा का उपयोग करता हूं, तो ऐसा लगता है कि एक बचा हुआ धागा है। गणना समाप्त होने के बाद भी, अजगर अभी भी एक सीपीयू का 100% उपयोग करता है। कर्नेल को पुनरारंभ करने से आवारा धागा समाप्त हो जाता है। क्या किसी और को इसका अनुभव है?

@brainwave @unoexperto
क्षमा करें, मैं इंटेल ओपनसीएल के साथ मदद नहीं कर सकता क्योंकि मेरे पास केवल एएमडी ओपनसीएल हार्डवेयर है।

@desperadoduck
मैं अभी तक jupyter का उपयोग नहीं करता। मैं एक सादा बैश खोल और वर्चुअल पायथन 3 वातावरण का उपयोग करता हूं ( मेरा पायथन 3 + टेन्सफोर्लो सेटअप देखें )। लेकिन मैं इस मुद्दे को पुन: पेश नहीं कर सकता। गणना पूर्ण होने के बाद पाइथन प्रक्रिया द्वारा कोई CPU उपयोग नहीं होता है।

@रॉडबर्न्स
जानकारी के लिए धन्यवाद। क्या प्रारंभिक संकलन समय को तेज करना संभव है? उदाहरण के लिए केवल 50% के बजाय सभी उपलब्ध CPU थ्रेड्स का उपयोग करना।

@brainwave @rodburns
Linux के तहत Intel GPU (Gen9) के लिए, हमने PlaidML पर कॉमन विज़न नेट के साथ बेंचमार्किंग करते समय Intel के ओपन सोर्स Beignet कार्यान्वयन बनाम क्लोज्ड सोर्स वन के साथ काफी बेहतर DNN प्रदर्शन देखा है। Beignet भी स्थापित करना आसान है जो अच्छा है।

क्या यह ubuntu17.10 पर इंटेल ग्राफिक्स एचडी615 (7वीं पीढ़ी के सीपीयू) का समर्थन करता है?

Linux64 के लिए opencl dirver SRB5.0 ubuntu17.10 पर अच्छा चल रहा है।

और इसे लंबे समय से अपडेट नहीं किया गया है:
https://bitbucket.org/mehdi_goli/opencl/branch/IntelGPU

भगवान के प्यार के लिए, क्या आप ऊपर सिर्फ 2 (दो!) पोस्ट नहीं पढ़ सकते हैं?
Intel gpu (या amd cpu) समर्थन की कमी के बारे में यहाँ चर्चा करें https://github.com/codeplaysoftware/computecpp-sdk/issues/78

@znmeb यह विभिन्न कंप्यूटिंग संसाधनों (जैसे सीपीयू, जीपीयू, डीएसपी, कोई अन्य कोप्रोसेसर) का पूर्ण उपयोग करने का लक्ष्य है।
वास्तव में, यह हार्डवेयर विक्रेताओं के समर्थन पर निर्भर करता है: dirver और OS।
जैसा कि मुझे पता है, आप एक ही समय के दौरान वीडियो के लिए इंटेल जीपीयू और एनवीडा जीपीयू दोनों को सक्षम नहीं कर सकते हैं, वेदियो ड्राइवर की सीमा के कारण। (आप उनके बीच स्विच करने में सक्षम हो सकते हैं)।
हालाँकि, opencl एक ही समय में उनका उपयोग कर सकता है। वे दोनों इसमें "उपकरण" हैं।

@choongng यह जानना दिलचस्प है, हमने Beignet को सक्षम करने में मदद करने के लिए कुछ काम किया लेकिन लगता है कि इस परियोजना पर गतिविधि थोड़ी शांत हो गई है।

@znmeb हाँ कोई भी GPU शायद एक छोटी सी समस्या पर बेहतर प्रदर्शन नहीं करेगा, खुशी है कि आप कुछ प्रगति कर रहे हैं!

TensorFlow के साथ @unoexperto ComputeCpp किसी भी हार्डवेयर द्वारा उपयोग किया जा सकता है जो SPIR OpenCL इंटरमीडिएट निर्देशों का समर्थन करता है जिसमें Intel GPU शामिल हैं, हालांकि यहां थ्रेड में, हमने जानबूझकर इसे चलने से रोका था क्योंकि हमें नहीं लगता था कि वर्तमान ड्राइवर इस समय काम कर रहे थे। . आप उस प्रतिबंध को हटा सकते हैं क्योंकि ऐसा लगता है कि कुछ उपयोगकर्ताओं ने इसे विभिन्न इंटेल ड्राइवरों के साथ काम कर लिया है। हम इसे एआरएम और रेनेसास प्रोसेसर के लिए सक्षम करने पर भी काम कर रहे हैं जिनके पास ओपनसीएल ड्राइवर हैं।

@ sxpc722 तब काम करना चाहिए। वैसे, नई मशीन विंडोज 10 है और मैं इसे तब तक लिनक्स के साथ डुअल-बूट करने की योजना नहीं बना रहा हूं जब तक कि मुझे ऐसा बिल्कुल न करना पड़े! मैं विक्रेताओं के लिए ड्राइवर और लाइब्रेरी बग का पीछा करने से बीमार हूं (आपको देखकर, एएमडी)। वास्तव में, मैं उसी एएमडी कारण के लिए अपने वर्कस्टेशन पर एक विंडोज विभाजन डाल सकता हूं। ;-)

14 दिन हो गए हैं और कोई गतिविधि नहीं हुई है और इस मुद्दे को एक असाइन किया गया है। कृपया तदनुसार लेबल और/या स्थिति अपडेट करें।

मेरे परीक्षणों के अनुसार Tensorflow AMD OpenCL का प्रदर्शन बहुत धीमा है। इसलिए मैंने अन्य डीप लर्निंग फ्रेमवर्क के साथ कुछ बुनियादी परीक्षण किए। आपको मेरा सेटअप और बेंचमार्क मेरे GitHub पेज पर यहां मिलेगा।

कहानी संक्षिप्त में। अन्य डीप लर्निंग फ्रेमवर्क वर्तमान में Tensorflow AMD OpenCL से लगभग 10 गुना तेज है।

@AlphasCodes @znmeb मुझे पता है कि TF टीम केवल थ्रेड को TF रखना पसंद करती है, हमें PlaidML-विशिष्ट वार्तालाप को PlaidML प्रोजेक्ट पर होस्ट करने में प्रसन्नता हो रही है। उस ने कहा, हम अंततः TensorFlow के साथ-साथ गैर-ओपनसीएल प्लेटफार्मों का समर्थन करने की उम्मीद करते हैं (उदाहरण के लिए आईओएस के लिए ऐप्पल की धातु जो वर्तमान में प्रोटोटाइप रूप में मौजूद है)।

https://github.com/playidml/playidml

@choongng जानकारी के लिए धन्यवाद मैंने तदनुसार अपना संदेश संपादित किया।

@znmeb AMD A12-9800E iGPU GCN v3.

मेरे लिए बेंचमार्क/परीक्षण करने का मुख्य और एकमात्र कारण मेरे प्रश्न "स्टे विथ एएमडी या स्विच टू एनवीडिया फॉर माय डीप लर्निंग एडवेंचर" पर एक उत्तर खोजना है।

और जवाब है। मुझे वास्तव में एएमडी का ओपनसोर्स दृष्टिकोण पसंद है लेकिन मैं 2 कारकों के कारण एनवीडिया पर स्विच करने की संभावना रखता हूं। सबसे पहले डीप लर्निंग सॉफ्टवेयर स्टैक (जैसे टेंसरफ्लो) एनवीडिया के लिए बहुत अधिक परिपक्व है। दूसरा ग्राफिक कार्ड मेरी बहुत विशिष्ट जरूरतों के लिए प्रदान करता है (एक डैन ए 4 एसएफएक्स केस में फिट होना चाहिए और घंटों के लिए पूर्ण लोड के तहत बहुत ही चुप / लगभग नीरव होना चाहिए) बहुत सीमित है या यहां तक ​​​​कि एएमडी पक्ष पर मौजूद नहीं है।

क्या इंटेल जीपीयू समर्थित है? मुझे लगता है कि मेरा आइरिस प्रो उम्र भर के प्रशिक्षण को थोड़ा तेज कर सकता है।

यहाँ पर Intel gpu (या amd cpu) समर्थन की कमी पर चर्चा करें codeplaysoftware/computecpp-sdk#78

https://github.com/codeplaysoftware/computecpp-sdk/issues/82

बस इस मुद्दे की स्थिति को समझने की कोशिश की जा रही है। क्या मेरा यह कहना सही है कि यह रेपो:

https://github.com/lukeiwanski/tensorflow

... ComputeCpp के साथ निर्मित, सामान्य AMD GPU समर्थन के साथ Tensorflow के निर्माण के लिए वर्तमान सबसे अच्छा विकल्प है? और यदि हां, तो क्या कोई बेंचमार्क सबूत है कि यह बिल्ड सीपीयू पर स्पीडअप प्रदान करता है?

"सामान्य एएमडी जीपीयू समर्थन" से आपका क्या मतलब है इस पर निर्भर करता है। यदि आपका मतलब वास्तव में पुराने dGPU या APU से है, तो मुझे नहीं पता। लेकिन अगर आपके पास नया (दूसरा जनरल जीसीएन या नया) है, तो आरओसीएम पर चलने वाला हिपटेन्सरफ्लो (v1.0.1) बहुत अच्छा काम कर रहा था।

@ briansp2020 आह हाँ मैंने आरओसीएम पर एएमडी का काम देखा है। दुर्भाग्य से वे केवल लिनक्स का समर्थन करते हैं, और ऐसा नहीं लगता कि किसी अन्य ओएस के लिए समर्थन उनके रोडमैप पर है। मैं विंडोज़ का समर्थन करने वाली किसी चीज़ की उम्मीद कर रहा हूं।

@mjmax क्या विंडोज़ के लिए कोई GPU त्वरित टेंसरफ़्लो पैकेज उपलब्ध है? मैंने सोचा, यदि आप चाहते हैं कि GPU त्वरित गहन अध्ययन करे, तो Linux ही एकमात्र विकल्प था। यदि TensorFlow को OpenCL में पोर्ट किया गया था, तो क्या इससे विंडोज़ को पोर्ट करना आसान हो जाएगा? मुझे यकीन नहीं है कि CUDA समर्थित होने पर GPU त्वरण के साथ विंडोज़ पर TensorFlow क्यों उपलब्ध नहीं है।

मुझे लगता है कि यह अब विषय से बाहर है, लेकिन अगर किसी को GPU त्वरित विंडोज़ के लिए TensorFlow और/या PyTorch के बारे में पता है, तो मैं इसके बारे में भी जानना चाहता हूं ...

@ briansp2020 जहाँ तक मुझे पता है, Tensorflow पहले से ही विंडोज़ पर Nvidia GPU त्वरण का समर्थन करता है।

CL tensofrflow पहले से ही linux पर एक गड़बड़ है, जल्द ही कुछ भी उम्मीद न करें।
यदि आप वहां सामान में तेजी लाना चाहते हैं, तो केवल प्लेडएमएल है।
(और कृपया, हम पहले से ही 500 टिप्पणियों पर हैं .. आइए केवल पोस्ट करने का प्रयास करें यदि वास्तव में, वास्तव में आवश्यक है)

@mirh OpenCL Caffe विंडोज़ पर काम करता है। निश्चित रूप से यह सुविधाओं के मामले में TensorFlow नहीं है, लेकिन सॉफ़्टवेयर के लिए बहुत ठोस है जिसे हर जगह तैनात किया जाना है।

एएमडी द्वारा समर्थित एचआईपी पोर्ट के साथ ओपनसीएल पोर्ट को बदलने के बारे में क्या?

https://github.com/ROCmSoftwarePlatform/hiptensorflow

हाहा! @LifeIsStrange Life वास्तव में बहुत अजीब है... क्या आप AMD की HiP मार्केटिंग टीम के लिए काम कर रहे हैं? :-)
कृपया इस मुद्दे के विषय को देखें: "ओपनसीएल समर्थन"।

इसका मतलब है कि यह ख्रोनोस मानक https://en.wikipedia.org/wiki/OpenCL के बारे में है (और ओपनसीएल ख्रोनोस वर्किंग ग्रुप से अन्य एसवाईसीएल मानक "अवलोकन" खंड के अंत में दिखाई देता है)।

बेशक इस मुद्दे के बाहर एक दुनिया है, लेकिन यह है... बाहर ! :-)

कृपया इस पर पहले से ही बहुत लंबी चर्चा पर कुछ यादृच्छिक पोस्ट पोस्ट करके ब्रह्मांड की एन्ट्रापी को अनजाने में न बढ़ाने का प्रयास करें ... :-)
यह टिप्पणी यहाँ कुछ अन्य पोस्टरों पर लागू होती है, न कि केवल आप पर।
तकनीकी समस्या को हल करने के लिए यह एक गिटहब मुद्दा है: ओपनसीएल मानक का समर्थन करने वाले उपकरणों पर टेंसरफ्लो चल रहा है, न कि फेसबुक पेज के बारे में कि लोग ए या बी को कैसे पसंद या नापसंद करते हैं। :-)
लेकिन कृपया इस मुद्दे से संबंधित कुछ गिट कमिट भेजने के लिए स्वतंत्र महसूस करें जिन्हें हम देख सकते हैं ...

OpenCL का समर्थन करने वाला TensorFlow का एक कांटा है https://github.com/hughperkins/tf-coriander

और निश्चित रूप से @benoitsteiner का काम https://github.com/benoitsteiner/tensorflow-opencl

आईएमएचओ, यह हास्यास्पद है कि मुख्यधारा के टीएफ ने अभी भी अपने काम को विलय नहीं किया है।

क्या यहां पर फोकस-टू-रन-एज़-लोमग-एज़-इट-इज़-ओपनसीएल प्राप्त करने पर है, या इसे वास्तव में तेज़ी से चलाने पर है? मैं वहां एक पवित्र युद्ध नहीं पसंद करूंगा, लेकिन इसे कई जीपीयू पर तेजी से चलाने पर ध्यान केंद्रित करूंगा। LifeIsStrange का ध्यान इसे AMD GPU पर काम करने पर है और फिर HIP अच्छी समझ में आता है। दूसरों के लिए इसे इंटेल जीपीयू या एंड्रॉइड पर काम करने पर ध्यान केंद्रित किया जाता है, और फिर ओपनसीएल बहुत अधिक समझ में आता है। GPU-भाषाएं एक गड़बड़ हैं, इसलिए कृपया व्यावहारिक रहें,

अगर मैं यहां कुछ टिप्पणियां पढ़ता हूं, तो ओपनसीएल बंदरगाहों के साथ प्रदर्शन एक मुद्दा है। लेकिन दुर्भाग्य से मैं आसपास कई बेंचमार्क नहीं देख सकता। क्या इससे ज्यादा बेंचमार्क हैं? https://github.com/AlphasCodes/DeepLearning/blob/master/Tensorflow_Benchmarks.md

जैसा कि मैं इसे समझता हूं, यदि आप CUDA की तुलना OpenCL से करते हैं, तो बेंचमार्किंग कठिन है, क्योंकि आपको विभिन्न हार्डवेयर का उपयोग करना होगा। कथित तौर पर, एनवीडिया ने जानबूझकर अपने ओपनसीएल कार्यान्वयन को कुछ हद तक तोड़ने की अनुमति दी/अनुमति दी, इसलिए उसी हार्डवेयर पर बेंचमार्किंग हमेशा सीयूडीए को शानदार दिखने का परिणाम देगा।

12 फरवरी 2018 को 14:26:11 GMT+00:00, VincentSC [email protected] ने लिखा:

क्या यहाँ पर फोकस-टू-रन-एज़-लोमग-एज़-इट-इज़-ओपनसीएल प्राप्त करने पर है, या
यह वास्तव में तेजी से चल रहा है? मैं पसंद करूंगा कि वहां कोई पवित्र युद्ध न हो, लेकिन
इसे कई GPU पर तेजी से चलाने पर ध्यान केंद्रित कर रहा है। LifeIsस्ट्रेंज
एएमडी जीपीयू पर काम करने के लिए ध्यान केंद्रित किया जाता है और फिर एचआईपी अच्छा बनाता है
समझ। दूसरों के लिए इसे इंटेल जीपीयू पर काम करने पर ध्यान केंद्रित करना है या
Android, और फिर OpenCL बहुत अधिक समझ में आता है। GPU-भाषाएं हैं a
गड़बड़ है, इसलिए कृपया व्यावहारिक रहें,

अगर मैं यहां कुछ टिप्पणियां पढ़ता हूं, तो प्रदर्शन के साथ एक मुद्दा है
ओपनसीएल पोर्ट। लेकिन दुर्भाग्य से मैं आसपास कई बेंचमार्क नहीं देख सकता।
क्या इससे ज्यादा बेंचमार्क हैं?
https://github.com/AlphasCodes/DeepLearning/blob/master/Tensorflow_Benchmarks.md

--
आप इसे प्राप्त कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें:
https://github.com/tensorflow/tensorflow/issues/22#issuecomment -364936498

--
K-9 मेल के साथ मेरे Android डिवाइस से भेजा गया। मेरे संक्षिप्तता को माफ़ करो।

केवल 2 नंबरों की तुलना करना कोई जानकारी नहीं है - कौन परवाह करता है कि एनवीडिया पर ओपनसीएल आधा गति से चलता है अगर यह अन्य जीपीयू पर 4x गति से चलता है?

मुझे लगता है कि हमें इन बेंचमार्क की आवश्यकता होगी:

1. NV GPU पर CUDA (संदर्भ बेंचमार्क)
2. एएमडी, एनवीडिया और इंटेल जीपीयू पर https://github.com/hughperkins/tf-coriander
3. एएमडी, एनवीडिया और इंटेल जीपीयू पर https://github.com/benoitsteiner/tensorflow-opencl
4. एएमडी, एनवीडिया और इंटेल जीपीयू पर https://github.com/lukeiwanski/tensorflow

संदर्भ बेंचमार्क आसानी से मिल जाते हैं। हमारे यहां कुछ हाई एंड जीपीयू हैं, इसलिए केवल नंबर डालने के लिए एक जगह की जरूरत है (बिल्डिंग-डॉक्स के लिंक के साथ)।

ओपनसीएल समर्थन यह सच होना चाहिए।

cuda बहुत सीमित है, और nvidia इसे साझा नहीं करना चाहता।
cuda केवल Nv gpus के लिए काम करता है।
वह TensorFlow के लिए मृत अंत है,
यदि कोई अन्य "TensorFlow" बाहर आता है लेकिन TensorFlow से अधिक समर्थन करता है।
अगर TensorFlow अभी भी विंडोज़ में केवल cuda का समर्थन करता है।
आपको महसूस करना होगा कि TensorFlow ही एकमात्र चयन नहीं है।

ओपनसीएल एचआईपी से बेहतर क्यों है? मुझे लगता है कि ओपनसीएल इस समय कर्षण हासिल करने और ओपनसीएल का समर्थन करने में विफल रहा है, शायद पूरे समुदाय/उद्योग के लिए काउंटर उत्पादक और संसाधनों की कमर है। मैं इसके बजाय TensorFlow को सीधे HIP का समर्थन करना चाहता हूं और संकलक/उपकरण/लाइब्रेरी को पोर्टेबिलिटी का ध्यान रखने देना चाहता हूं।

क्या सॉफ्टवेयर के लिए 1 भाषा/प्रोग्रामिंग मॉडल का समर्थन करना बेहतर नहीं है?

सॉफ़्टवेयर को हर उपयोग के मामले को कवर करने के लिए समर्थन करना है।
यदि आपने हार्डवेयर का समर्थन किया है तो HIP सभी घंटियाँ और सीटी (कम से कम कागज पर) है। लेकिन इस दुनिया में सिर्फ "नए एएमडी और एनवीडिया कार्ड" नहीं हैं।

अब कृपया, भगवान के प्यार के लिए, किसी भी समस्या के लिए यहां शिकायत करें ।
और यहां इस मुद्दे को जारी रखने के इच्छुक सभी लोगों के लिए।

मैंने सोचा, कि SPIR-V सीधे CUDA को एक क्रॉस-हार्डवेयर विकल्प के रूप में बदल देगा:
http://alphanew.net/index.php?section=alphanew&site=overview&lang=eng&newsID=111

Google अभी भी CUDA पर निर्भर क्यों है?

क्या ये मदद कर सकते हैं?

ओपनसीएल यादृच्छिक संख्या पीढ़ी (थॉमस वांग):

uint wang_hash(uint seed)
{
               seed = (seed ^ 61) ^ (seed >> 16);
               seed *= 9;
               seed = seed ^ (seed >> 4);
               seed *= 0x27d4eb2d;
               seed = seed ^ (seed >> 15);
               return seed;
}

void wang_rnd_0(__global unsigned int * intSeeds,int id)                
{
               uint maxint=0;
               maxint--;
               uint rndint=wang_hash(id);
               intSeeds[id]=rndint;
}

float wang_rnd(__global unsigned int * intSeeds,int id)                
{
               uint maxint=0;
               maxint--;
               uint rndint=wang_hash(intSeeds[id]);
               intSeeds[id]=rndint;
               return ((float)rndint)/(float)maxint;
}


// initialize each thread's own random number seed
__kernel void rnd_0(__global unsigned int * intSeeds)
{
               int id=get_global_id(0);
               wang_rnd_0(intSeeds,id);     
}

// get a new random value by each thread
__kernel void rnd_1(__global unsigned int * intSeeds)
{
               int id=get_global_id(0);
               float randomFloat=wang_rnd(intSeeds,id);
}

OpenCL SHA3hashing (भूल गया कि इसे किसने लिखा है)

https://gist.github.com/tugrul512bit/c8170f74846e36e350607664f12c525c

कृपया असाइनी को हटा दें, क्योंकि यह समस्या बाहरी योगदानों को आमंत्रित कर रही है। अन्यथा, contributions welcome लेबल हटा दें। धन्यवाद।

कृपया असाइनी को हटा दें, क्योंकि यह समस्या बाहरी योगदानों को आमंत्रित कर रही है। अन्यथा, contributions welcome लेबल हटा दें। धन्यवाद।

OpenCL का समर्थन करना Google के हित में है,
आपके सॉफ़्टवेयर पर निर्भरता के रूप में एक विशिष्ट (कंपनी/ब्रांड/विक्रेता) का विशिष्ट हार्डवेयर होने से, आप हार्डवेयर के लिए अधिक भुगतान करने के लिए खुद को लागू करते हैं, बाजार की प्रतिस्पर्धा लागत को कम करती है।
Google शुरू से ही कमोडिटी हार्डवेयर के बारे में रहा है जो कि Google की सफलता (बाजार प्रभुत्व) के लिए महत्वपूर्ण था, कम डेटा सेंटर परिचालन लागत होने के कारण, क्रांतिकारी उदार अनिवार्य रूप से मुफ्त सेवाओं जैसे जीमेल (भंडारण स्थान) और Google फ़ोटो (भंडारण) को सक्षम किया। स्पेस और ऑटो-टैगिंग)।

@wesamco नहीं, यह जरूरी नहीं कि Google के हित में हो। वे अपना खुद का हार्डवेयर बनाते हैं - जिसे "टेन्सरबोर्ड", IIRC कहा जाता है। वे OpenCL और CUDA / CUDnn को बायपास कर सकते हैं और बोर्ड को कच्चा TensorFlow कोड चला सकते हैं।

कच्चा TensorFlow कोड।

ऐसी कोई बात नहीं है - यह असंसाधित भोजन की तरह नहीं है। टीपीयू को अपने स्वयं के डीएनएन-लाइब्रेरी की आवश्यकता होती है जो विभिन्न प्रकार की कॉलों को संभालता है।

ऐसा लगता है कि उपरोक्त चर्चा को फिर से एक सूची में सम्मिलित करने का समय आ गया है:

• कोडप्ले एक SYCL बैकएंड पर काम कर रहा है
• ह्यूग पर्किन्स tf-धनिया पर काम कर रहे हैं
• AMD एक HIP बैकएंड पर काम कर रहा है
• प्लेडएमएल इस समय केवल सीपीयू का समर्थन करता है।
• Intel GPU के लिए समर्थन की स्थिति स्पष्ट नहीं है।

इसलिए अपनी पसंद का प्रोजेक्ट चुनें और उनका समर्थन करना शुरू करें। हो सकता है कि प्रत्येक समूह अपनी परियोजना पर स्थिति-अद्यतन दे सके?

यह समझें कि ओपनसीएल को एक पूर्ण भाषा से एक भाषा-परिभाषा/हार्डवेयर-विनिर्देश में बदल दिया गया है जो एसपीआईआरवी (कर्नेल) में दर्शाया गया है, जिसे बाद में ओपनसीएल-ड्राइवर जैसे प्लेटफॉर्म के शीर्ष पर और बाद में वल्कन-ड्राइवरों पर भी चलाया जा सकता है। (प्लेटफॉर्म)। तो SYCL को सपोर्ट करके आप भी OpenCL को सपोर्ट करते हैं.

बिल्कुल सही योग, लेकिन प्लेडएमएल gpus पर भी चलता है।
यह सिर्फ इतना है कि इस समय वे केरस के लिए बैकएंड हैं, टेंसरफ़्लो नहीं। तो यह थोड़े ओटी है।

नमस्ते,
@VincentSC विभिन्न प्रयासों के शानदार योग के लिए धन्यवाद!

इसलिए अपनी पसंद का प्रोजेक्ट चुनें और उनका समर्थन करना शुरू करें। हो सकता है कि प्रत्येक समूह अपनी परियोजना पर स्थिति-अद्यतन दे सके?

SYCL दृष्टिकोण अब विभिन्न प्लेटफार्मों/उपकरणों का समर्थन करता है। जिनका मैं उल्लेख कर सकता हूं वे हैं:

• AMD GPU (FirePro W8100, R9 Nano और R9 380 Series) निर्देश यहां या यहां उपलब्ध हैं
• एआरएम माली (हाईके 960) निर्देश यहां उपलब्ध हैं
• Intel NEO OpenCL ड्राइवर के साथ Intel GPU (SkyLake Series)

जब एएमडी की बात आती है, तो फिलहाल ऊपर उल्लिखित जीपीयू एएमडीजीपीयू-प्रो ड्राइवरों का उपयोग कर रहे हैं 17.40-xxx लीगेसी ओपनसीएल सक्षम के साथ।
मुझे कोई स्पष्ट कारण नहीं दिख रहा है कि अन्य श्रृंखला क्यों काम नहीं करेगी (इस धारणा के साथ कि एसपीआईआर/एसपीआईआर-वी समर्थित है)

हम जिस मुख्य प्लेटफॉर्म पर ध्यान केंद्रित कर रहे हैं वह लिनक्स है - हालांकि, भविष्य में विंडोज को सक्षम करने के लिए हमारे पास निरंतर प्रयास हैं। निकट भविष्य में OSX को सपोर्ट करने की हमारी कोई योजना नहीं है। मैं उदास चेहरा जानता हूँ।

हमारा ध्यान सीएनएन के प्रदर्शन में सुधार लाने पर है। वर्तमान प्रदर्शन अनुकूलित नहीं है और कहीं भी नहीं है जहां हम इसे समाप्त होते देखते हैं। उस ने कहा, हम पहले से ही विभिन्न लक्ष्यों पर अधिकांश मॉडलों के लिए सीपीयू प्रदर्शन को हरा रहे हैं।

विकास चक्र को गति देने और TensorFlow के समग्र संकलन समय को कम करने के लिए (साथ ही पोर्टेबिलिटी में सुधार) हम Eigen, BLAS और DNN पुस्तकालयों पर काम कर रहे हैं।
इन पुस्तकालयों का उद्देश्य प्रदर्शन की समस्या को हल करने के साथ-साथ पोर्टेबल पुस्तकालयों के एक पारिस्थितिकी तंत्र का निर्माण करना है जिसे आसानी से TensorFlow जैसी जटिल परियोजनाओं के साथ एकीकृत किया जा सकता है।

नीचे, प्रदर्शन के लिए ग्राफ़ देखें जिन्हें हम वर्तमान में साझा कर सकते हैं। वे मेरे कांटे https://github.com/lukeiwanski/tensorflow/tree/dev/amd_gpu से 271093b21cc5ca38e8699e154b5cada96bd7ac0d पर लिए गए हैं।
इस्तेमाल किया गया बेंचमार्क है https://github.com/tensorflow/benchmarks

ग्राफ़ को Intel i7-4790K परिणामों के लिए सामान्यीकृत किया गया है।

हम धीरे-धीरे Eigen में परिवर्तनों को अपस्ट्रीम कर रहे हैं, ऐसा होने पर हम TensorFlow के साथ अनुसरण करेंगे।

उम्मीद है की वो मदद करदे,
ल्यूक

GPU/OpenCL सपोर्ट वाले मोबाइल उपकरणों पर गहन सीखने के अनुमान के लिए, आप MACE चेकआउट कर सकते हैं, जो Adreno, Mali और PowerVR GPU के लिए अनुकूलित है। यहां कुछ बेंचमार्क परिणाम दिए गए हैं।

@keryell @benoitsteiner , एकीकरण के लिए टेंसरफ़्लो और ट्राइसीक्ल के किस संस्करण की आवश्यकता है। मुझे नवीनतम ट्राइसाइकिल रिलीज के साथ टेंसरफ्लो (1.9) बनाने में परेशानी हो रही है।

दुर्भाग्य से नवीनतम TensorFlow वर्तमान ट्राईएसवाईसीएल की तुलना में अधिक उन्नत सुविधाओं का उपयोग कर रहा है, इसलिए आपको ComputeCpp का उपयोग करना होगा, वर्तमान में एकमात्र पूरी तरह से अनुपालन SYCL कार्यान्वयन ...

Tensorflow Google Brain द्वारा समर्थित है, और Google ने nVidia के साथ साझेदारी की है, मुझे लगता है कि हम Tensorflow से OpenCL का समर्थन करने की अपेक्षा नहीं करेंगे
बड़े ओपनसीएल सामुदायिक प्रयास की जरूरत है

ओपनसीएल समर्थन कृपया!

ओपनसीएल हमारे लिए भी अधिक उपयुक्त है।

@Makhaon Me भी। मैं NVIDIA ग्राफिक कार्ड वाली मशीन खरीदने का जोखिम नहीं उठा सकता।

उपरोक्त 2 पदों के अलावा, मैं यह जोड़ना चाहता हूं कि अब एएमडी के वेगा जीपीयू (रेवेन रिज एपीयू के अंदर वाले सहित) एफपी 16 को दो बार फ्लॉप पर कर सकते हैं, इसलिए यदि टीएफ उन्हें (ओपनसीएल के माध्यम से) समर्थन कर सकता है तो यह वास्तव में लोगों की मदद करेगा कम बजट। साथ ही इनमें से बहुत से लोग छात्र होंगे, और अगर हम उन्हें TF का उपयोग उनकी DNN यात्रा के शुरुआती बिंदु के रूप में करने के लिए कहें, तो वे शायद TF के साथ सड़क पर चिपके रहेंगे, और यहां तक ​​कि TF के बारे में दूसरों को भी बताएंगे; यह इस परियोजना का विस्तार करने में मदद करने का एक शानदार तरीका है।

मुझे लगता है कि यह धागा डेवलपर्स के लिए अधिकतर अर्थहीन है (बहुत अधिक शोर - और मैं कुछ और जोड़ूंगा ;-) लेकिन मुझे लगता है कि कई टिप्पणियां बिंदु खो रही हैं:
यदि आप Tensorflow को AMD कार्ड के साथ चलाना चाहते हैं तो OpenCL वह नहीं है जिसकी आप तलाश कर रहे हैं - कृपया https://github.com/ROCmSoftwarePlatform/ पर जाएं और ROCm स्टैक स्थापित करें। AFAIK AMD की वर्तमान रणनीति Tensorflow/pytorch के लिए OpenCL के बजाय ROCm पर आधारित है ।

जेनेरिक ओपनसीएल बहुत अधिक रखरखाव था/एएमडी के लिए उपयुक्त होने के लिए पर्याप्त प्रदर्शन लाभ नहीं देता था। इसलिए यह टिकट केवल तभी दिलचस्प है जब आप एक एआरएम प्लेटफॉर्म (जैसे) चला रहे हैं जो केवल ओपनसीएल का उपयोग करता है।

(अस्वीकरण: सिर्फ एक बाहरी व्यक्ति, Tensorflow विकास में कोई वास्तविक नहीं है, इसलिए हो सकता है कि ऊपर दी गई जानकारी पूरी तरह से गलत और भ्रामक हो। यदि आप बेहतर जानते हैं तो मुझे कोसने के लिए स्वतंत्र महसूस करें।)

बस एक विचार, नए GPU ऑफलोड के साथ llvm के बारे में क्या? यह टेंसरफ़्लो और क्यूडा विशिष्ट कोड के बीच एक महान स्तर की अमूर्तता रखेगा।

आप सभी के बारे में क्या है जो ऊपर केवल 10 पोस्ट पढ़ रहे हैं और देख रहे हैं कि ल्यूकीवांस्की/कोडप्लेसॉफ्टवेयर द्वारा पहले से ही एक कांटा है जिसे आप आजमा सकते हैं?
(एक बार, कुछ गंभीर प्रकार के ओपन सोर्स प्रयास में योगदान देने के लिए, ज़ियाओमी को मेरी सलामती)

@FelixSchwarz बस आप जानते हैं कि ROCm OpenCL का उपयोग करता है, यह Linux पर AMD का यूजरस्पेस OpenCL ड्राइवर है (यही कारण है कि यह विंडोज़ का समर्थन नहीं करता है), इसलिए यदि आप इस बात से अवगत नहीं हैं कि linux पर AMD का ड्राइवर इकोसिस्टम कैसे काम करता है, तो उनके पास है उनके कर्नेल साइड ड्राइवर AMDGPU और AMDKFD (जो अब AMDGPU में विलय हो रहा है) तो यूजरस्पेस ड्राइवर RadeonSI (OpenGL के लिए) RadV/AMDVLK (Vulkan के लिए) और ROCm (OpenCL के लिए) हैं।

इस बग और अन्य फोर्क्स की गतिशीलता को देखते हुए, Google की इसमें कोई दिलचस्पी नहीं है और आधिकारिक रिपॉजिटरी में इसे कभी भी लागू नहीं करेगा। मैं इस मुद्दे को बंद करने (या इसे बंद करने) के लिए वोट करूंगा ताकि सभी के लिए कोई झूठी उम्मीद न हो।

मुद्दा यहां कम से कम यहां उन सभी लोगों को इंगित करने के लिए होना चाहिए जो करेंगे
अनिवार्य रूप से इसे फिर से खोलें।

शनिवार, 15 सितंबर, 2018, 09:45 को एंटोन कोचकोव नोटिफिकेशन @github.com ने लिखा:

इस बग और अन्य कांटे की गतिशीलता को देखते हुए Google के पास शून्य है
इसमें रुचि रखते हैं और इसे कभी भी अधिकारी में लागू नहीं करेंगे
भंडार। मैं इस मुद्दे को बंद करने (या इसे लॉक करने) के लिए बिल्कुल भी वोट करूंगा
हर किसी के लिए कोई झूठी आशा न दें।

-
आप इसे प्राप्त कर रहे हैं क्योंकि आपने इस थ्रेड की सदस्यता ली है।
इस ईमेल का सीधे उत्तर दें, इसे GitHub पर देखें
https://github.com/tensorflow/tensorflow/issues/22#issuecomment-421535747 ,
या थ्रेड को म्यूट करें
https://github.com/notifications/unsubscribe-auth/AB1qNyDrfbiQ4h3kQyqObEfpK3O0FqRGks5ubKIBgaJpZM4Gex3i
.

एक TensorRT है जो Movidius Pi Hat को सपोर्ट करता है। और वह Movidius Pi Hat Google का $45 "AIY ​​विज़न किट" है। इसे खरीदने के लिए Google टारगेट से लिंक करता है।

इसका CUDA या Nvidia से कोई संबंध नहीं है? कहते हैं कि यह एक इंटेल चिप का उपयोग करता है। इसके दिल में, शायद चिप एक FPGA है? किसी को इसके बारे में और कुछ पता है?

मुझे बड़ी Movidius इकाई के बारे में बहुत कुछ पता है - यह केवल अनुमान है और यह या तो TensorFlow या Caffe पूर्व-संकलित मॉडल चलाता है। IIRC वे सभी 16 बिट मोड में हैं।

Movidius चिप अपने आप में बहुत अधिक शक्तिशाली है लेकिन SDK प्राप्त करने के लिए आपको एक योग्य भागीदार बनना होगा।

दूसरे के लिए कुछ लिंक रखें जो टेंसर ओपनक्ल रखने का प्रयास करें:

https://github.com/hughperkins/tf-coriander
https://github.com/CiahungTai/tensorflow-cl
https://github.com/guoyejun/tensorflow-cl
https://github.com/honggui/tensorflow-cl
https://github.com/benoitsteiner/tensorflow-opencl
https://github.com/lukeiwanski/tensorflow (भंडार पुराना है)
https://github.com/codeplaysoftware/tensorflow
शायद यह भी जांचने लायक है:

https://documen.tician.de/pyopencl/
https://pypi.org/project/DeepCL/
https://www.khronos.org/sycl/

काम करने वाली परियोजनाओं को बेझिझक जोड़ें।

क्या कोई अपडेट है? यह मामला 3 साल से अधिक पुराना है।

हाँ, बस अंतिम मुट्ठी भर पोस्ट देखें।

@ filips123 नहीं, कोई अपडेट नहीं है और भविष्य में कभी भी नहीं होगा - इसकी संभावना विदेशी आक्रमण की तुलना में कम है और समय पर वापस यात्रा करने का एक तरीका ढूंढ रही है।

यह इंटेलीजेंट पहल PlaidML यथोचित रूप से अच्छी तरह से काम करती है, इसकी जाँच के लायक है।
https://github.com/playidml/playidml
यह मैक पर ओपनसीएल या मेटल पर चलता है। यह मैकबुक प्रो एएमडी जीपीयू के साथ काम करता है, जिसे मैं ढूंढ रहा था।
इस बीच, क्या आप लोग प्लेडएमएल में पाइटोरच समर्थन के लिए वोट करने में मदद कर सकते हैं? https://github.com/playidml/playidml/issues/63

प्लेडएमएल निश्चित रूप से सभी अच्छा और बेवकूफ है (मैं, एक के लिए, किसी भी तरह से टीएफ के क्यूडा के मुकाबले ओपनसीएल पर एनवीडिया जीपीयू पर अधिक प्रदर्शन प्राप्त कर सकता हूं) ..
लेकिन यह केरस के लिए बैकएंड है? टेंसरफ़्लो के पूर्ण प्रतिस्थापन में, जिसे आप जानते हैं, यह रेपो है जिसमें हम इस पर चर्चा कर रहे हैं?
(जितना मुझे लगता है कि नवीनतम टीएफ संस्करण सीधे केरस को मॉडल निर्यात कर सकते हैं? तो वहां है ..)

वैसे भी, चौथे लानत समय के लिए, यदि आप ओपनक्ल पर हालिया समाधान चाहते हैं और कुछ अभी भी सक्रिय रूप से विकसित किया जा रहा है ( और वास्तविक एक दिन के लिए यहां विलय करने की वास्तविक संभावनाओं वाली बात), तो केवल कोडप्ले स्टैक है।
फिर से:
https://developer.codeplay.com/computecppce/latest/tensorflow-overview
https://github.com/Rbiessy/tensorflow/tree/dev/amd_gpu

प्लेडएमएल निश्चित रूप से सभी अच्छा और बेवकूफ है (मैं, एक के लिए, किसी भी तरह से टीएफ के क्यूडा के मुकाबले ओपनसीएल पर एनवीडिया जीपीयू पर अधिक प्रदर्शन प्राप्त कर सकता हूं) ..
लेकिन यह केरस के लिए बैकएंड है? टेंसरफ़्लो के पूर्ण प्रतिस्थापन में, जिसे आप जानते हैं, यह रेपो है जिसमें हम इस पर चर्चा कर रहे हैं?
(जितना मुझे लगता है कि नवीनतम टीएफ संस्करण सीधे केरस को मॉडल निर्यात कर सकते हैं? तो वहां है ..)

वैसे भी, चौथे लानत समय के लिए, यदि आप ओपनक्ल पर हालिया समाधान चाहते हैं और कुछ अभी भी सक्रिय रूप से विकसित किया जा रहा है (_और भी_ वास्तविक अवसरों के साथ वास्तविक एक दिन के लिए यहां विलय करने की बात), तो केवल कोडप्ले स्टैक है।
फिर से:
https://developer.codeplay.com/computecppce/latest/tensorflow-overview
https://github.com/Rbiessy/tensorflow/tree/dev/amd_gpu

क्षमा करें, मुझे नहीं पता था कि कोई टेंसरफ़्लो समर्थन नहीं था। मेरे दिमागी दिमाग ने सोचा कि केरस जीपीयू सपोर्ट == टेंसरफ्लो सपोर्ट।

प्लेडएमएल सुपर कूल है। केरस पर काम करता है।
बेशक मुझे प्लेडएमएल बैकएंड पर काम करने के लिए कुछ टीएफ कोड को शुद्ध केरस में स्थानांतरित करना पड़ा (उदाहरण के लिए tf.image.ssim)
लेकिन परिणाम - मेरा कोड NVIDIA और AMD कार्ड पर काम करता है।

साथ ही प्लेडएमएल शोधकर्ताओं के लिए स्वर्ग है। यह स्वचालित रूप से आपके द्वारा "टाइल" भाषा पर लिखे जाने वाले किसी भी फ़ंक्शन के लिए ग्रेडिएंट उत्पन्न करता है और यह आपके GPU पर 80% टेंसरफ़्लो की गति के साथ काम करेगा।

इसलिए मुझे समझ नहीं आ रहा है कि ML शोधकर्ता अभी भी PyTorch का उपयोग क्यों कर रहे हैं? आइए इंटेल के प्लेडएमएल के साथ एमएल साइंस को बढ़ावा दें?

@iperov यह जानने की देखभाल करें कि व्यावहारिक रूप से कोई भी PlaidML का उपयोग क्यों नहीं करता है?

1. यह Tensorflow के CUDA बैकएंड की तुलना में AMD के OpenCL कार्यान्वयन पर दयनीय रूप से धीमी गति से चलता है, इसलिए इसका उपयोग करने का कम से कम आधा कारण है। प्रदर्शन इतना खराब है कि CPU के साथ Tensorflow का उपयोग करना प्रतिस्पर्धी है या यहां तक ​​कि PlaidML का उपयोग करके उनके हार्डवेयर को पूरी तरह से हरा देता है?

2. किसी को भी अपनी विशिष्ट टाइल प्रोग्रामिंग भाषा को बनाए रखने में कोई दिलचस्पी नहीं है, जिसमें केवल शुद्ध गणित के प्रोफेसर जैसा कोई व्यक्ति ही गढ़ेगा, इसलिए प्लेडएमएल की कोड गुणवत्ता बस नीचे चली जाती है और कोई भी गंभीर प्रोग्रामर अपने सही दिमाग में अत्यधिक चतुर कोड से निपटना नहीं चाहेगा ...

3. यह काफी हद तक #2 से जुड़ा हुआ है लेकिन जब से Intel ने Vertex.AI को खरीदा है, वे अब PlaidML की परवाह नहीं करते हैं। GPU कंप्यूट त्वरित मशीन लर्निंग के लिए इंटेल का समाधान विशेष रूप से गहन सीखने के लिए एक नया कंपाइलर पेश कर रहा है जिसे अब nGraph के रूप में जाना जाता है ताकि उनके लिए बैकएंड के रूप में Tensorflow, PyTorch या अन्य गहन शिक्षण ढांचे को लक्षित किया जा सके। उनके लिए कोई कारण नहीं है कि वे प्लेडएमएल को अपने मध्यस्थ के रूप में विकसित करते रहें जब उनके पास nGraph हो ...

लोग PyTorch का उपयोग अन्य कारणों जैसे रखरखाव या अन्य सुविधाओं के लिए करते हैं, इसलिए इसे सारांशित करने के लिए PlaidML Intel का उपकरण है और वे शायद इसे अपनी योजनाओं के अंतिम भागों की किसी भी भूमिका में निभाने का इरादा नहीं रखते हैं। एनग्राफ का वर्तमान इंटेल जीपीयू बैकएंड ओपनसीएल 2.1 पर आधारित है, जिसमें से केवल इंटेल के पास एक अनुरूप कार्यान्वयन है, इसलिए इंटेल केवल मशीन सीखने की बेहतरी के बजाय खुद को देखने के लिए मौजूद है। जब इंटेल आगे nGraph विकसित करता है, तो मैं उन्हें केवल OpenCL 2.1 पर अपने GPU बैकएंड को बंद करना जारी नहीं रख सकता क्योंकि कई गहन शिक्षण ढांचे में टेम्प्लेट कर्नेल होते हैं जो OpenCL, धातु या Vulkan के अलग स्रोत प्रोग्रामिंग मॉडल के साथ संगत नहीं होते हैं, इसलिए यह शायद है केवल प्रयोग के उद्देश्यों के लिए। इंटेल का अंतिम जीपीयू बैकएंड शायद या तो एसवाईसीएल 2.2 पर आधारित होगा या ओपनएमपी की तरह कुछ और पूरी तरह से अलग होगा और शायद वे एक विक्रेता विशिष्ट समाधान भी लाएंगे ...

एएमडी के लिए, कौन परवाह करता है? ओपनसीएल उनके लिए अप्रासंगिक है और वे अंततः एचआईपी पर अपने काम के साथ कुछ परिणाम दिखा रहे हैं ...

@iperov यह जानने की देखभाल करें कि व्यावहारिक रूप से कोई भी PlaidML का उपयोग क्यों नहीं करता है?

1. यह Tensorflow के CUDA बैकएंड की तुलना में AMD के OpenCL कार्यान्वयन पर दयनीय रूप से धीमी गति से चलता है, इसलिए इसका उपयोग करने का कम से कम आधा कारण है। प्रदर्शन इतना खराब है कि CPU के साथ Tensorflow का उपयोग करना प्रतिस्पर्धी है या यहां तक ​​कि PlaidML का उपयोग करके उनके हार्डवेयर को पूरी तरह से हरा देता है?
2. किसी को भी अपनी विशिष्ट टाइल प्रोग्रामिंग भाषा को बनाए रखने में कोई दिलचस्पी नहीं है, जिसमें केवल शुद्ध गणित के प्रोफेसर जैसा कोई व्यक्ति ही गढ़ेगा, इसलिए प्लेडएमएल की कोड गुणवत्ता बस नीचे चली जाती है और कोई भी गंभीर प्रोग्रामर अपने सही दिमाग में अत्यधिक चतुर कोड से निपटना नहीं चाहेगा ...
3. यह काफी हद तक #2 से जुड़ा हुआ है लेकिन जब से Intel ने Vertex.AI को खरीदा है, वे अब PlaidML की परवाह नहीं करते हैं। GPU कंप्यूट त्वरित मशीन लर्निंग के लिए इंटेल का समाधान विशेष रूप से गहन सीखने के लिए एक नया कंपाइलर पेश कर रहा है जिसे अब nGraph के रूप में जाना जाता है ताकि उनके लिए बैकएंड के रूप में Tensorflow, PyTorch या अन्य गहन शिक्षण ढांचे को लक्षित किया जा सके। उनके लिए कोई कारण नहीं है कि वे प्लेडएमएल को अपने मध्यस्थ के रूप में विकसित करते रहें जब उनके पास nGraph हो ...

लोग PyTorch का उपयोग अन्य कारणों जैसे रखरखाव या अन्य सुविधाओं के लिए करते हैं, इसलिए इसे सारांशित करने के लिए PlaidML Intel का उपकरण है और वे शायद इसे अपनी योजनाओं के अंतिम भागों की किसी भी भूमिका में निभाने का इरादा नहीं रखते हैं। एनग्राफ का वर्तमान इंटेल जीपीयू बैकएंड ओपनसीएल 2.1 पर आधारित है, जिसमें से केवल इंटेल के पास एक अनुरूप कार्यान्वयन है, इसलिए इंटेल केवल मशीन सीखने की बेहतरी के बजाय खुद को देखने के लिए मौजूद है। जब इंटेल आगे nGraph विकसित करता है, तो मैं उन्हें केवल OpenCL 2.1 पर अपने GPU बैकएंड को बंद करना जारी नहीं रख सकता क्योंकि कई गहन शिक्षण ढांचे में टेम्प्लेट कर्नेल होते हैं जो OpenCL, धातु या Vulkan के अलग स्रोत प्रोग्रामिंग मॉडल के साथ संगत नहीं होते हैं, इसलिए यह शायद है केवल प्रयोग के उद्देश्यों के लिए। इंटेल का अंतिम जीपीयू बैकएंड शायद या तो एसवाईसीएल 2.2 पर आधारित होगा या ओपनएमपी की तरह कुछ और पूरी तरह से अलग होगा और शायद वे एक विक्रेता विशिष्ट समाधान भी लाएंगे ...

एएमडी के लिए, कौन परवाह करता है? ओपनसीएल उनके लिए अप्रासंगिक है और वे अंततः एचआईपी पर अपने काम के साथ कुछ परिणाम दिखा रहे हैं ...

मोबाइल फोन और रास्पबेरी पीआई ओड्रॉइड और आदि जैसे आर्म मशीन के अंदर सभी जीपीयू के बारे में क्या?
वे ओपनसीएल का समर्थन नहीं करते हैं?
Google को एंड्रॉइड पर जीपीयू पर टेंसरफ्लो डालने की परवाह करनी चाहिए।
तंत्रिका नेटवर्क प्रशिक्षण का सबसे बड़ा पुस्तकालय केवल एनवीडिया जीपीयू पर चलता है, यह सिर्फ एनवीडिया जीपीयू को अधिक से अधिक महंगा बनाता है (क्योंकि यह लोग और कंपनियां इसे केवल पेशेवर तंत्रिका नेटवर्क प्रशिक्षण के लिए खरीदते हैं), तो Google इस तरह से अधिक पैसा खो देगा।

@Degerz आप किस ग्रह से आए हैं?
आप tf-CPU और AMD GPU की तुलना कैसे कर सकते हैं?
प्लेडएमएल x30 पर एएमडी जीपीयू टीएफ-सीपीयू से तेज है

1. यह Tensorflow के CUDA बैकएंड की तुलना में AMD के OpenCL कार्यान्वयन पर दयनीय रूप से धीमी गति से चलता है, इसलिए इसका उपयोग करने का कम से कम आधा कारण है

मेरे डीपफेक परीक्षणों में ओपनसीएल केवल 20% धीमा है, लेकिन कुछ मिनी नेटवर्क में ओपनसीएल 20% तेज है।

मेरी परियोजना डीपफेसलैब में कई उपयोगकर्ता हैं जो एएमडी के समर्थन की प्रतीक्षा कर रहे हैं। कितने लोग प्रसन्न हुए जब डीपफेक को अंततः एएमडी कार्ड पर प्रशिक्षित किया जा सकता है।
इसके अलावा प्लेडएमएल केरस के लिए एकमात्र बैकएंड है जो बॉक्स से बाहर एएमडी/इंटेलएचडी का समर्थन करता है।
यदि केरस के लिए एक नया एएमडी बैकएंड दिखाई देता है, तो निश्चित रूप से मेरा प्रोजेक्ट उस पर स्विच हो जाएगा।
PyTorch का कोई भविष्य नहीं है।

प्लेडएमएल में क्या बनाए रखना है? ऑप्स ऑटो डिफरेंशियल हैं, बनाए रखने के लिए कुछ भी नहीं है।

टाइल प्रोग्रामिंग भाषा जिसमें केवल शुद्ध गणित के प्रोफेसर जैसा कोई व्यक्ति ही मनगढ़ंत होगा

मशीन लर्निंग का आविष्कार गणित के प्रोफेसरों ने किया है, है ना?

@talregev एआरएम या ब्रॉडकॉम के बारे में क्या? पूर्व में शायद सबपर ओपनसीएल कार्यान्वयन है और बाद वाला आधिकारिक तौर पर ओपनसीएल ड्राइवर भी प्रदान नहीं करता है! हार्डवेयर विक्रेताओं के लिए एक सक्षम कंप्यूट स्टैक बनाना और बनाए रखना Google की ज़िम्मेदारी नहीं है ...

@iperov आपको एहसास है कि प्लेडएमएल पर एम्बेडिंग परतों के साथ तंत्रिका जाल का प्रशिक्षण दर्दनाक है, है ना? PlaidML के पास अन्य सीमाओं का एक समूह भी है जैसे कि DenseNets के लिए वह सब उपयुक्त नहीं है या तथ्य यह है कि यह गणना ग्राफ़ स्थिर है और क्या PlaidML RNN के साथ भी अच्छी तरह से काम करता है?

जहां तक ​​आपके प्रोजेक्ट का सवाल है, इसके बारे में चिंता न करें। आप Tensorflow की तरह कुछ बेहतर करने के लिए आगे बढ़ेंगे क्योंकि MIOpen के अपस्ट्रीम होने के बाद AMD जल्द ही इसके लिए एक देशी GPU बैकएंड की पेशकश करेगा, जो कि उनके प्रतिस्पर्धी cuDNN लाइब्रेरी के समान गहरे तंत्रिका नेटवर्क के लिए प्राइमेटिव का उनका GPU त्वरित पुस्तकालय है, जो दोनों PlaidML को छोड़ देंगे प्रदर्शन के मामले में धूल। वैसे भी Intel iGPUs की किसे परवाह है? यदि इंटेल वास्तव में अपने भविष्य के असतत ग्राफिक्स हार्डवेयर पर उच्च प्रदर्शन गहन शिक्षा देने के लिए प्रतिबद्ध है तो वे अन्य (AMD/HIP और Nvidia/CUDA) की तरह ही एक एकल स्रोत विकल्प की पेशकश करेंगे ...

PyTorch का कोई भविष्य नहीं है।

बहुत ईर्ष्या? PyTorch, PlaidML की तुलना में ~ 10x अधिक लोकप्रिय है, DL में नवीनतम तकनीकों को PyTorch पर आसानी से लागू किया जाता है, विभिन्न योगदानकर्ताओं के टन और फेसबुक द्वारा सक्रिय रूप से विकसित किया जाता है, जबकि Intel ने लगभग एक महीने में PlaidML में योगदान नहीं दिया है?

प्लेडएमएल में क्या बनाए रखना है? ऑप्स ऑटो डिफरेंशियल हैं, बनाए रखने के लिए कुछ भी नहीं है।

तो मैं आपसे यह लेता हूं कि भविष्य में प्लेडएमएल को कोई नया फिक्स या नई सुविधाएं नहीं मिलनी चाहिए? यदि आप कोड में सुधार करने में मूल्य नहीं देखते हैं तो आपको प्लेडएमएल की स्पष्ट खामियों को स्वीकार करने के लिए मनाने का कोई मतलब नहीं है ...

मशीन लर्निंग का आविष्कार गणित के प्रोफेसरों ने किया है, है ना?

इसका मतलब यह नहीं है कि हमें विशेष रूप से टाइल के मामले में जो भी प्रोग्रामिंग भाषा बनाते हैं उसे लेना होगा जहां पठनीयता पर लालित्य स्पष्ट रूप से अनुकूल है। यह कोई आश्चर्य की बात नहीं है कि इतने सारे संभावित योगदानकर्ता योगदान देने से क्यों डरते हैं ...

जीसस, मैं आप लोगों को एसटीएफयू की कामना करता हूं और इसके बजाय काम पर वापस आ जाता हूं। मुझे टिकट से सदस्यता समाप्त करनी होगी क्योंकि ज्वाला युद्धों के साथ ईमेल प्राप्त करना असहनीय है। बहुत खराब अनुरक्षक थ्रेड को म्यूट नहीं करते हैं।

@gunan @caisq @sanjoy क्या आप कृपया इसके बारे में कुछ कर सकते हैं?