Scikit-learn: प्रासंगिकता वेक्टर मशीन (आरवीएम)

मुझे इस पर फिर से पढ़ना होगा लेकिन सामान्य तौर पर मुझे लगता है कि आरवीएम एक अच्छा अतिरिक्त होगा।
dlib बूस्ट लाइसेंस प्राप्त है जो संगत होना चाहिए। हालाँकि, बूस्ट-हैवी कोडिंग स्टाइल के कारण इसे लपेटना इतना आसान नहीं हो सकता है।
क्या एसएमओ का उपयोग करके समस्या को अनुकूलित किया गया है? अगर हम एसएमओ लागू करते हैं तो क्या यह समझदारी है?

मेरे बिशप को पकड़ना होगा।

एआरडी और आरवीएम के बीच क्या संबंध है? क्या आरवीएम एआरडी का सिर्फ "आधार कार्य" संस्करण है?

बीटीडब्ल्यू क्या कभी इस तथ्य से परेशान है कि अनुभाग Generalized Linear Models में कोई सामान्यीकृत मॉडल नहीं है?

ठीक है तो हमें sequential sparse learning algorithm बिशप पी का उपयोग करना चाहिए। 352 निम्नलिखित मुझे लगता है?
अपने आप को जानो;)

मुझे आश्चर्य है कि क्या एआरडी के लिए एक समान विधि है? यह अच्छा होगा क्योंकि वर्तमान एआरडी कार्यान्वयन काफी धीमा है: - /

नहीं आरवीएम का कार्यान्वयन निश्चित रूप से एसएमओ का उपयोग नहीं करता है। मुझे लगता है कि एसएमओ का उपयोग केवल एसवीएम अनुकूलन के लिए किया जाता है।
हाँ, हमें 1 पृष्ठ 7 के संदर्भ में sequential sparse learning algorithm का उपयोग करना चाहिए। (क्या यह बिशप पी 352 में है? कौन सा)। यह एल्गोरिथ्म काफी "सरल" है और हम इसे dlib का उपयोग किए बिना लिख ​​सकते हैं। मैं इसे अजगर में लिखने और फिर अनुकूलन के लिए साइथन का उपयोग करने के बारे में सोच रहा था। इस मामले में हम matlab कार्यान्वयन का पूरा फायदा उठा सकते हैं। तुम क्या सोचते हो?
वैसे भी, सी ++ में लिखना संभव होना चाहिए। लेकिन उसके लिए हमें C++ में एक अच्छे रेखीय बीजगणित पुस्तकालय की आवश्यकता होगी। मुझे यकीन नहीं है कि डिफ़ॉल्ट रूप से स्किकिट-लर्न एक के साथ आता है।

बिशप "मशीन लर्निंग एंड पैटर्न रिकग्निशन" है।

एल्गोरिथ्म शायद सही पाने के लिए पूरी तरह से आसान नहीं है। यदि आप इस पर शुरुआत करना चाहते हैं, तो निश्चित रूप से यह एक बड़ा प्रोजेक्ट होगा। यदि आप रुचि रखते हैं और इसे किसी भी तरह से लागू करना चाहते हैं, तो आगे बढ़ें।

इसे लागू करना भी इसे स्किकिट-लर्न में लाने से काफी अलग है। इसमें परीक्षण, दस्तावेज़ीकरण और उपयोगकर्ता मार्गदर्शिका - और सुंदर कोड लिखना भी शामिल है।

पहले प्रयास के लिए आपको निश्चित रूप से केवल numpy का उपयोग करना चाहिए। यह आंतरिक रूप से blas का उपयोग करता है और इसलिए यह काफी तेज़ है।
साइथन का उपयोग करके तेज करना केवल तभी समझ में आता है जब बहुत अधिक पाइथन ओवरहेड हो। यदि बीएलएएस कॉल में हर समय बिताया जाता है, तो साइथन का उपयोग करने का कोई मतलब नहीं है।

साइथन और numpy के लिए ठीक है। मैं नहीं जानता था कि बिशप आरवीएम के बारे में बात करते हैं।
एआरडी और आरवीएम संबंध के लिए। मैं एआरडी के बारे में बहुत कुछ नहीं जानता। लेकिन संदर्भ 2 में लेखकों ने कहा कि आरवीएम एआरडी पर आधारित है: "हम स्वचालित प्रासंगिकता निर्धारण के सिद्धांत के संदर्भ में शेष गैर-शून्य भार 'प्रासंगिकता' वैक्टर से जुड़े उन प्रशिक्षण वैक्टरों को कहते हैं जो प्रस्तुत दृष्टिकोण को प्रेरित करते हैं" पृष्ठ 3 (213) पंक्ति 8.
वैसे भी एआरडी कैसे काम करता है?

एआरडी को बिशप बुक और यूजर गाइड में भी समझाया गया है। यह वजन से पहले एक विकर्ण गाऊसी डालता है और भिन्नताओं का अनुमान लगाने की कोशिश करता है, जो (जैसा कि मैं इसे समझता हूं) वही है जो आरवीएम करता है। क्या वो सही है?

मुझे एहसास है कि रेफरी ने उल्लेख किया है:

http://books.nips.cc/papers/files/nips20/NIPS2007_0976.pdf

वह कार्यान्वयन नहीं है जिसका हम उपयोग करते हैं। मुझे लगता है कि @vmichel ने
बिशप दृष्टिकोण जबकि यह पत्र एक निश्चित बिंदु दृष्टिकोण के समान है
एक समन्वय वंश दृष्टिकोण। इस कोड को निश्चित रूप से कुछ प्यार की जरूरत है ...

धन्यवाद @agramfort , मैं इसके बारे में सोच रहा था। मैंने विवरण के माध्यम से नहीं जाना, लेकिन मुझे लगा कि पेपर ही एकमात्र संदर्भ था ...

मैं इसकी बहुत सराहना करूंगा यदि आप बिशप के अध्याय का हवाला देते हुए वहां एक टिप्पणी जोड़ सकते हैं जिसका इस्तेमाल शायद यह कहने के लिए किया गया था कि हमें इसके बजाय दूसरे पेपर को लागू करना चाहिए।

(परीक्षण सूट में सबसे धीमी चीजों में से बीटीडब्ल्यू अभी सामान्य परीक्षणों में बोस्टन डेटासेट पर एआरडी फिट कर रहा है)

धन्यवाद @agramfort , मैं इसके बारे में सोच रहा था। मैंने विवरण के माध्यम से नहीं जाना, लेकिन मुझे लगा कि पेपर ही एकमात्र संदर्भ था ...

मैं इसकी बहुत सराहना करूंगा यदि आप बिशप के अध्याय का हवाला देते हुए वहां एक टिप्पणी जोड़ सकते हैं जिसका इस्तेमाल शायद यह कहने के लिए किया गया था कि हमें इसके बजाय दूसरे पेपर को लागू करना चाहिए।

देखें: https://github.com/scikit-learn/scikit-learn/pull/1530

बीटीडब्ल्यू किसी को भी इस तथ्य से परेशान है कि खंड सामान्यीकृत रैखिक
मॉडल में कोई सामान्यीकृत मॉडल नहीं है?

यह करता है: लॉजिस्टिक रिग्रेशन।

मुझे आश्चर्य है कि क्या एआरडी के लिए एक समान विधि है? यह के रूप में अच्छा होगा
वर्तमान एआरडी कार्यान्वयन काफी धीमा है:-/

मेरा मानना ​​​​है कि एआरडी का सबसे आशाजनक रैपिड सॉल्वर लागू करना है
में सामने आई रणनीति:
http://books.nips.cc/papers/files/nips20/NIPS2007_0976.pdf

मैंने कुछ समय पहले एक कोड लिखा था।

अगर कोई एआरडी पर काम करना चाहता है तो मैंने सोचा कि यह उपयोगी हो सकता है।

https://gist.github.com/4494613

चेतावनी: यह बहुत अधिक परीक्षण नहीं किया गया है और मैं शुद्धता की गारंटी नहीं देता लेकिन यह
काम करने लगता है।

@ अमुएलर
मैंने http://books.nips.cc/papers/files/nips20/NIPS2007_0976.pdf में ARD का विश्लेषण किया है और मुझे लगता है कि RVM और ARD एक ही उद्देश्य फ़ंक्शन को अनुकूलित करना चाहते हैं। इस फ़ंक्शन को अनुकूलित करने के लिए उपयोग की जाने वाली विधि में अंतर दिखाई देता है। आरवीएम में, लेखकों ने देखा कि अधिकांश वजन शून्य के करीब होगा और उन्होंने इसका उपयोग "तेज" एल्गोरिदम प्राप्त करने के लिए किया था।

यह अजीब लगता है। यदि उद्देश्य समान है, तो आपको अनुकूलन के लिए समान विधियों का उपयोग करने में सक्षम होना चाहिए, है ना?

हां निश्चित रूप से आपको करना चाहिए, लेकिन मुझे लगता है कि आरवीएम के लेखकों ने एक तेज और अधिक स्पैस एल्गोरिदम रखने के लिए एक अलग अनुकूलन रणनीति का उपयोग किया।

@yedtoss मुझे पूरा यकीन है कि कुछ और अंतर है। जैसा कि मैंने पहले कहा, यह हो सकता है कि आरवीएम फीचर स्पेस में या कर्नेल या कुछ के साथ काम करे। अन्यथा आप ARD कार्यान्वयन को बदल सकते हैं? हालांकि, यह प्रतिगमन है, और आप वर्गीकरण चाहते हैं, है ना?

@agramfort क्या आप ARD और RVM के अंतर के बारे में कुछ जानते हैं?

@ अमुएलर
प्रारंभ में RVM एक प्रतिगमन तकनीक है। लेकिन लेखकों ने वर्गीकरण के लिए इसका उपयोग करने का एक तरीका प्रस्तुत किया। RVM ने किसी भी प्रकार के कर्नेल का उपयोग किया।
मेरा मतलब है कि एआरडी की लॉग संभावना (स्वचालित प्रासंगिकता निर्धारण के एक नए दृश्य का समीकरण 2) और आरवीएम (स्पार्स बायेसियन मॉडल के लिए फास्ट मार्जिनल संभावना अधिकतमकरण के समीकरण 7) समान हैं।

मुझे लगता है कि क्या हो रहा है यह जानने के लिए मुझे कागजात पढ़ना होगा ....

माफ करना दोस्तों मैं ज्यादा बायेसियन आदमी नहीं हूं... मुझे अच्छी तरह से पता नहीं है
सूक्ष्मता...

आरवीएम को माइक्रोसॉफ्ट द्वारा पेटेंट कराया गया है।

पागल।

@larsmans @amueller जबकि RVM के लिए अमेरिका में पेटेंट है, लेखक अपने वेब पेज पर GPLv2 मैटलैब कार्यान्वयन की सिफारिश करता है, इसलिए मुझे लगता है कि इसे लागू करना ठीक है ...
http://www.miketiping.com/sparsebayes.htm

श्रेष्ठ,
एंजेलस

@kalxas लाइसेंस और पेटेंट काफी ऑर्थोगोनल हैं और GPLv2 विशेष रूप से सॉफ़्टवेयर पेटेंट को संबोधित नहीं करते हैं। इस तरह के कार्यान्वयन के साथ आपके पास जो अधिकार हैं, वे जीपीएल द्वारा दिए गए अधिकारों और पेटेंट धारक द्वारा दिए गए अधिकारों का प्रतिच्छेदन हैं।

उस ने कहा, मुझे इस बीच पता चला कि एटी एंड टी द्वारा सपोर्ट वेक्टर मशीनों का पेटेंट कराया गया है लेकिन पेटेंट को स्पष्ट रूप से कभी लागू नहीं किया गया था। अगर आरवीएम के बारे में कुछ ऐसा ही साबित किया जा सकता है, तो मैं उनके बारे में अपना विचार बदल सकता हूं।

@larsmans मैंने dlib कार्यान्वयन का एक शुद्ध numpy/पायथन बंदरगाह लिखा है (इस समय बहुत धीमी गति से, मैं इसे साइथोनाइज करने का प्रयास करूंगा)। शीर्षलेख के मुताबिक, डीएलआईबी का इम्प्लम 2008 से आसपास रहा है और वे इसके साथ ठीक लगते हैं। क्या आप sklearn में RVM रखने के बारे में अपना विचार बदलने पर विचार करेंगे?

आइए सुनते हैं इस पर @GaelVaroquaux की राय। जब तक आप यह साबित नहीं कर सकते कि यह पेटेंट लाइसेंस के बिना व्यापक रूप से उपयोग किया जाता है, तब तक डीलिब इम्प्लम एक चीज़ नहीं दिखाता है।

क्या इस विषय पर कोई अपडेट हैं? मैं हाल ही में आरवीएम देख रहा हूं और सोच रहा था कि वहां कोई कोड था या नहीं ...

मुझे नहीं लगता कि किसी ने तेजी से कार्यान्वयन की कोशिश की है, और हम अभी भी कानूनी स्थिति के बारे में अनिश्चित हैं।

@jlopezpena dlib पर एक नज़र डालें, कोड बहुत स्पष्ट है और यह केवल हेडर (टेम्पलेट्स) है। numpy . से उपयोग के लिए सी एक्सटेंशन बनाना काफी आसान होना चाहिए

हेलो सब लोग,

मैंने हाल ही में माइक टिपिंग के स्वतंत्र रूप से उपलब्ध SparseBayes MATLAB प्रोग्राम का अनुवाद किया है, जो मुख्य रूप से RVM को MATLAB से Python में लागू करता है। इसे यहां पाया जा सकता है: https://github.com/jhallock7/SparseBayes-Python । मैंने माइक टिपिंग से संपर्क किया, और उन्होंने कहा कि माइक्रोसॉफ्ट का पेटेंट केवल मूल धीमी एल्गोरिथम के लिए है, जबकि स्पार्सबेयस प्रोग्राम यहां पाए जाने वाले तेज का उपयोग करता है: http://www.miketipping.com/papers/met-fastsbl.pdf । तो यह ठीक होगा यदि उनके कार्यक्रम के किसी रूप को स्किकिट-लर्न में बदल दिया जाए। मैं पायथन के लिए अपेक्षाकृत नया हूं, इसलिए मेरे अनुवाद में निस्संदेह सुधार या संशोधन किया जा सकता है।

योगदान देने के लिए धन्यवाद और पेटेंट स्थिति की जांच के लिए भी धन्यवाद।
हालांकि एक और सवाल है, जो यह है कि क्या यह एल्गोरिदम व्यापक रूप से उपयोगी है।

मैंने एल्गोरिथम और इसके उपयोग को नहीं देखा है क्योंकि मैंने पिछली बार बिशप की पुस्तक पढ़ी थी, जो कुछ समय पहले की है।
मुझे लगता है कि एक दिलचस्प उदाहरण यह दिखाने के लिए होगा कि यह या तो बेहतर अनिश्चितता देता है फिर कैलिब्रेट करता है
एक एसवीएम, या कि यह तेज है (एक एसवीएम को कैलिब्रेट करना और सी पर खोज करना बहुत अधिक क्रॉस-सत्यापन की आवश्यकता है)।

@amueller RVM (मुख्य रूप से रहस्योद्घाटन वेक्टर प्रतिगमन (RVR)) न्यूरोइमेजिंग डेटा विश्लेषण में बहुत उपयोगी है। भविष्यवाणी करने के लिए बहुत सारे कागजात एसवीआर के बजाय इस पद्धति का उपयोग करते हैं। यह सही होगा, अगर इस विधि को स्किकिट लर्न टूलबॉक्स में जोड़ा जा सकता है।

@amueller मैंने आरवीएम के धीमे संस्करण को लागू किया जो मॉडल को फिट करने के लिए ईएम या फिक्स्ड-पॉइंट एल्गोरिदम का उपयोग कर सकता है (मुख्य रूप से सीखने/शैक्षणिक उद्देश्य के लिए) और आरवीएम और एसवीआर के बीच प्रमुख अंतर जो मैंने कुछ उदाहरणों से नोट किया है वह है विरलता यानी 'समर्थन' की संख्या भविष्यवाणी में प्रयुक्त वैक्टर। कई मामलों में आरवीएम एसवीआर के साथ तुलनीय परिणाम उत्पन्न करता है, जिसमें एसवीआर द्वारा उपयोग किए जाने वाले समर्थन वैक्टर की संख्या केवल एक अंश होती है
( यहाँ एक सरल उदाहरण है जो 2001 की टिपिंग में भी प्रयोग किया जाता है)

@amueller (पिछली टिप्पणी में जोड़ना) और स्पष्ट रूप से कम संख्या में समर्थन वैक्टर बहुत तेज भविष्यवाणी करेंगे।
आरवीएम का एक अन्य लाभ संभाव्य उपचारकर्ता है। परीक्षण सेट में प्रत्येक डेटा बिंदु के लिए RVM के साथ आप न केवल बिंदु अनुमान बल्कि भविष्य कहनेवाला वितरण भी पाते हैं

क्या आरवीआर संभाव्यता वितरण भी प्रदान करता है?

आरवीआर और आरवीएम जैसे ध्वनि समावेश के लिए उचित उम्मीदवार हैं। हालांकि, मैं अत्याधुनिक एल्गोरिदम के बारे में निश्चित नहीं हूं। क्या यह http://www.miketiping.com/papers/met-fastsbl.pdf है ? यह काफी पुराना लगता है। SparseBayes कोडिंग शैली... दिलचस्प है, और मुझे लगता है कि यह स्केलेर कार्यान्वयन के आधार के बजाय संदर्भ के रूप में बेहतर काम करेगा।

हां आरवीआर संभाव्यता वितरण प्रदान करता है, हालांकि कुछ मामलों में प्रशिक्षण सेट उदाहरण के डोमेन के बाहर डेटा बिंदुओं के लिए भविष्य कहनेवाला वितरण का विचरण छोटा हो सकता है।
आपके द्वारा उल्लिखित मेरे सर्वोत्तम ज्ञान पत्र के लिए आरवीएम का अंतिम संस्करण है, यह टिपिंग की वेबसाइट (संस्करण 2) पर मैटलैब कार्यान्वयन से भी मेल खाता है।

मुझे केविन मर्फी की पुस्तक में आरवीएम और एसवीएम गति की दिलचस्प तुलना भी मिली:
"आरवीएम ट्रेन करने में भी सबसे तेज है। यह इस तथ्य के बावजूद है कि आरवीएम कोड मैटलैब में है और एसवीएम कोड सी में है" (अध्याय 14, पृष्ठ 490)। हालाँकि ऐसा लगता है कि उन्होंने केवल छोटे डेटासेट के लिए तुलना की।

@amueller RVM (मुख्य रूप से रहस्योद्घाटन वेक्टर प्रतिगमन (RVR)) में बहुत उपयोगी है
न्यूरोइमेजिंग डेटा विश्लेषण।

मैं आश्वस्त नहीं हूं (और मैं न्यूरोइमेजिंग करता हूं)। मैंने अच्छा नहीं देखा
अनुभवजन्य तुलना।

मैं देख रहा हूं कि आरवीएम को एक अलग पैकेज में रखने का तरीका है
स्किकिट-लर्न एपीआई, और अच्छे अनुभवजन्य कार्य को अपना दिखाने के लिए प्रोत्साहित करें
उपयोगिता। यदि वे उपयोगी हैं, तो उन्हें स्किकिट-लर्न में मिला दें।

कुछ न्यूरोइमेजिंग अध्ययनों ने प्रासंगिकता वेक्टर प्रतिगमन (आरवीआर) का उपयोग किया है और
आरवीआर और एसवीआर के बीच तुलना की।
कुछ सूचीबद्ध करने के लिए:
http://www.sciencedirect.com/science/article/pii/S1053811910000108
http://www.sciencedirect.com/science/article/pii/S1053811910012644
http://www.sciencedirect.com/science/article/pii/S1053811910003459
http://www.nature.com/npp/journal/v39/n3/abs/npp2013251a.html

और, RVR को के लिए एक पैटर्न पहचान टूलबॉक्स में लागू किया गया है
न्यूरोइमेजिंग डेटा:
http://www.mlnl.cs.ucl.ac.uk/pronto/

आशा है कि आरवीआर को स्किकिट-लर्न में शामिल किया जा सकता है।

शुभकामनाएं

ज़ैक्सु

गुरु, अक्टूबर 15, 2015 अपराह्न 12:57 बजे, गेल वरोक्वाक्स नोटिफिकेशन @github.com
लिखा था:

@amueller RVM (मुख्य रूप से रहस्योद्घाटन वेक्टर प्रतिगमन (RVR)) सुंदर है
में उपयोगी
न्यूरोइमेजिंग डेटा विश्लेषण।

मैं आश्वस्त नहीं हूं (और मैं न्यूरोइमेजिंग करता हूं)। मैंने अच्छा नहीं देखा
अनुभवजन्य तुलना।

मैं देख रहा हूं कि आरवीएम को एक अलग पैकेज में रखने का तरीका है
स्किकिट-लर्न एपीआई, और अच्छे अनुभवजन्य कार्य को अपना दिखाने के लिए प्रोत्साहित करें
उपयोगिता। यदि वे उपयोगी हैं, तो उन्हें स्किकिट-लर्न में मिला दें।

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/scikit-learn/scikit-learn/issues/1513#issuecomment -148281784
.

मैं देखता हूं कि आरवीएम को एक अलग पैकेज में, विज्ञान-सीखने एपीआई के साथ, और उनकी उपयोगिता दिखाने के लिए अच्छे अनुभवजन्य कार्य को प्रोत्साहित करना है। यदि वे उपयोगी हैं, तो उन्हें स्किकिट-लर्न में मिला दें।

+1

मेरा मतलब है कि https://github.com/AmazaspShumik/Bayesian-Regression-Methods/blob/master/Relevance%20Vector%20Machine%20%26%20ARD/rvm.py है जो अपेक्षाकृत संगत दिखता है। set_params और get_params या BaseEstimator से इनहेरिट करने की आवश्यकता है।

और https://github.com/jhallock7/SparseBayes-Python है जिसे लपेटा जा सकता है।

@ZaixuCui जब आप कार्यान्वयन का उपयोग करने के लिए तैयार हैं तो आप इसे विज्ञान-सीखने में क्यों चाहते हैं?

मैं @GaelVaroquaux और @mblondel से सहमत हूं। यदि लगभग दस वर्षों में कोई भी एल्गोरिथम पर प्रकाशित नहीं होता है, तो लोग बहुत रुचि नहीं लेते हैं। [ओह, मानक एल्गोरिथ्म 2003 से भी है। लेकिन फिर libsvm 2005 है]

क्योंकि मैं एसवीआर, इलास्टिक-नेट करना सीखने के लिए स्किकिट का उपयोग करता हूं।
इसलिए, यदि कोई आरवीआर कार्यान्वयन है, तो मुझे मैटलैब का उपयोग करने की आवश्यकता नहीं होगी जब
मशीन लर्निंग विश्लेषण करें।

बहुत बहुत धन्यवाद।
आप सभी को शुभकामनाएं

ज़ैक्सु

गुरु, 15 अक्टूबर, 2015 पूर्वाह्न 11:13 बजे, एंड्रियास म्यूएलर सूचनाएं @github.com
लिखा था:

मेरा मतलब है
https://github.com/AmazaspShumik/Bayesian-Regression-Methods/blob/master/Relevance%20Vector%20Machine%20%26%20ARD/rvm.py
जो अपेक्षाकृत संगत दिखता है। set_params और get_params की आवश्यकता है या
बेसएस्टिमेटर से विरासत में मिला।

और https://github.com/jhallock7/SparseBayes-Python है जो कर सकता है
लपेटा जाना।

@ZaixuCui https://github.com/ZaixuCui आप इसे क्यों चाहते हैं?
विज्ञान-सीखें जब वहां कार्यान्वयन का उपयोग करने के लिए तैयार है?

मैं @GaelVaroquaux https://github.com/GaelVaroquaux . से सहमत हूं
और @mblondel https://github.com/mblondel । अगर किसी ने पर प्रकाशित नहीं किया
लगभग दस वर्षों में एल्गोरिदम, लोगों को बहुत दिलचस्पी नहीं लगती है।

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/scikit-learn/scikit-learn/issues/1513#issuecomment -148440665
.

क्योंकि मैं एसवीआर, इलास्टिक-नेट करना सीखने के लिए स्किकिट का उपयोग करता हूं।
इसलिए, यदि कोई आरवीआर कार्यान्वयन है, तो मुझे मैटलैब का उपयोग करने की आवश्यकता नहीं होगी जब
मशीन लर्निंग विश्लेषण करें।

आप RVR करते हुए Python कोड का उपयोग कर सकते हैं जिसे हमने इसमें इंगित किया है
विचार - विमर्श।

ठीक है धन्यवाद

सोम, 19 अक्टूबर, 2015 को सुबह 8:29 बजे, गेल वरोक्वाक्स नोटिफिकेशन @github.com
लिखा था:

क्योंकि मैं एसवीआर, इलास्टिक-नेट करना सीखने के लिए स्किकिट का उपयोग करता हूं।
इसलिए, यदि कोई आरवीआर कार्यान्वयन है, तो मुझे मैटलैब का उपयोग करने की आवश्यकता नहीं होगी
कब
मशीन लर्निंग विश्लेषण करें।

आप RVR करते हुए Python कोड का उपयोग कर सकते हैं जिसे हमने इसमें इंगित किया है
विचार - विमर्श।

-
इस ईमेल का सीधे उत्तर दें या इसे GitHub पर देखें
https://github.com/scikit-learn/scikit-learn/issues/1513#issuecomment -149213151
.

क्या हम इसे अपने नए गाऊसी प्रक्रिया कार्यान्वयन के आधार पर बहुत हल्के वर्ग के रूप में लागू नहीं कर सकते? जहाँ तक मैं समझता हूँ, RVR केवल एक विशेष प्रकार के कर्नेल वाले GP को दिया गया नाम है।

हालांकि इसके लिए केवल न्यूनतम प्रयास की आवश्यकता होगी, आरवीआर के कार्यान्वयन को जीपी पर आधारित करना सबसे उपयुक्त बात नहीं हो सकती है? सीसी: @jmetzen

@amueller @GaelVaroquaux @ZaixuCui @yedtoss @jlopezpena

नमस्ते, मैंने स्किकिट-लर्न एपीआई के साथ प्रासंगिकता वेक्टर मशीन का तेज़ संस्करण लागू किया,
इसलिए अगर कोई इसका इस्तेमाल करना चाहता है तो बेझिझक करें।

कोड: https://github.com/AmazaspShumik/sklearn_bayes/blob/master/sklearn_bayes/rvm/fast_rvm.py

उदाहरण: https://github.com/AmazaspShumik/sklearn_bayes/blob/master/ipython_notebooks_tutorials/rvm_ard/rvm_demo.ipynb

कोड में चार कार्यान्वित वर्ग हैं:
-रिग्रेशनअर्ड
-वर्गीकरणएआरडी
-आरवीसी
-आरवीआर

तो हो सकता है रिग्रेशनर्ड और वर्गीकरण एआरडी भी उपयोगी हो सकता है

@AmazaspShumik आपके कार्यान्वयन के लिए बहुत बहुत धन्यवाद। बढ़िया काम: +1:

@AmazaspShumik

आपके प्रयासों के लिए बहुत-बहुत धन्यवाद।
मैं इस पैकेज को जरूर आजमाऊंगा।

आपको ढेरों शुभकामनाएं।

ज़ैक्सु

क्या किसी को @AmazaspShumik भविष्यवाणी_प्रोबा पद्धति को लागू करने में

यहां किसी के पास PHP पर आरवीएम के लिए पुस्तकालय है? मैं आरवीएम के साथ समझ में नहीं आता मेरे लिए समझा सकता है?

किसी के पास PHP के लिए पुस्तकालय आरवीएम है?

आरवीएम को माइक्रोसॉफ्ट द्वारा पेटेंट कराया गया है।

पेटेंट जल्द ही समाप्त हो जाएगा

2019-09-04
प्रत्याशित समाप्ति

@AmazaspShumik कार्यान्वयन के चर्चा लिंक में कुछ बिंदु टूट गए हैं, बस उन्हें यहां उन लोगों के लिए रखें जो रुचि रखते हैं (और कुछ अन्य कार्यान्वयन):

https://github.com/AmazaspShumik/sklearn_bayes - RVM + कुछ अन्य एल्ग्स कार्यान्वयन
https://github.com/JamesRitchie/scikit-rvm - scipy का उपयोग करके सरल कार्यान्वयन
https://github.com/siavashserver/neonrvm - पायथन बाइंडिंग के साथ सी कार्यान्वयन

इसके अलावा, यहां प्रासंगिक कागजात संग्रह है:
http://www.miketiping.com/sparsebayes.htm

वहां आरवीएम का सी ++ कार्यान्वयन है (एक पेपर की पूरक सामग्री):
https://pubs.acs.org/doi/abs/10.1021/ci200128w
ठीक यहाँ:
https://pubs.acs.org/doi/suppl/10.1021/ci200128w/suppl_file/ci200128w_si_001.zip

Microsoft पेटेंट समाप्त हो गया है। क्या हम संभवतः इसे sklearn में जोड़ सकते हैं?

यह मानक आवश्यकताओं को आसानी से साफ़ करता है, इसलिए मुझे नहीं लगता कि क्यों नहीं। हो सकता है कि कुछ अच्छे/विश्वसनीय उदाहरण दिलचस्प हों। scikit-rvm और sklearn_bayes रखरखाव के लगते हैं लेकिन फिर भी उपयोगी हो सकते हैं।
शायद अब ज्यादातर को एक चैंपियन की जरूरत है जो वास्तव में काम करना चाहता है।

मर्फी की किताब पर उनका दावा है कि आरवीएम का प्रदर्शन वास्तव में एसवीएम के समान है, लेकिन एक वास्तविक संभाव्य विधि होने का फायदा है, इसलिए यह उत्तर के रूप में कैलिब्रेटेड संभावनाएं देता है। यहां https://github.com/probml/pmtk3/blob/master/docs/tutorial/html/tutKernelClassif.html उन्होंने एक छोटे डेटासेट का उपयोग करके विधियों की तुलना की

क्या आप प्रस्तुत संस्करण के लिए एक लिंक प्रदान कर सकते हैं?
साथ ही, यह आश्चर्य की बात नहीं है कि यह एक छोटे डेटासेट पर है, क्योंकि इसमें स्केलेबिलिटी के मुद्दे होने की संभावना है।

@amueller http://htmlpreview.github.io/?https : //github.com/probml/pmtk3/blob/master/docs/tutorial/html/tutKernelClassif.html

मैं कार्यान्वयन पर काम करने की कोशिश करूंगा। किसी भी मदद को बहुत सराहा जाएगा।

आईआईआरसी, एसवीएम पर आरवीएम का एक फायदा यह है कि आप ऑप्टिमाइज़ेशन पास किए बिना इष्टतम सी पैरामीटर पा सकते हैं।
मुझे आश्चर्य है कि क्या मूल लेखक अपने संदर्भ कार्यान्वयन में योगदान देने के इच्छुक होंगे।
खैर, यह मैटलैब में है और माइक टिपिंग जीथब पर भी नहीं है ...

हाय @amueller और सब लोग! हमने इस धागे को देखा और RVM (https://github.com/Mind-the-Pineapple/sklearn-rvm) के स्केलेर-संगत संस्करण को लागू करने का निर्णय लिया। हमने JamesRitchie के कार्यान्वयन पर जो कुछ किया, उस पर बहुत कुछ आधारित है। यह बहुत अच्छा होगा अगर कोई इसे देखने के लिए तैयार होगा और फीडबैक और योगदान (@themrzmaster) का स्वागत है :)
हमारे पास इस रेपो को बनाए रखने की योजना है, संस्करण 0.2 पर तेज संस्करण को लागू करना और उम्मीद है कि शायद किसी दिन यह कोड विज्ञान-सीखने के मुख्य भंडार के लिए सहायक हो सकता है

हाय @amueller और सब लोग! हमने इस धागे को देखा और RVM (https://github.com/Mind-the-Pineapple/sklearn-rvm) के स्केलेर-संगत संस्करण को लागू करने का निर्णय लिया। हमने JamesRitchie के कार्यान्वयन पर जो कुछ किया, उस पर बहुत कुछ आधारित है। यह बहुत अच्छा होगा अगर कोई इसे देखने के लिए तैयार होगा और फीडबैक और योगदान (@themrzmaster) का स्वागत है :)
हमारे पास इस रेपो को बनाए रखने की योजना है, संस्करण 0.2 पर तेज संस्करण को लागू करना और उम्मीद है कि शायद किसी दिन यह कोड विज्ञान-सीखने के मुख्य भंडार के लिए सहायक हो सकता है

नमस्ते @PedroFerreiradaCosta
मैंने इस विज्ञान-सीखने वाले एपीआई का परीक्षण किया है और ऐसा लगता है कि यह अभी भी बहुत धीमा है (अभी तक प्रतिक्रिया नहीं दे रहा है)। क्या आपको लगता है कि इसका कारण विंडोज़ पर लागू किया जा सकता है? नीचे मैंने जो प्रयोग किया है:
EMRVC(kernel='rbf', gamma='scale', n_iter_postterior=10, max_iter=500, compute_score=True , verbose=True ) आपके उत्तर के लिए धन्यवाद @themrzmaster @PedroFerreiradaCosta

हाय @mustuner ! हमारे एपीआई को आजमाने के लिए धन्यवाद!
उदाहरण के लिए एसवीएम (ओ (एम ^ 3)) की तुलना में आरवीएम में उच्च कम्प्यूटेशनल जटिलता है, जो उन मामलों के लिए धीमी हो सकती है जहां आपके पास बड़ी संख्या में आधार कार्य हैं। किसी भी तरह से, प्रक्रिया को तेज करने के लिए आप कई चीजें कर सकते हैं। आप कर्नेल मैट्रिक्स की पूर्व-गणना कर सकते हैं और इसे X के बजाय हमारे एल्गोरिथम में फीड कर सकते हैं, (कर्नेल = 'प्रीकंप्यूटेड' सेट करें) या आप अल्फा_थ्रेशोल्ड के पैमाने को भी घटा सकते हैं (डिफ़ॉल्ट रूप से 1e5 पर सेट)। कृपया ध्यान रखें कि इस दूसरे विकल्प से मॉडल की सटीकता कम हो सकती है।
उम्मीद है की यह मदद करेगा! और आगे मदद करने के लिए बेझिझक एक मुद्दा खोलें।

श्रेष्ठ,
पेड्रो

हाय @mustuner ! हमारे एपीआई को आजमाने के लिए धन्यवाद!
उदाहरण के लिए एसवीएम (ओ (एम ^ 3)) की तुलना में आरवीएम में उच्च कम्प्यूटेशनल जटिलता है, जो उन मामलों के लिए धीमी हो सकती है जहां आपके पास बड़ी संख्या में आधार कार्य हैं। किसी भी तरह से, प्रक्रिया को तेज करने के लिए आप कई चीजें कर सकते हैं। आप कर्नेल मैट्रिक्स की पूर्व-गणना कर सकते हैं और इसे X के बजाय हमारे एल्गोरिथम में फीड कर सकते हैं, (कर्नेल = 'प्रीकंप्यूटेड' सेट करें) या आप अल्फा_थ्रेशोल्ड के पैमाने को भी घटा सकते हैं (डिफ़ॉल्ट रूप से 1e5 पर सेट)। कृपया ध्यान रखें कि इस दूसरे विकल्प से मॉडल की सटीकता कम हो सकती है।
उम्मीद है की यह मदद करेगा! और आगे मदद करने के लिए बेझिझक एक मुद्दा खोलें।

श्रेष्ठ,
पेड्रो

धन्यवाद @PedroFerreiradaCosta मुझे यह कोशिश करने दें