Scikit-learn: GMM में EM एल्गोरिथम 0.16.1 (लेकिन 0.15.2 के साथ ठीक) का उपयोग कर एक-आयामी डेटासेट के लिए विफल रहता है

GMM.fit () का उपयोग करके एक-आयामी गाऊसी वितरण को फ़िट करना स्किकिट-लर्न संस्करण 0.16.1 का उपयोग करके एक रनटाइम त्रुटि उत्पन्न करता है, लेकिन 0.15.2 का उपयोग करके उपयुक्त पैरामीटर उत्पन्न करता है।

समस्या का प्रदर्शन करने के लिए एक छोटा उदाहरण:

import sklearn
from sklearn import mixture
import numpy as np
from scipy import stats
import sys

# the version info 
print("Python version: %s.%s" %(sys.version_info.major, sys.version_info.minor))
print("scikit-learn version: %s" %(sklearn.__version__))

# some pretend data
np.random.seed(seed=0)
data = stats.norm.rvs(loc=100, scale=1, size=1000)
print("Data mean = %s, Data std dev = %s" %(np.mean(data), np.std(data)))

# Fitting using a GMM with a single component
clf = mixture.GMM(n_components=1)
clf.fit(data)
print(clf.means_, clf.weights_, clf.covars_)

इस उदाहरण कोड को स्किकिट-लर्न 0.15.2 के साथ चलाने से सही आउटपुट मिलता है:

Python version: 3.4
scikit-learn version: 0.15.2
Data mean = 99.9547432925, Data std dev = 0.987033158669
[[ 99.95474329]] [ 1.] [[ 0.97523446]]

हालाँकि, ठीक वही कोड scikit-learn 0.16.1 का उपयोग करके यह ट्रेसबैक देता है:

Python version: 3.4
scikit-learn version: 0.16.1
Data mean = 99.9547432925, Data std dev = 0.987033158669
/home/rebecca/anaconda/envs/new_sklearn/lib/python3.4/site-packages/numpy/lib/function_base.py:1890: RuntimeWarning: Degrees of freedom <= 0 for slice
  warnings.warn("Degrees of freedom <= 0 for slice", RuntimeWarning)
/home/rebecca/anaconda/envs/new_sklearn/lib/python3.4/site-packages/numpy/lib/function_base.py:1901: RuntimeWarning: invalid value encountered in true_divide
  return (dot(X, X.T.conj()) / fact).squeeze()
Traceback (most recent call last):
  File "test_sklearn.py", line 18, in <module>
    clf.fit(data)
  File "/home/rebecca/anaconda/envs/new_sklearn/lib/python3.4/site-packages/sklearn/mixture/gmm.py", line 498, in fit
    "(or increasing n_init) or check for degenerate data.")
RuntimeError: EM algorithm was never able to compute a valid likelihood given initial parameters. Try different init parameters (or increasing n_init) or check for degenerate data.

मैंने n_init, n_iter और covariance_type पैरामीटर के विभिन्न अलग-अलग मानों की कोशिश की है। मैंने विभिन्न डेटासेट की एक श्रृंखला की भी कोशिश की है। इन सभी का परिणाम इस त्रुटि या 0.16.1 का उपयोग करने के समान है, लेकिन 0.15.2 का उपयोग करने में कोई समस्या नहीं है। ऐसा लगता है कि समस्या अपेक्षा अधिकतमकरण में उपयोग किए गए प्रारंभिक पैरामीटर से संबंधित है, इसलिए यह संभव है कि यह इस मुद्दे से संबंधित हो: #4429

यदि यह उपयोगी जानकारी है, तो मैं एक एनाकोंडा आभासी वातावरण का उपयोग कर रहा था जिसमें स्किकिट-लर्न की एक साफ स्थापना थी, जिसे निम्नानुसार सेट किया गया था (संस्करण 0.16.1 के लिए):

conda create -n new_sklearn python=3.4
source activate new_sklearn
conda install sklearn