Scikit-learn: 연관 학습 알고리즘

아이템 세트 마이닝이 sklearn의 범위에 있는지 잘 모르겠습니다. 저는 선험적 알고리즘만 알고 있지만 더 발전된 알고리즘이 있다는 것을 압니다. 희소 지표 행렬을 사용하여 API에 맞출 수 있지만 어떻게 든 나머지 sklearn과 매우 분리되어 보입니다.

범주형 데이터에 대한 의사 결정 트리 알고리즘인 CBA 알고리즘의 전구체로 사용할 수 있습니다.

sklearn에 one-hot-transform이 없는 범주형 데이터에 대한 결정 트리(또는 다른 알고리즘)는 없습니다.

빈번한 아이템 마이닝은 OT로 간주되어야 한다고 생각합니다. 핵심 개발자 중 누구도 해당 영역에서 일하지 않으므로 제출된 코드는 고아가 될 수 있습니다. 우리는 바로 이러한 이유로 라이브러리의 범위를 줄이려고 노력했습니다.

빈번한 아이템 마이닝은 OT로 간주되어야 한다고 생각합니다. 핵심이 없음
개발자는 해당 영역에서 작업하므로 제출된 코드는
고아

또한 코드 패턴의 종류가 매우 다를 것이라고 믿습니다.
그렇다면 우리가 현재 가지고 있는 것.

재미없다는 말이 아니라 그냥 도구가
다른 것.

안녕,

Apriori 및 FP 성장 알고리즘에 대한 지식이 있습니다. 이 문제에 대해 작업하고 싶습니다. 이미 작업 중인 다른 사람이 있습니까? 그렇다면 저도 돕고 싶습니다.

이 문제를 닫습니다. 연관 학습은 별도의 패키지에서 프로토타입이 되어야 한다고 생각합니다. 코드와 인터페이스가 우리와 충분히 유사하다고 판명되면 scikit-learn으로 병합하는 코드를 고려할 수 있습니다.

슬픈 결정!

이 문제를 닫습니다. 연관 학습은 별도의 패키지에서 프로토타입이 되어야 한다고 생각합니다. 코드와 인터페이스가 우리와 충분히 유사하다고 판명되면 scikit-learn으로 병합하는 코드를 고려할 수 있습니다.

매우 합리적인 결정 :)

:+1: 초점
:-1: 잘 알려진 비지도 학습 알고리즘의 전체 클래스를 제외합니다.

@joernhees 이 비지도 학습 공식이 scikit-learn API에 어떻게 맞는지 설명해 주시겠습니까? 쉽지 않다면 아마도 자체 API를 구축할 수 있는 다른 프로젝트의 범위에 속할 것입니다. 나는 @larsmans 가 위에서 그것을 아주 명확하게 했다고 생각하며 비꼬는 반응을 할 가치가 없습니다.

이것이 비꼬는 것처럼 보였다면 죄송합니다. 그것은 제 의도가 아니었습니다.

나는 원래 연관 규칙 학습 알고리즘을 검색하여 여기에 도착했고 sklearn에서 찾을 것으로 예상했습니다(기계 학습 알고리즘의 꽤 멋진 모음이고 일반적으로 내가 필요한 대부분의 것을 찾을 수 있기 때문입니다(대단히 감사합니다)).

이 스레드를 읽은 후 나는 기쁘기도 하고 실망스럽기도 했고 둘 다 목소리를 내고 싶었습니다.

• (어려운) 초점을 맞추기 위해 좋은 소프트웨어 엔지니어링 결정을 내린 것을 기쁘게 생각합니다.
• 연관 규칙 마이닝이 그 일부가 아니며 이를 놓치는 다른 사람이 있다는 사실에 실망했습니다. 내가 말했듯이 비지도 학습 알고리즘의 자체 클래스로 볼 수 있으며 매우 성공적입니다(amazon). sklearn에 대해서는 데이터 마이닝이 너무 많고 기계 학습이 너무 적습니다. 하지만 약간만 비틀면 예를 들어 액터가 취할 수 있는 다음 행동에 대한 설명 가능한 예측에 매우 유용한 규칙 학습을 얻을 수 있습니다.

연관 규칙 마이닝이 현재 API에 완전히 맞지 않는 것이 맞습니다. 개념적으로 나는 차원 축소 기술과 계층적 클러스터링 사이의 어딘가에서 그것을 봅니다. API의 경우 계층적 클러스터링에 가장 가깝습니다.

두 줄이 너무 짧아서 친근하게 표현하기에는 너무 짧을 수 있으니 양해 부탁드립니다.

괜찮아요. 확실히 선험적 파이썬 구현이 있습니다.
대안을 수집하고 제공하는 좋은 라이브러리 구축
일관된 (scikit-learn-like) API는 좋은 프로젝트처럼 보입니다... 제 생각에는
연관 규칙 마이닝에 기반한 분류기는 다음의 범위에 포함될 수 있습니다.
scikit-learn, 그러나 충분히 대중적이고 표준화되지 않은 경우
이미 관리자 없이 코드가 될 위험이 있습니다.

2014년 9월 24일 07:52 Jörn Hees [email protected] 은 다음과 같이 썼습니다.

이것이 비꼬는 것처럼 보였다면 죄송합니다. 그것은 제 의도가 아니었습니다.

나는 원래 연관 규칙 학습을 검색하여 여기에 도착했습니다.
알고리즘을 만들고 sklearn에서 찾을 것으로 예상했습니다(예쁘기 때문에
기계 학습 알고리즘의 멋진 모음이며 일반적으로 가장 많이 찾습니다.
내가 필요한 것들 (큰 감사합니다)).

이 스레드를 읽은 후 나는 만족하고 실망했으며 원했습니다.
둘 다 음성:

• 좋은 소프트웨어 엔지니어링 결정을 내리신 것을 기쁘게 생각합니다.
  초점을 맞추다(어렵다).
• 연관 규칙 마이닝이 그 일부가 아니라는 점에 실망했고
  그것을 그리워하는 또 다른 사람이 있습니다. 내가 말했듯이 그것은 다음과 같이 볼 수 있습니다.
  비지도 학습 알고리즘의 자체 클래스이며 매우 성공적입니다.
  (아마존). 데이터 마이닝이 너무 많고 너무 적습니다.
  sklearn을 위한 머신 러닝, 하지만 조금 비틀면 규칙을 얻을 수 있습니다.
  다음에 대한 설명 가능한 예측에 매우 유용한 학습
  예를 들어 액터가 취할 수 있는 조치.

연관 규칙 마이닝이
현재 API. 개념적으로 나는 그것을 차원 사이 어딘가에서 봅니다.
축소 기술 및 계층적 클러스터링. API 현명한 그것은 아마도
계층적 클러스터링에 가장 가깝습니다.

친근하게 표현하기에는 두 줄이 너무 짧아서,
제 사과를 받아주세요.

—
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/scikit-learn/scikit-learn/issues/2662#issuecomment -56595906
.

나는 이것이 가치가 있다고 생각합니다. 이 기사: 연관 규칙과 의사 결정 트리 비교for Disease Prediction 은 의사결정나무와 비교하여 분명한 이점을 보여줍니다.

이 블로그 게시물 에는 A-Priori용 Python 코드가 포함되어 있습니다. 언젠가 이러한 알고리즘을 구현해 보는 것도 흥미로울 것입니다. 별도의 프로토타이핑 패키지에 대한 작업이 있습니까?

지금까지 없음. 메일링 리스트에서 이에 대한 지원을 수집할 수 있습니까?

우선 이러한 알고리즘이 sklearn에서 구현되지 않는다는 점에 실망했습니다. 제 고문은 FP-growth 및 PrefixSpan의 저자인 Jiawei Han이며, 두 논문("후보 생성 없이 빈번한 패턴 마이닝" 및 "패턴 성장에 의한 순차적 패턴 마이닝")에 대한 인용 횟수는 두 논문 모두에 대한 증거입니다. 이러한 알고리즘은 sklearn에 있습니다.

scikit-learn에 포함된 인기 기준이 있기 때문에
알고리즘, 즉 모든 인기 있는 알고리즘이 포함되어야 한다는 의미는 아닙니다.
Scikit-learn은 범위가 제한되어야 하며 이는 단순히
분류 및 회귀와 같은 문제(내가 관심을 갖고 있지만
구현된 성공적인 연관 기반 분류기 참조).

실망해도 되지만 ARL 기술이
가까운 장래에 scikit-learn에 직접 포함될 것입니다(비록
다른 프로젝트에서 scikit-learn과 유사한 API를 제공할 수 있습니다. 있다
이러한 알고리즘이 더 적합한 다른 프로젝트이지만
그들에게도 실망했습니다. 직접 만드십시오.

2015년 3월 25일 09:11에 Henry [email protected] 은 다음과 같이 썼습니다.

우선 이러한 알고리즘이
스켈런. 제 고문은 FP-growth 및 PrefixSpan의 저자인 Jiawei Han입니다.
두 논문의 인용 횟수(
"후보 생성 없이 빈번한 패턴 마이닝" 및 "마이닝
패턴 성장에 의한 순차적 패턴")은 두 가지 모두를 증명합니다.
알고리즘은 sklearn에 있습니다.

—
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/scikit-learn/scikit-learn/issues/2662#issuecomment -85713120
.

연관 학습 알고리즘은 분류 및 회귀와 같은 문제에서 너무 멀리 떨어져 있습니다. 우리는 countvectorizer 및 tfidfvectorizer와 같은 기능 생성 알고리즘 대신 빈번한 항목 집합/패턴 마이닝 알고리즘을 고려할 수 있습니다. 이러한 빈번한 패턴은 모든 분류기 알고리즘에서 입력 기능으로 사용될 수 있으며 정보 획득 기반 의사 결정 트리 학습을 적용하는 것보다 훨씬 더 직관적이고 다소 다릅니다.

그것은 옵션입니다. Kudo와 Matsumoto 는 PrefixSpan을 사용하여 폴리커널의 하위 집합을 샘플링하는 방법을 보여줍니다.

scikit-learn 문서를 조회하고 확인할 수 있지만 scikit-learn에서 이 옵션(Kudo 및 Matsumoto)을 사용할 수 있습니까?

아뇨. 그냥 그럴 수도 있어요.

Apiori 알고리즘의 경우 +1

빈번한 항목 목록을 입력으로 사용하는 ML 알고리즘이 있습니다. 예를 들어, Cynthia Rudin의 베이지안 규칙 목록(cf, http://www.stat.washington.edu/research/reports/2012/tr609%20-%20old.pdf)을 참조하십시오.

모든 기능이 이진 지표(아마도 원-핫 인코딩의 결과)인 예측할 응답 변수가 있는 데이터 세트를 고려하십시오. 훈련 세트 행을 '바구니'로 간주하고 해당 훈련 세트 행에 대한 기능의 존재를 바구니 내의 '항목'으로 간주할 수 있습니다. 따라서 상당히 일반적인 데이터 세트는 선험적, FP 성장 및 기타 빈번한 항목 세트 마이닝 기술에 의해 조작될 수 있습니다.

베이지안 규칙 목록 알고리즘에서 빈번한 항목 집합이 평가되고 결국에는 if-then-else 구조가 생성됩니다. 자세한 내용은 참고 논문을 참조하십시오.

요점은 사용 가능한 항목 집합 마이닝 접근 방식을 자주 사용하면 장바구니 분석뿐만 아니라 이미 sklearn의 범위 내에 있는 분류자와 회귀자를 지원할 수 있다는 것입니다.

아마도 scipy에서 그러한 알고리즘을 사용할 수 있게 된 동기입니다. 의
물론 scikit-learn의 포함을 충족하는 분류기 또는 이와 유사한 경우
가이드라인은 아이템 세트 마이닝으로 구현되었으며, 좋은 기회를 얻었습니다.
포함, 선험적 및 모든 것.

2016년 4월 19일 01:14에 rmenich [email protected] 에서 다음과 같이 썼습니다.

다음과 같이 빈번한 항목 목록에 의존하는 ML 알고리즘이 있습니다.
입력. 예를 들어, Cynthia Rudin의 베이지안 규칙 목록(cf,
http://www.stat.washington.edu/research/reports/2012/tr609%20-%20old.pdf).

예측할 응답 변수가 있는 데이터 세트를 고려하십시오.
기능은 이진 지표입니다(아마도
원-핫 인코딩). 훈련 세트 행을 '바구니'로 간주할 수 있으며
해당 훈련 세트 행이 '항목'이 될 기능의 존재
바구니. 따라서 상당히 일반적인 데이터 세트는
apriori, FP-growth 및 기타 빈번한 항목 집합 마이닝 기술.

베이지안 규칙 목록 알고리즘에서는 빈도 항목 집합이 평가됩니다.
그리고 결국 if-then-else 구조가 그들로부터 생성됩니다. 참조
자세한 내용은 참조 문서를 참조하십시오.

요점은 사용 가능한 항목 집합 마이닝 접근 방식을 자주 사용한다는 것입니다.
분류기 및 회귀자를 지원할 수 있음 --- 이미 범위 내
sklearn --- 단순한 장바구니 분석이 아닙니다.

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하거나 GitHub에서 확인하세요.
https://github.com/scikit-learn/scikit-learn/issues/2662#issuecomment -211424583

이 대화가 시작된 이후로 sklearn이 얼마나 많이 변경되었는지 모르지만 회귀/분류도 아닌 전체 "클러스터" 패키지가 있습니다. 연관 규칙 및 빈번한 항목 집합에 대한 최신 알고리즘의 좋은 구현은 sklearn의 많은 사람들이 환영할 것이라고 생각합니다.

클러스터링은 분류와 매우 유사하지만 감독되지 않으며 오랫동안 scikit-learn의 일부였습니다. 연관 규칙 마이닝은 scikit-learn이 중점을 두는 기본 작업 외부에 있으며 API에 깔끔하게 맞지 않지만 연관 기반 분류기의 맥락에서 관련이 있을 수 있습니다.

"최신 알고리즘"은 scikit-learn에 관한 것이 아닙니다. FAQ 를 참조하십시오.

나 자신을 반복하지 않아도 좋을 것입니다.

@actsasgeek scikit-learn과 호환되는 방식으로 연관 규칙 마이닝을 구현하려면 scikit-learn-contrib에 포함시켜 드리겠습니다. https://github.com/scikit-learn-contrib/scikit-learn -contrib/blob/master/README.md

scikit learn과 같은 훌륭한 라이브러리에서 연관 규칙 마이닝을 추가하는 것에 반대되는 느낌을 보았기 때문에 반복적인 질문이 귀하를 귀찮게 하지 않기를 바랍니다. 이 스레드를 생성한 지 3년이 지난 후 scikit learn에 구현된 빈번한 항목 집합이 있는지 업데이트하고 싶습니다.

연관 규칙 마이닝은 기계 학습의 범위를 벗어나고,
확실히 scikit-learn의 범위를 벗어났습니다.

연관 규칙에 기반한 분류는 우리가
그것을 고려할 것이고, 여전히 열심히 팔 필요가 있을 것입니다.

2017년 8월 17일 15:59에 saria85 [email protected] 에서 다음과 같이 썼습니다.

내 반복적인 질문이 당신을 괴롭히지 않기를 바랍니다.
다음과 같은 훌륭한 라이브러리에 연관 규칙 마이닝을 추가하는 것과 반대입니다.
사이킥 배우다. 자주 업데이트되는 항목이 있는지 확인하고 싶습니다.
이 생성 후 3년 후에 scikit Learn에서 구현되었습니다.
쓰레드?.

—
당신이 댓글을 달았기 때문에 이것을 받는 것입니다.
이 이메일에 직접 답장하고 GitHub에서 확인하세요.
https://github.com/scikit-learn/scikit-learn/issues/2662#issuecomment-322976532 ,
또는 스레드 음소거
https://github.com/notifications/unsubscribe-auth/AAEz67fCICLgV-3OpYiV3ErpJSW0mobgks5sY9a4gaJpZM4BT5PS
.

관심 있으신 분들은,

mlxtend 라는 라이브러리는 선험적 알고리즘을 구현합니다.
http://rasbt.github.io/mlxtend/api_subpackages/mlxtend.frequent_patterns/

예, 모두가 그것을 필요로 하므로 scikit-learn에 있으면 좋을 것입니다.
ML에서 사용하기 위한 또 하나의 링크
http://www2.cs.uh.edu/~ordonez/pdfwww/w-2006-HIKM-ardtmed.pdf
연결 규칙 및 의사 결정 트리 비교
질병 예측을 위해

그것은 ML이 아닌 패턴 마이닝입니다.