관련 벡터 기계

시리즈의 일부
기계 학습 및 데이터 마이닝
문제 분류 클러스터링 회귀 이상 검출 데이터 클리닝 자동 ML 어소시에이션 규칙 강화 학습 구조화된 예측 기능 엔지니어링 기능 학습 온라인 학습 준지도 학습 비지도 학습 순위 매기기 학습 문법 유도
지도 학습 (분류 • 회귀) 의사결정 트리 앙상블 배깅 부스팅 랜덤 포레스트 k-NN 선형 회귀 네이비 베이즈 인공신경망 로지스틱 회귀 분석 퍼셉트론 관련 벡터 머신(RVM) 서포트 벡터 머신(SVM)
클러스터링 버치 치유하다 계층적 k자형 기대 최대화(EM) DBSCAN 광학 평균 이동
치수 축소 인자 분석 CCA ICA LDA NMF PCA PGD t-SNE
구조화된 예측 그래픽 모델 베이즈 네트 조건부 랜덤 필드 히든 마르코프
이상 검출 k-NN 국소 특이치 계수
인공신경망 자동 인코더 인지 컴퓨팅 딥 러닝 딥 드림 다층 퍼셉트론 RNN LSTM GRU ESN 저장고 계산 제한 볼츠만 기계 GAN somerset. 컨볼루션 뉴럴 네트워크 유넷 트랜스포머 비전. 스파이킹 뉴럴 네트워크 메모리 트랜지스터 전기화학 RAM(ECRAM)
강화 학습 Q-러닝 사사 시간차(TD) 멀티 에이전트 셀프 플레이
인간과의 학습 액티브 러닝 크라우드 소싱 휴먼 인 더 루프
모델 진단 학습 곡선
이론. 커널 머신 바이어스-분산 트레이드오프 컴퓨터 학습 이론 경험적 리스크 최소화 오컴 러닝 PAC 학습 통계학 학습 VC 이론
기계학습장 NeurolIPS ICML ML JMLR ArXiv:cs.LG
관련 기사 인공지능 용어집 기계 학습 연구를 위한 데이터 세트 목록 기계학습의 개요
v t

수학에서 RVM(Reliance Vector Machine)은 회귀 및 확률적 ^[1]분류를 위한 인색한 해법을 얻기 위해 베이지안 추론을 사용하는 기계 학습 기법이다.RVM은 서포트 벡터 머신과 동일한 기능 형태를 가지지만 확률론적 분류를 제공한다.

이는 실제로 공분산 함수가 있는 가우스 공정 모델과 동일합니다.

${\displaystyle k(\mathbf {x},\mathbf {x})=\sum _{j=1}^{N}{\frac {1}{{j}}\varphi (\mathbf {x},\mathbf {x}_{x})\varphi (\mathbf {x},\mathbf})_x}_f}_x}_x}_f_f}_f}_f_f_f_f_f_f_f_{x}_f}_{{{{$

$여기$서 ${\$ { $displaystyle$\$varphi }$는 커널 함수(일반적으로 가우스), ${\displaystyle {\alpha }_{}}$j \$displaystyle \alpha$_ { $j}$는 무게 $벡터{\displaystyle }$w ~${\displaystyle N}$ (${\displaystyle 0}$ ,${\displaystyle {}^{}}$ - ${\displaystyle 1^{}{}^{}}$ $)\displaystyle$ w$\sim$ N ( $0$, \$alpha$^ { - 1 I$$)$$} 및 ${\displaystyle {}_{}}$1, $...$style \$mathbstyle \mathb$ { f $}$의 이전 값에서의 이전 값에서의 분산입니다.$$ 는 트레이닝 ^[2]세트의 입력 벡터입니다.

서포트 벡터 머신(SVM)에 비해, RVM의 베이지안 공식은 SVM의 프리 파라미터 세트를 회피합니다(통상 크로스 검증 베이스의 포스트 최적화가 필요).그러나 RVM은 기대 최대화(EM)와 유사한 학습 방법을 사용하기 때문에 국소 최소화의 위험이 있다.이는 (볼록한 문제의) 글로벌 최적화를 확실하게 찾을 수 있는 SVM에 의해 채택된 표준 순차적 최소 최적화(SMO) 기반 알고리즘과는 다릅니다.

관련 벡터 머신은 마이크로소프트에 의해 미국에서 특허 취득(2019년 ^[3]9월 4일 특허 만료)되었습니다.

「 」를 참조해 주세요.

• 커널 트릭
• 플랫 스케일링: SVM을 확률 모델로 변환

레퍼런스

소프트웨어

• dlib C++ 라이브러리
• 커널 머신 라이브러리
• rvmbinary: 이진 분류용 R 패키지
• skikit-rvm
• fast-skikit-rvm, rvm 튜토리얼

외부 링크

• 스퍼스 베이지안 모델과 RVM에 대한 팁 웹 페이지
• Tristan Fletcher의 RVM 튜토리얼
• RVM에 대한 튜토리얼 적용
• RVM과 SVM의 비교