에너지 거리

이 기사는 주요 출처에 대한 언급에 너무 많이 의존하고 있다. 이차 또는 3차 소스를 추가하여 개선하십시오. (2011년 1월) (이 템플릿 메시지를 제거하는 방법과 시기 알아보기)

에너지 거리는 확률 분포 사이의 통계적 거리다. X와 Y가 각각 누적분포함수(cdf) F와 G를 갖는 R의^d 독립 랜덤 벡터인 경우 분포 F와 G 사이의 에너지 거리는 제곱근으로 정의된다.

${\displaystyle D^{2}(F,G)=2\operatorname {E} \ X-Y\ -\operatorname {E} \ X-X'\ -\operatorname {E} \ Y'\geq 0,}$

여기서(X, X', Y, Y')는 독립적이며, X와 X'의 cdf는 F, $Y$와 Y'의 cdf는 G, E ${\displaystyle \operatorname {E}이($가) 기대값이며, .는 벡터의 길이를 나타낸다. Energy distance satisfies all axioms of a metric thus energy distance characterizes the equality of distributions: D(F,G) = 0 if and only if F = G. Energy distance for statistical applications was introduced in 1985 by Gábor J. Székely, who proved that for real-valued random variables ${\displaystyle D^{2}(F,G)}$ is exactl하랄드 크레이머의 거리 두 배:^[1]

${\displaystyle \int _{-\ft }^{\ft }(F(x)-G(x))^{2}\,dx.}$

이러한 동등성에 대한 간단한 증거는 Székely(2002)를 참조한다.^[2]

그러나 더 높은 차원에서는 에너지 거리가 회전 불변인 반면 Cramér의 거리는 그렇지 않기 때문에 두 거리가 다르다. (Cramér의 거리는 분배 없는 Cramér-von Mises 기준과 같지 않다는 주의)

메트릭 공간에 대한 일반화

메트릭스 공간의 확률 분포에 대한 에너지 거리 개념을 일반화할 수 있다. Let ${\displaystyle (M,d)}$ be a metric space with its Borel sigma algebra ${\displaystyle {\mathcal {B}}(M)}$. Let ${\displaystyle {\mathcal {P}}(M)}$ denote the collection of all probability measures on the measurable space ${\displaystyle (M,{\mathcal {B}}(M))}$. If μ 및 ν은 $P{\displaystyle \mathcal{}}$( ${\displaystyle M}$) ${\displaystyle {\mathcal{P}(M)}$에 있는 확률 측정값으로,$$μ 및 and의 에너지$$ $거리{\displaystyle }$ D ${\displaystyle D}$을(를) 제곱근으로 정의할 수 있다.

${\displaystyle D^{2}(\mu ,\nu )=2\operatorname {E}[d(X,Y)]-\operatorname {E}[d(X,X')-\operatorname {E}[d(Y,Y')] [d(Y,Y')]].}$

그러나 이것이 반드시 부정적이지 않은 것은 아니다. $({\displaystyle M}$, ${\displaystyle d}$) ${\디스플레이$ 스타일$(M,d)}$이(가) 강력한 음의 한정된 커널이라면 D ${\디스플레이 스타일$ D$}$은(는) 메트릭이고, 반대로(는) 메트릭이다.^[3] 이 조건은${\displaystyle }$(${\displaystyle M}$, d${\displaystyle }$) ${\디스플레이$ 스타일 $(M,d)}$이(가) 음의 유형을 가지고$$ 있다고 말해 표현된다. 음의 유형은 $D{\displaystyle }$ ${\displaystyle D}$이(가) 메트릭이 되기에$$ 충분하지 않으며, 후자의 조건은${\displaystyle }$(${\displaystyle M}$, ${\displaystyle d}$) ${\displaystyle (M,d)}$이(가) 강한 음의 유형을 가지고$$ 있다고 말해 표현된다. 이 상황에서 에너지 거리는 X와 Y가 동일하게 분포된 경우에만 0이다. 부정적인 유형이지만 강한 부정적인 유형은 아닌 메트릭의 예로는 택사브 메트릭이 있는 평면을 들 수 있다. 모든 유클리드 공간과 분리 가능한 힐버트 공간은 강한 음의 형태를 가지고 있다.^[4]

기계 학습을 위한 커널 방법에 관한 문헌에서, 에너지 거리에 대한 이러한 일반화된 개념은 최대 평균 불일치라는 이름으로 연구된다. 가설 검사에 대한 거리 기반 방법과 커널 방법의 동등성은 여러 저자에 의해 다루어지고 있다.^[5][6]

에너지 통계

관련된 통계 개념인 E-통계학적 또는 에너지 통계학적^[7] 개념은 1980년대 헝가리 부다페스트와 MIT, 예일, 콜롬비아에서 콜로키움 강의를 할 때 Gabor J. Zékeley에 의해 도입되었다. 이 개념은 뉴턴의 잠재적 에너지 개념에 기초한다.^[8] 그 아이디어는 통계적 귀무 가설이 참일 때만 0인 통계적 잠재적 에너지에 의해 지배되는 천체로서 통계적 관찰을 고려하는 것이다. 에너지 통계는 통계적 관측 사이의 거리의 함수다.

에너지 거리와 E-통계학적 거리는 Zinger A.A, Kakosynan A.V, Klebanov L.B에서 N-distance와 N-statistic으로 간주되었다. 확률적 모델의 안정성 문제인 일부 확률 지표와 관련된 일부 통계량의 평균 값에 의한 분포 특성. 모스크바, VNIISI, 1989,47-55. (러시아어), 영어 번역: 통계 평균 값과 특정 확률적 메트릭 A에 의한 분포 특성화. A. Zinger, A. V. Kakosyan, L. B. Klebanov in the Journal of 소비에트 수학(1992년) 동일한 논문에서 강력하고 부정적인 확정 커널에 대한 정의가 주어졌고 위에서 논의된 미터법 공간에 대한 일반화를 제공했다. 이 책은^[3] 이러한 결과와 그 결과를 통계적 시험에 적용하기도 한다. 이 책에는 또한 이 조치를 잠재력에서 회복시키기 위한 몇 가지 응용 프로그램도 포함되어 있다.

등분포 검정

X와 Y라는 두 변수의 확률 분포가 같다는 귀무 가설을 생각해 보십시오. $\mu {\displaystyle }$= μ = ${\displaystyle \nu }$ ${\displaystyle \mu =\nu }.$ X와 Y의 통계 샘플의 경우:

${\displaystyle x_{}{1\mathrm{}}_{}}$, ${\displaystyle \dots ,}$ ${\displaystyle x_{}}$ ${\displaystyle {}_{}}$ ${\$x_${n},$ $y$ 1, ${\displaystyle \dots ,}$ ${\displaystyle {}_{}}$ ${\displaystyle m_{}}$ ${\$

X 표본과 Y 표본 사이에서 다음과 같은 거리의 산술 평균을 계산한다.

${\displaystyle A:={\frac {1}{nm}}\sum _{i=1}^{n}\sum _{j=1}^{m}\ x_{i}-y_{j}\ ,B:={\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j$$=1}^{n}\ x_{i}-x_{j}\,C:={\frac{1}{1}{1}:{$2}}:}\$sum _{i=1}^{m$}\$sum$_{j$=1}^{j$=1}}\{m$}\$}\{$i}-y_{$j$\}\backslash \}\backslash \}\}\}\}.$

기초 귀무 가설의 E-통계학(E-statistic)은 다음과 같이 정의된다.

${\displaystyle E_{n,m}(X,Y):=2A-B-C}$

${\displaystyle \mathrm{En}{}_{}}$, ${\displaystyle m_{}}$(${\displaystyle X}$, Y${\displaystyle }$) ${\displaystyle \ge }$ 0 ${\displaystyle E_{n,m}(X,Y)\geq$ 0$}$을(를) 증명할^[8][9] 수 있으며, X와 Y의 분포가 같은 경우에만 해당하는 모집단 값이 0임을 증명할 수 있다(μ =$$ {\$displaystyle \mu =\nu }).$ 이 귀무 가설에서 검정 통계량은

${\displaystyle T={\frac {nm}{n+m}E_{n,m}(X,Y)}$

독립 표준 정규 랜덤 변수의 이차적 형태로 분포의 수렴. 대립 가설에서 T는 무한을 추구하는 경향이 있다. 이를 통해 동일한 분포에 대한 에너지 시험인 일관된 통계 시험을 구성할 수 있다.^[10]

이질성의 E-코효율도 도입할 수 있다. 이 값은 항상 0과 1 사이이며 다음과 같이 정의된다.

${\displaystyle H={\frac {D^{2}(F_{X},F_{Y})}{2\operatorname {\operatorname {E} } \ X-Y\ }}={\frac {2\operatorname {E} \ X-Y\ -\operatorname {E} \ X-X'\ -\operatorname {E} \ Y-Y'\ }{2\operatorname {\operatorname {E} } \ X-Y\ }},}$

여기서 $E{\displaystyle \mathrm{}}$ ${\displaystyle \operatorname {E}은($는) 예상 값을 나타낸다$$. H = 정확히 X와 Y의 분포가 같은 경우 0이다.

적합도

다변량 적합도 측정은 임의 치수(표본 크기에 의해 제한되지 않음)의 분포에 대해 정의된다. 에너지 적합도 통계량은

${\displaystyle Q_{n}=n\left({\frac {2}{n}}\sum _{i=1}^{n}\operatorname {E} \ x_{i}-X\ ^{\alpha }-\operatorname {E} \ X-X'\ ^{\alpha }-{\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}\ x_{i}-x_{j}\ ^{\alpha }\right),}$

여기서 'X와 X'는 가설 분포에 따라 독립적이며 ${\displaystyle \mathrm{\alpha }}$∈${\displaystyle }$( 0${\displaystyle }$,${\displaystyle 2}$ ) ${\displaystyle \alpha \in (0,$2$)\}\}.$ 유일한 필수 조건은 X가 귀무 가설 하의 유한 α {\$displaystyle \alpha$} 모멘트를 갖는다는$$ 것이다. 귀무 가설 $E{\displaystyle \mathrm{}}$ ${\displaystyle }$ ${\displaystyle {Qn}_{}}$= ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ ${\displaystyle {}^{}}$ - X${\displaystyle \prime {}^{}}$ ${\displaystyle {\alpha }^{}}$ α α ${\$\$$X'\$^{\alpha$에서 Q의 점근_n 분포는 중심 가우스 랜덤 변수의 2차 형식이다. 대립 가설에서 Q는_n 확률적으로 무한대 경향이 있으며, 따라서 통계적으로 일관적인 시험을 결정한다. 대부분의 적용에서 지수 1(유클리드 거리)을 적용할 수 있다. 다변량 정규성^[9] 시험의 중요한 특별한 경우는 R 에너지 패키지에 구현된다. 파레토(전력법)와 같은 무거운 꼬리 분포나 (0,1)에서 지수를 적용하여 안정된 분포에 대해서도 시험이 개발된다.

적용들

응용 프로그램에는 다음이 포함된다.

• 계층적 군집화(Ward의 방법의 일반화)^[11][12]
• 다변량 정규성^[9] 검정
• 동일한 분포에 대한 다중 표본 가설 ^[13][14][15]검정
• 변경점 감지^[16]
• 다변량 독립성:
  • 거리 상관 관계,^[17]
  • 브라운 ^[18]공분산
• 점수 매기기 규칙:

그네팅과 래프터리는^[19] 에너지 거리를 적용하여 확률적 예측을 위한 매우 일반적인 유형의 적절한 점수 규칙인 에너지 점수를 개발한다.

• 강력한 통계량^[20]
• 시나리오 축소^[21]
• 유전자선택^[22]
• 마이크로 어레이 데이터 분석^[23]
• 재료구조분석^[24]
• 형태 및 화학 데이터^[25]

에너지 통계 적용은 R을 위한 오픈 소스 에너지 패키지에^[26] 구현된다.

참조