교환 가능한 랜덤 변수

통계에서 랜덤 변수의 교환 가능한 시퀀스(또한 때때로 교환할 수 있음)^[1]는₁ X, X₂, X₃, X, ...(정밀하거나 무한히 길 수 있음)의 시퀀스로서, 이들 변수들 중 많은 변수가 나타나는 시퀀스의 위치가 변경될 때 관절 확률 분포가 변경되지 않는다. 따라서, 예를 들어 시퀀스

${\displaystyle X_{1},X_{2},X_{3},X_{4},X_{5},X_{6}\quad {\\cH00},X_{6},X_{1},X_{5},X_{2},X_{4}}$

둘 다 동일한 접합 확률 분포를 가지고 있다.

통계적 모델에서 독립적이고 동일한 분포의 랜덤 변수를 사용하는 것과 밀접한 관련이 있다. 랜덤 변수의 교환 가능한 시퀀스는 단순한 랜덤 표본 추출의 경우에 발생한다.

정의

형식적으로, 임의변수의 교환 가능한 순서는 임의변수의 유한 또는 무한 시퀀스₁₂ X, X, X₃ ...로서, 지수 1, 2, 3, ...의 유한 순열 σ에 대해 (순열은 미세하게 많은 지수에만 작용하며 나머지는 고정됨), 순열의 공동 확률 분포.

${\displaystyle X_{\sigma(1)}X_{\sigma (2)}X_{\sigma (3)}\dots }$

원래 시퀀스의 합동 확률 분포와 동일하다.^[1][2]

(사건의 시퀀스₁ E, E₂, E₃, ...는 그 지표 기능의 시퀀스가 교환 가능한 경우 정확하게 교환할 수 있다고 한다.) 교환 가능한 유한한 변수의 유한 시퀀스 분포함수_X1,...,Xn F(x₁, ..., x_n)는 인수 x₁, ..., x에서_n 대칭이다. 올라브 칼렌버그는 연속 시간 확률적 프로세스에 대한 교환성의 적절한 정의를 제공했다.^[3][4]

역사

이 개념은 윌리엄 어니스트 존슨이 1924년 저서 로직 3부: 과학의 논리적 기초.^[5] 교환성은 1924년 월터 쉐하트가 도입한 통계적 통제의 개념과도 맞먹는다.^[6][7]

교환성 및 I.I.D 통계 모델

교환성의 속성은 통계적 모델에서 독립적이고 동일한 분포의 무작위 변수(i.d.)의 사용과 밀접하게 관련되어 있다. 어떤 기초적인 분포 형태를 조건으로 한 일련의 무작위 변수들은 교환할 수 있다. 이는 I.I.d. 양식에 의해 생성된 관절 확률 분포의 구조에서 직접 나타난다.

교환 가능한 시퀀스(특히, i.i.d 변수의 시퀀스)의 혼합물은 교환이 가능하다. 브루노 데 피네티(Halmos, Savage와 같은 다른 확률 이론가들에 의해 더 늦게 확장됨)의 중요한 표현 정리를 통해 무한 시퀀스에 대해 역이 성립될 수 있다. 정리의 확장된 버전은 교환할 수 있는 임의 변수의 무한 시퀀스에서 임의의 변수는 조건부로 독립적이며, 기본 분포 형태를 감안할 때 동일하게 분포되어 있음을 보여준다. 이 정리는 아래에 간략하게 기술되어 있다.(데 피네티의 원래 정리는 무작위 지시 변수에 대해서만 이것이 사실임을 보여주었을 뿐, 이것은 나중에 모든 무작위 변수의 시퀀스를 포함하도록 확장되었다.) 이것을 넣는 또 다른 방법은 de Finetti의 정리가 교환 가능한 시퀀스를 i.i.d 시퀀스의 혼합물로 특징짓는 것이다. 교환 가능한 시퀀스 자체가 무조건적인 i.i.d일 필요는 없지만, 그것은 기초 i.d 시퀀스의 혼합으로 표현될 수 있다.^[1]

즉, 교환 가능한 랜덤 변수의 무한 시퀀스는 일부 기초적인 분포 형태에 기초하여 조건적으로 i.d. 랜덤 변수의 시퀀스로 동등하게 간주될 수 있다는 것을 의미한다. (이 동등성은 유한한 교환 가능성에 대해 그다지 유효하지 않다는 점에 유의한다.) 단, 랜덤 변수의 유한 벡터의 경우 I.i.d 모델에 가까운 근사치가 있다.) 무한 교환 가능한 순서는 엄격히 정지되어 있기 때문에 비르호프-킨친 정리 형태의 대수의 법칙이 적용된다.^[4] 이는 기초적인 분포가 값 순서의 제한적 경험적 분포로서 운영적 해석을 부여할 수 있다는 것을 의미한다. 랜덤 변수의 교환 가능한 시퀀스와 I.i.d. 형식 사이의 밀접한 관계는 후자가 무한의 교환성에 기초하여 정당화될 수 있다는 것을 의미한다. 이 개념은 브루노 데 피네티의 예측 추론 개발과 베이지안 통계학의 중심이다. 또한 빈도수주의 통계에서 유용한 기초적 가정이며 두 패러다임을 연계하는 것으로 보여질 수 있다.^[8]

표현 정리: 이 진술은 아래의 참고문헌에 있는 O'Neill(2009)의 발표에 근거한다. 랜덤 변수 $X{\displaystyle \mathbf{}}$=${\displaystyle }$( X ${\displaystyle {1\mathrm{}}_{}}$,${\displaystyle {}_{}{X\mathrm{}}_{}}$ ${\displaystyle {}_{}}$,${\displaystyle {}_{}}$X ${\displaystyle {3\mathrm{}}_{}}$,${\displaystyle }$…${\displaystyle }$) ${\displaystyle \mathbf {X} =(X_{1},X_{2},X_{3},\ldots$)의 무한 시퀀스를 감안할 때$$, 제한 경험적 분포 $함수{\displaystyle {}_{}}$ ${\displaystyle {F\mathbf{}}_{}}$ X ${\$을 정의한다.

${\displaystyle F_{{i}\mathbf {X}=\lim _{n\to \inflt }{n1}}\sum _{i=1}^{n(X_{i}\leq x)}$

(이는 지표함수의 세사로 한계다. 세사로 한계가 존재하지 않는 경우, 이 함수는 실제로 지표 함수의 바나흐 한계로 정의될 수 있으며, 이는 이 한계의 연장이다. 이 후자의 한계는 항상 지표 함수의 합계에 대해 존재하므로 경험적 분포가 항상 잘 정의된다.) 즉, 시퀀스에 포함된 임의 변수의 벡터에 대해 다음과 같은 방법으로 주어진 공동 분포 함수를 갖는다.

${\displaystyle \Pr(X_{1}\leq x_{1},X_{2}\leq x_{2},\ldots ,X_{n}\leq x_{n})=\int \prod _{i=1}^{n}F_{\mathbf {X} }(x_{i})\,dP(F_{\mathbf {X} }).}$

분포 함수 $F{\displaystyle {}_{}}$ ${\displaystyle {X\mathbf{}}_{}}$ ${\$이(가) 다른 매개 변수 $\theta {\displaystyle }$ ${\displaystyle \teta }$에 의해 인덱싱되는 경우$$(적절한 밀도를 사용하여) 다음을$$ 수행하십시오.

${\displaystyle p_{X_{1},\ldots,X_{n}}(x_{1},\ldots,x_{n})=\int \pd_{i=1}^{n_{X_{i}}}}}(x_{i}\mid \ta)\,dP(\ta).}$

이러한 방정식은 기초적인 제한 경험적 분포(또는 이 분포를 지수화하는 매개변수)에 기초한 혼합물 분포로 특징지어지는 관절 분포 또는 밀도를 보여준다.

모든 유한 교환 가능한 시퀀스가 i.i.d의 혼합물은 아니라는 점에 유의하십시오. 이를 확인하려면 요소가 남지 않을 때까지 유한 집합에서 교체하지 않고 샘플링을 고려하십시오. 결과 순서는 교환할 수 있지만 I.I.D의 혼합물은 아니다. 실제로, 시퀀스의 다른 모든 원소들에 조건부, 나머지 원소들은 알려져 있다.

공분산 및 상관 관계

교환 가능한 시퀀스는 기본적인 공분산 및 상관 관계를 가지며, 이는 일반적으로 양적으로 상관관계가 있음을 의미한다. 교환 가능한 랜덤 변수의 무한 시퀀스의 경우 랜덤 변수 간의 공분산은 기본 분포 함수의 평균 분산과 동일하다.^[8] 유한 교환 가능한 시퀀스의 경우 공분산 또한 시퀀스의 특정 랜덤 변수에 의존하지 않는 고정 값이다. 무한의 교환성에 비해 하한선이 약하며 부정적인 상관관계가 존재할 수 있다.

교환 가능한 시퀀스에 대한 공분산(무한): $X{\displaystyle {}_{}}$ ${\displaystyle {1\mathrm{}}_{}}$,${\displaystyle {}_{}{}_{}}$ ${\displaystyle {2\mathrm{}}_{}}$,${\displaystyle {}_{}{}_{}}$ ${\displaystyle {3\mathrm{}}_{}}$… ${\displaystyle X_{1},X_{2},X_{3},\ldots }$ 시퀀스를 교환할 수 있는$$ 경우:

${\displaystyle \operatorname {cov} (X_{i},X_{j})=\operatorname {var} (\operatorname {E} (X_{i}\mid F_{\mathbf {X} }))=\operatorname {var} (\operatorname {E} (X_{i}\mid \theta ))\geq 0\quad {\text{for }}i\neq j.}$

교환 가능한 시퀀스에 대한 공분산(마침표): $X{\displaystyle {}_{}}$ ${\displaystyle {1\mathrm{}}_{}}$,${\displaystyle {}_{}{}_{}}$ ${\displaystyle {2\mathrm{}}_{}}$,${\displaystyle }$…${\displaystyle }$, ${\displaystyle {}_{}}$ ${\displaystyle n_{}}$ ${\$가 }} ${\displaystyle 2_{}}$ = ${\displaystyle {var\mathrm{}}^{}}$ ${\displaystyle \mathrm{var}}$ ( X${\displaystyle }$i${\displaystyle \sigma ^{2}=\operatorname {var}(X_{i})$과 교환할 수 있는 경우$$:

${\displaystyle \operatorname {cov}(X_{i},X_{j})\geq -{\frac {\sigma ^{2}}:{n-1}\quad{\text{}{}i\neq j.}$

유한 시퀀스 결과는 다음과 같이 증명될 수 있다. 그 값들이 교환 가능하다는 사실을 이용하여 우리는 다음과 같이 한다.

${\displaystyle {\begin{aligned}0&\leq \operatorname {var} (X_{1}+\cdots +X_{n})\\&=\operatorname {var} (X_{1})+\cdots +\operatorname {var} (X_{n})+\underbrace {\operatorname {cov} (X_{1},X_{2})+\cdots \quad {}} _{\text{all ordered pairs}}\\&=n\sigma ^{2}+n(n-1)\operatorname {cov} (X_{1},X_{2}).\end{정렬}}}$

그리고 나서 우리는 명시된 하한을 산출하는 공분산의 불평등을 해결할 수 있다. 무한 시퀀스에 대한 공분산의 비부정성은 이 유한 시퀀스 결과로부터 제한 결과로 얻을 수 있다.

유한 시퀀스에 대한 하한 동일성은 단순한 urn 모델에서 달성된다. 항아리는 붉은 대리석 1개와 녹색 대리석 1개를 함유하고 있으며, 항아리가 비어 있을 때까지 교체하지 않고 시료 채취한다. i번째_i 시험에서 빨간색 대리석이 그려진 경우 X = 1을, 그렇지 않은 경우 0을 두십시오. 공분산 하한을 달성하는 유한 시퀀스는 더 긴 교환 가능한 시퀀스로 확장할 수 없다.^[9]

예

• 임의 변수의 iid 시퀀스의 볼록 결합 또는 혼합물 분포는 교환할 수 있다. 반향 명제는 데 피네티의 정리다.^[10]
• 항아리에 빨간 구슬과 파란 구슬이 없다고 가정합시다. 유골함이 비어 있을 때까지 대리석 조각들을 교체하지 않고 그렸다고 가정합시다. X를_i i번째 대리석이 빨갛게 그려진 사건의 지시 랜덤 변수가 되게 하라. 그렇다면 {X_i}_i=1,...n+m은(는) 교환 가능한 순서다. 이 시퀀스는 더 이상 교환 가능한 시퀀스로 확장할 수 없다.
• Let ${\displaystyle (X,Y)}$ have a bivariate normal distribution with parameters ${\displaystyle \mu =0}$, ${\displaystyle \sigma _{x}=\sigma _{y}=1}$ and an arbitrary correlation coefficient ${\displaystyle \rho \in (-1,1)}$. The random variables ${\displaystyle X$$}$ 및$$ $Y{\displaystyle }$ ${\displaystyle Y}$은(는) 교환이 가능하지만 $\rho {\displaystyle }$= ${\displaystyle 0}$ ${\displaystyle \rho =0}$인 경우에만 독립적이다$.$ The density function is ${\displaystyle p(x,y)=p(y,x)\propto \exp \left[-{\frac {1}{2(1-\rho ^{2})}}(x^{2}+y^{2}-2\rho xy)\right].$$}$

적용들

폰 노이만 추출기는 교환성에 따라 달라지는 무작위 추출기로, 0초와 1초(베르누엘리 시험)의 교환 가능한 시퀀스를 취하여 약간의 확률 p와 $q{\displaystyle }$= ${\displaystyle 1}$ -${\displaystyle p}$ ${\displaystyle$ q$=1-p}$의 확률 1/2로 (더 빠른) 교환 가능한 시퀀스를 생산한다.

시퀀스를 겹치지 않는 쌍으로 분할하십시오. 쌍의 두 요소가 같을 경우(00 또는 11), 쌍의 두 요소가 같지 않을 경우(01 또는 10) 첫 번째 요소를 유지하십시오. 이것은 교환성에 의해 주어진 쌍이 01 또는 10일 확률이 같기 때문에$$ $p{\displaystyle }$= ${\displaystyle 1\mathrm{}}$/ ${\displaystyle 2}$, ${\displaystyle p=1/2,}$을(를) 가진 베르누이 실험의 순서를 산출한다.

교환 가능한 무작위 변수는 U 통계 연구, 특히 회프딩 분해에서 발생한다.^[11]

참고 항목

• 다시 샘플링
• 재샘플링(통계) § 순열화 테스트, 그룹 간 교환을 기반으로 한 통계 테스트
• U-통계학적

메모들

참고 문헌 목록

• Aldous, David J, 교환성 및 관련 주제: Eccole d'été de Probabilités de Saint-Flour 13세 - 1983, Stream Note in Math. 1117, 페이지 1–198, Springer, 1985. ISBN 978-3-540-15203-3 도이:10.1007/BFB0099421
• Barlow, R. E. & Irony, T. Z.(1992) "통계 품질 관리의 기초", M. & Pathak, P.K. (eds) 통계적 추론의 쟁점: D를 기리는 에세이 바수, 헤이워드, CA: 수학통계연구소, 99-112
• 버그만, B. (2009) "개념론적 실용주의: 베이시안 분석 프레임워크?", IIE Transactions, 41, 86–93
• Borovskikh, Yu. V. (1996). U-statistics in Banach spaces. Utrecht: VSP. pp. xii+420. ISBN 90-6764-200-2. MR 1419498.
• 초, 위안시와 테이허, 헨리, 확률론. 독립성, 상호교환성, 마팅게일즈, 스프링거 인 통계학, 제3편 스프링거, 뉴욕, 1997. xxii+488 페이지 ISBN 0-387-98228-0
• Diaconis, Persi (2009). "Book review: Probabilistic symmetries and invariance principles (Olav Kallenberg, Springer, New York, 2005)". Bulletin of the American Mathematical Society. New Series. 46 (4): 691–696. doi:10.1090/S0273-0979-09-01262-2. MR 2525743.
• 칼렌베르크, O, 확률론적 대칭 및 침입 원리. 스프링거-베를라크, 뉴욕(2005) 510 페이지 ISBN 0-387-25115-4
• 킹맨, J. F. C. 교환성의 사용, 앤. 확률 6(1978) 83–197 MR494344 JSTOR 2243211
• O'Neill, B. (2009) 교환성, 상관성 및 베이즈 효과. 국제통계검토서 77(2), 페이지 241–250. ISBN 978-3-540-15203-3 도이:10.111/j.1751-5823.28.00059.x
• Taylor, Robert Lee; Daffer, Peter Z.; Patterson, Ronald F. (1985). Limit theorems for sums of exchangeable random variables. Rowman and Allanheld. pp. 1–152. ISBN 9780847674350.
• Skyrms, B. & Harper, W. L. Causation, Chance and Credence, pp155-190, Kluwer에서 "대칭성과 그 불만족"
• "Predicting the unpredictable". Synthese. 90 (2): 205. 1992. doi:10.1007/bf00485351.