번스타인-본 미세스 정리

다음에 대한 시리즈 일부
베이지안 통계
이론
인정결정규칙 베이지안 효율 베이지안 인식론 베이지안 확률 확률해석 베이즈 정리 베이즈 인자 베이시안 추론 베이시안 네트워크 이전 후향 우도 결합전 후방예측 하이퍼 파라미터 하이퍼프리스트 무관심의 원리 최대 엔트로피의 원리 경험적 베이즈 방식 크롬웰의 법칙 번스타인-본 미세스 정리 슈바르츠 기준 신뢰할 수 있는 간격 최대 후미 추정치 급진확률주의
기술
베이지안 선형 회귀 분석 베이시안 추정기 대략적인 베이시안 연산 마르코프 체인 몬테카를로
수학포털
v t

베이지안 추론에서 번스타인-본 미세스 정리는 파라메트릭 모델에서 신뢰도 문장에 베이시안 신뢰할 수 있는 세트를 사용할 수 있는 근거를 제공한다.어떤 조건에서는 무한 데이터의 한계에서 후분포가 n${\displaystyle {}^{}}$- 1 ${\displaystyle {}^{}}$(${\displaystyle {}_{}{}^{}{\theta \mathrm{}}_{}}$ 0 )${\displaystyle {}^{}}$- ${\displaystyle 1^{}}$ ${\$ 여기서$\theta {\displaystyle {}_{}}$ ${\displaystyle {0\mathrm{}}_{}}$ {\$displaystyle \theta _{0}}}}}}$에 의해 주어진 공분산 행렬을 가진 최대우도 추정기를 중심으로 하는 다변수 정규 분포로 수렴한다고 명시하고 있다.$$ 참 모집단 매개변수 $I{\displaystyle (}$ ${\displaystyle {\theta \mathrm{}}_{}}$ 0${\displaystyle {}_{}}$) ${\displaystyle$ I$(\theta _{0})$는 실제 모집단 매개변수 값에 있는 Fisher 정보 행렬이다.^[1]

번스타인-본 미세스 정리는 베이시안 추론과 빈번한 추론을 연결한다.그것은 빈도주의에서와 같이 관찰을 생성하고 그 과정을 복구하는 베이시안 방법의 품질을 연구하며 그 과정에 대한 불확실성 진술을 하는 진정한 확률론적 프로세스가 있다고 가정한다.특히 베이지안 신뢰도 수준 $\alpha {\displaystyle }$ ${\displaystyle \alpha}$은(는) 베이시안 신뢰도 집합의 해석을 허용하는 신뢰도 $\alpha {\displaystyle }$ ${\displaystyle \alpha }$이$($가) 점증적으로 신뢰도 집합일 것이라고$$ 명시하고 있다.

휴리스틱스 성명

In a model ${\displaystyle (P_{\theta }:\theta \in \Theta )}$, under certain regularity conditions (finite-dimensional, well-specified, smooth, existence of tests), if the prior distribution ${\displaystyle \Pi }$ on ${\displaystyle \theta }$ has a density with respect to the Lebesgue measure which is smooth 충분히($약{\displaystyle {}_{}}$ ${\$ 0에서 경계로$$, 재조정된 후방 분포 사이의 총 변동 거리(${\displaystyle \mathrm{중앙}}$을 $맞추고{\displaystyle \sqrt{}}$ n (${\displaystyle -}$ - ${\displaystyle {0\mathrm{}}_{}}$ 0${\displaystyle {}_{}}$) ${\displaystyle${\$sqrt{n})(\theta -\ta$_{$0$ 및 가우스 분포는 효율적인 추정기에 중심이 맞춰졌다.분산이 0에서 확률로 수렴되는 피셔 정보.

번스타인-본 미제스 및 최대우도 추정

최대우도추정기가 효율적인 추정기일 경우, 우리는 이것을 꽂을 수 있고, 우리는 번스타인-본 미세스 정리의 공통적이고 더 구체적인 버전을 복구한다.

시사점

번스타인-본 미세스 정리의 가장 중요한 함축은 베이시안 추론이 자주론자의 관점에서 점증적으로 옳다는 것이다.즉, 대량의 데이터의 경우 자주론적 관점에서 후분포를 사용하여 추정과 불확실성에 대한 유효한 진술을 할 수 있다.

역사

이 정리는 확률공간이 유한한 무작위 변수에 대해 1949년 조셉 L. Dob에 의해 최초의 적절한 증거가 제시되었음에도 불구하고 리차드 폰 미제스와 S. N. 번스타인의 이름을 따서 명명되었다.^[2]후에 Lucien Le Cam, 그의 박사과정 학생 Lorain Schwartz, David A. 프리드먼과 페르시 디아코니스는 보다 일반적인 가정 하에 그 증거를 확대했다.^{[citation needed]}

제한 사항

잘못 지정된 모형의 경우, 후분포도 정확한 평균을 가진 점증적으로 가우스안이 되지만, 반드시 피셔 정보를 분산으로 하는 것은 아니다.이는 베이지안 신뢰성이 높은 수준 $\alpha {\displaystyle }$ ${\displaystyle \alpha}$을(를) 수준 $\alpha {\displaystyle }$ ${\displaystyle \alpha}$의 신뢰 집합으로 해석할 수 없음을$$ 시사한다$.$^[3]

비모수적 통계의 경우 보통 번스타인-본 미제스 정리는 디리클레 과정을 주목할 만한 예외로 유지하지 못한다.

1965년 프리드먼에 의해 주목할 만한 결과가 발견되었는데, 번스타인-본 미세스 정리는 무작위 변수가 무한히 카운트 가능한 확률 공간을 가질 경우 거의 확실히 유지되지 않는다. 그러나 이것은 가능한 매우 광범위한 사전 범위를 허용하는 것에 달려 있다.실제로, 연구에 일반적으로 사용되는 이전 자료들은 무한히 셀 수 있는 확률 공간이 있더라도 바람직한 특성을 가지고 있다.

모드와 평균과 같은 다른 요약 통계량은 후방 분포에서 다르게 작용할 수 있다.프리드먼의 예에서 후밀도와 그 평균은 잘못된 결과에 수렴할 수 있지만 후모드는 일관적이며 정확한 결과에 수렴할 것이다.

인용구

통계학자 A. W. F. 에드워즈는 "베이지안 개념의 방어에서, 중간 정도의 양의 데이터가 있을 때 후방 분포에 전혀 영향을 미치지 않기 때문에, 사전 분포의 선택은 실제로 중요하지 않다고 말하기도 한다"고 말했다.이 '방어'에 대해서는 말을 적게 할수록 좋다고 말했다.^[4]

메모들

참조

• Vaart, A.W. van der (1998). "10.2 Bernstein–von Mises Theorem". Asymptotic Statistics. Cambridge University Press. ISBN 0-521-49603-9.
• Dob, Joseph L. (1949), 마팅게일즈 이론의 적용.콜로크.C.N.R.S (파리) 인턴 13번 페이지 23-27.
• 프리드먼, 데이비드 A. (1963년).Bayes의 점근거동에 대해 이산 사례 1에서 추정한다.수학통계연보, 제34권 1386–1403페이지.
• 프리드먼, 데이비드 A. (1965)Bayes의 점근거동에 대해 이산 사례 II에서 추정한다.수학통계연보, 제36권, 페이지 454–456.
• 르 캄, 루시엔(1986년).통계적 의사결정 이론의 점근법, 스프링거.ISBN 0-387-96307-3(336페이지 및 618–621페이지)
• 로레인 슈워츠(1965)베이지스 시술에 대해.Z. Wahrscheinlichkeitstheori, 4번 페이지 10-26.