경험적 우도

경험적 우도(EL)는 우도 기반 추론에서 일부 장점을 유지하면서 오차 분포에 대한 가정을 적게 요구하는 비모수 방법이다. 추정 방법은 데이터가 독립적이고 동일한 분포(iid)를 필요로 한다. 분포가 비대칭적이거나 관측 중단되었을 때에도 잘 수행된다.^[1] 또한 EL 방법은 매개변수에 대한 제약 조건과 사전 정보를 처리할 수 있다. 아트 오웬은 1988년 논문과 함께 이 지역의 작품을 개척했다.^[2]

추정 절차

EL 추정치는 추정함수와 우도함수의 확률 가중치가 1에 합친다는 사소한 가정에 기초하여 제약의 대상이 되는 경험적 우도함수를 최대화하여 계산한다.^[3] 이 절차는 다음과 같다.

${\displaystyle \max _{\pi _{i}\theta }\sum _{i=1}^{n}\ln \pi _{i}}}$

제약 조건의 적용을 받는다.

$S.T.\sum _{i=1}^{n}\pi _{i}=1,\sum _{i=1}^{n}\pi _{i}h(y_{i};\theta )=0}$^[4]

세타 파라미터의 값은 라그랑지안을 풀어서 찾을 수 있다.

${\displaystyle {\mathcal {L}=\sum _{i=1}^{n}\ln \pi _{i=1}^{n}\mu(1-\sum _{i=1}\pi_{i=1}{n}}}\pi _{i}h(y_{i};{i};};}).$^[4]

이 최대화 문제와 최대 엔트로피를 위해 해결된 문제 사이에는 분명한 유사성이 있다.

경험적 가능성은 또한 이산형 분포에서도 사용될 수 있다.^[5]

${\displaystyle F(x_{i}=\ p_{i}}\i=1, ...,n}$

어디에

${\displaystyle {}_{}\underset{}{\overset{}{p}}}$ ${\displaystyle i_{}}$ ${\displaystyle {}_{}}$ 0${\displaystyle ,}$ ${\displaystyle \underset{}{\overset{}{}}}$ i${\displaystyle \underset{}{\overset{}{}}}$= 1 ${\displaystyle \underset{}{\overset{}{\mathrm{n}}}}$ ${\displaystyle p_{}}$ ${\displaystyle i\underset{}{\overset{}{}}{}_{}}$= ${\displaystyle 1}$ ${\displaystyle \p_{i}\geq 0,\sum _{i=1}^{n}\ p_{i}=1$

그 다음 우도 $L{\displaystyle ({}_{}}$ ${\displaystyle {1\mathrm{}}_{}}$,${\displaystyle {}_{}}$. .${\displaystyle }$. . . . ${\displaystyle {}_{}\underset{}{\overset{}{n}}}$) =${\displaystyle \underset{}{\overset{}{}}}$∏${\displaystyle \underset{}{\overset{}{}}}$i = ${\displaystyle {1n}_{}}$ i ${\$}, $..., p_{n}}=\prod _{i=1}^{n}\{i}}}}}$을(를) 경험 우도라고 한다$$.

경험적 우도비(ELR)

경험적 우도비 함수를 정의하여 모수우도비 신뢰구간과 유사한 관심 신뢰구간 모수를 구하는데 사용한다.^[6][7] L(F)을 함수 $F{\displaystyle }$ ${\displaystyle F}$의 경험적 우도로 간주하면 ELR은 다음과 같을 것이다$.$

${\displaystyle R}$( F${\displaystyle }$)${\displaystyle }$= ${\displaystyle L}$( F${\displaystyle }$)${\displaystyle }$/ ${\displaystyle L}$( ${\displaystyle F_{}}$ ${\displaystyle {}_{}}$) ${\displaystyle R(F)=L(F)/L(F_{n})}$.

양식 집합 고려

${\displaystyle C}$=${\displaystyle }${ ${\displaystyle T}$( ${\displaystyle F}$) ${\displaystyle R}$( F${\displaystyle }$) ${\displaystyle R}$ ( ) ${\displaystyle \ge }$ ${\displaystyle r}$ ${\displaystyle \}}$ ${\displaystyle C=\{T(F) R(F)\geq$ r$\backslash \}\}.$

Under such conditions a test of ${\displaystyle T(F)=t}$ rejects when t does not belong to ${\displaystyle C}$, that is, when no distribution F with ${\displaystyle T(F)=t}$ has likelihood ${\displaystyle L(F)\geq rL(F_{n})}$.

중심 결과는 X의 평균에 대한 것이다. $F{\displaystyle }$ ${\displaystyle$ $F$$}$에 대한 일부 제한이 필요하거나${\displaystyle ,}$ ${\displaystyle {\mathbb{}}^{}}$ 않으면 < 1 < ${\displaystyle$ $C=\mathb${$R}$ $^p$}{p$}}}}$이(가$)$ 필요할 것이다 이를 보려면 다음을 수행하십시오.

${\displaystyle F=\epsilon \delta _{x}+(1-\epsilon )F_{n}}$

$ϵ{\displaystyle }$ ${\displaystyle \epsilon }$이(가) 충분히 작고 ϵ> ${\displaystyle \epsilon >0$이면 ${\displaystyle R}$(${\displaystyle F}$ ${\displaystyle )}$ ${\displaystyle \ge }$ r ${\displaystyle$ R$(F)\geq$ r$\}$ .

그러나 그 다음, $x{\displaystyle }$ ${\displaystyle x}$이(가) ${\displaystyle {}^{}}$ p ${\$^{$p}$을(를$)$ 통과하므로, $F{\displaystyle }$ ${\displaystyle F}$의 평균도 마찬가지$,$ C${\displaystyle }$= R ${\displaystyle {}^{}}${\$displaystystyle C=\mathb {R} ^{p}$ ^{p}}}}}}}}}}}}}}}}}}}}}}을(가 추적한다$.$ 문제는 경계 집합에서 지원되는 F 분포로 제한함으로써 해결할 수 있다. 표본의 지원을 받아 주의 t 분포를 분산 $F{\displaystyle }$ ${\displaystyle \ll }$ F ${\displaystyle n_{}}$ ${\$로 제한할 수 있는 것으로 나타났다$.$ 통계학자가 $F{\displaystyle }${\$displaystyle F$에 대한 한정된 지원을 지정하지 않을 수 있고, $t{\displaystyle }${\$displaystyt}$ 볼록이$$ 있기 때문에 이러한 방법이 편리하다.$C{\displaystyle }$ ${\displaystyle$ C$}$을(를) 유한 치수 문제로$$ 구성한다.

기타 응용 프로그램

경험적 우도의 사용은 신뢰 구간에만 국한되지 않는다. 계량형 추정에서, EL 기반^[8] 분류 절차는 수준 p에서 실제 이산형 분포의 모양을 결정하는 데 도움이 되며, 또한 일관된 추정기를 형성하는 방법을 제공한다. 또한 EL은 모델 선택 기준을 형성하는 파라메트릭 가능성 대신 사용될 수 있다.^[9]

참고 항목

• 부트스트래핑(통계)
• 잭나이프(통계)

참조