우도 함수

우도 함수(흔히 우도라고 함)는 관측 데이터의 결합 확률을 선택한 통계 ^[1]모형의 모수의 함수로 나타냅니다.따라서 파라메타 공간의 각 특정 파라메타 값$\delta {\displaystyle }$(\${\displaystyle displaystyle}$ $\theta)$에 대해 우도 $함수{\displaystyle }$p$displaystyle$ p$(X\theta))$는 관측 $데이터{\displaystyle }$ X$(\displaystyle$ X$)$에 확률적 예측을 할당한다. 이는 본질적으로 샘플링 밀도의 곱이므로 일반적으로 다음과 같이 된다.는 데이터 생성 프로세스와 관찰된 샘플을 생성한 결측 데이터 메커니즘을 모두 시뮬레이션합니다.

그 parameters,[를]이 될 가능성은 함수( 아닌 확률 밀도 함수지만)로 지정되는 동안 샘플이 추출되를 강조하기 위해, 그것은 종종 나는({\displaystyle{{나는\mathcal}}(\theta\mid X)}는 개연성의 원리에 따르면 쓴 것이다, 모든 정보가 샘플에 대해 θ{\dis을 제공한다.pla$ystyle \theta }$은(는) 우도 ^[2]함수로 표현됩니다.최대우도 추정에서 주어진 샘플을 관찰할 확률을 최대화하는 값, $즉{\displaystyle \stackrel{}{}}$ ${\displaystyle \stackrel{}{^}}$ $=$ ${\displaystyle {\mathrm{argmax}}_{}}$ ${\displaystyle L\mathcal{}}$ (${\displaystyle x}$X$$) { $displaystyle$\$hat${$hat$ } = \$operatorname$ { } _ { \$theta$\ $Theta$} { \ $math cal }$ ( \ $theta$} )h 샘플이 추출되었다.한편 베이지안 통계에서 우도 함수는 샘플 정보가 Bayes 규칙을 ^[3]통해 파라미터의 후방 확률인 p$displaystyle$ p$(\theta \mid$ X$)\}$에 $영향$을 미치는 도관 역할을 한다.

정의.

우도 함수는 일반적으로 이산형 및 연속형 확률 분포에 대해 다르게 정의됩니다.아래 설명과 같이 일반적인 정의도 가능합니다.

이산 확률 분포

X$(\displaystyle$ X$)$를 파라미터 $(\displaystyle \theta$에 따라 $확률질량함수{\displaystyle }$p(\$displaystyle$ p$)$를 갖는 이산 랜덤 변수라고 $합니다{\displaystyle }$.그 다음 함수

${\displaystyle {L}}(세타 \mid x)=p_{\theta }(x)=P_{\theta }(X=x),}$

${\$ { $display$$$style \ $theta$ $\}$의 함수로 간주되는 것은 랜덤 $변수{\displaystyle }$X $\{$ $display$ $style$ X}의 결과 x$${ $style$x}의$$ 우도 함수입니다. 파라미터 값 ${\$ { $display$style \ $theta$의 "$X{\displaystyle }${ $display$ $style$ X$}$의 값$$x { displaystyle$$x}의$$ 확률은 다음과 같습니다.P(X = x )) 또는 P(X = x; θ)로 표기합니다.파라미터의 참값이 $"\displaystyle$ \$theta$일 때 특정 $결과{\displaystyle }$x\$displaystyle$x$$"가 관찰될 확률과 같습니다$.$은 파라미터 "\$displaystyle$ $\theta$에 대한 확률 밀도가 $아닙니다.$kelihood${\displaystyle ,}$ $L{\displaystyle \mathcal{}}$ ( $x$ )$($ \ displaystyle { L$$} ( \ $seta$ \ $mid$x )는$$p${\displaystyle }$( ${\displaystyle \theta }$x )${\displaystyle }$x$$) ( \ $displaystyle$ p ( \ $theta$ \$mid$x ) $)$와 혼동하지 마십시오.이는 데이터 $x{\displaystyle }$ ${\$ $style$$$x$\}$의$후방{\displaystyle }$ 확률입니다.

사건(데이터 없음)이 없을 경우 확률은 ^{[citation needed]}1이며, 따라서 사소하지 않은 사건도 확률이 낮습니다.

예

코인 플립의 단순한 통계 모델을 고려합니다. 단일 $파라미터{\displaystyle {}_{}}$ p ${\displaystyle H_{}}${\$displaystyle p_{\text{$$동전$의 공정함을 나타내는 H$$$}}.$파라미터는 동전을 던졌을 때 앞면이 나올 확률("H")입니다.p ${\displaystyle H_{}}$ ${\$H$}}}$은(는) 0.0~1.0 범위의 모든 값을 사용할 수 있습니다.공정한 코인의 $경우{\displaystyle {}_{}}$ p ${\displaystyle H_{}}$ ${\displaystyle {}_{}}$ 0.${\displaystyle 5}$ {$displaystyle p_{$ \ $text$}$H}}=0.$5$\}$

공정한 동전을 두 번 던지고 다음 데이터를 관찰한다고 상상해 보십시오. 두 번의 토스("HH")에 두 번의 헤드가 들어갑니다.연속되는 동전 던지기마다 아이디라고 가정하면 HH를 관찰할 확률은

$\style P(\text{\displaystyle P})HH}}\mid p_{\text{H}}=0.5)=0.5^{2}=0.25.}$

따라서 관측된 데이터 HH를 고려할 때 모델 매개변수$p{\displaystyle {}_{}}$ ${\displaystyle H_{}}$ {\$displaystyle p_{\text}$가$H}}$는 0.5는 0.25입니다.수학적으로, 이것은 다음과 같이 쓰여진다.

${\displaystyle {L}}(p_{\text})H}}=0.5\mid{텍스트}HH})= 0.25.}$

${\displaystyle {이것}_{}}$은 p H ${\displaystyle {}_{}0}$.5$${\$displaystyle$p_{\text{\$text}$의 확률과 같지 않습니다.$H}}=0.$5$\}$은, 관측치 HH가 주어졌을 때, 0.25이다. (이를 위해, 우리는 Bayes의 정리를 적용할 수 있는데, 이것은 후방 확률이 이전 확률의 우도에 비례한다는 것을 의미한다.)

동전이 공정한 동전이 아니라 p ${\displaystyle H_{}}$ ${\displaystyle {}_{}0}$.3$(\displaystyle p_{\text{\$text})이라고 가정합니다.$H}}=0.$3$.$ 그러면 두 개의 헤드가 나올 확률은

$\style P(\text{\displaystyle P})HH}}\mid p_{\text{H}}=0.3)=0.3^{2}=0.09.}$

이런 이유로

${\displaystyle {L}}(p_{\text})H}}=0.3\mid{텍스트}HH})= 0.09.}$

일반적으로 ${\displaystyle p_{}}H$의 각 값에 대해 $p_${\$displaystyle p_{\$text{$H$ 그에 상응하는 우도를 계산할 수 있습니다.이러한 계산 결과는 그림 1에 나와 있습니다.

그림 1에서 [0, 1] 간격에 대한 우도의 적분은 1/3입니다.이는 확률의 중요한 측면을 보여줍니다. 확률과는 달리 가능성은 1로 통합(또는 합산)할 필요가 없습니다.

연속 확률 분포

X$({$$displaystyle$$$X})를$$ 절대 연속 확률 분포에 따른 랜덤 변수로 $합니다{\displaystyle }$. 밀도 $함수{\displaystyle }$ f$($x$({displaystyle$ x$\}$의 함수)는 파라미터$\theta {\displaystyle }$({$displaystyle \theta$에 의존합니다.그 다음 함수

${{displaystyle {L}}(세타 \mid x)=f_{\theta }(x),}$

${\$ { $display$style \$theta$의 함수로 간주됩니다(X$${ $displaystyle$ X$}$의 결과$$x { $displaystyle$ x$}$의 경우 $the${ displaystyle $\theta$}의 우도 함수).파라미터 $값{\displaystyle }$ $「{displaystyle$\$theta}」$의$$「$X$의 $값{\displaystyle }$$$x(\$displaystyle$ x$)」$의 농도 함수는${\displaystyle ,}$ f$(x ∣ ))$라고 하는 경우가 있습니다$.$우도함수 $L{\displaystyle \mathcal{}}$( $display$x $){$ $displaystyle$$${ $L$} ( $theta$\$mid$x $)$는 f${\displaystyle }$($$ x ){ $displaystyle f$( \ $theta$\$$mid x )와 혼동해서는 안 됩니다.이것은, 관측 결과의 $확률{\displaystyle }$ 밀도 x(\$displaystyle$ $)$와 같습니다$.$eta $\},$ 즉 $결과{\displaystyle }$ x$(\displaystyle$ x$)$에 대한 확률 밀도와 같습니다.즉, 우도 함수는 파라미터 ${\(\displaystyle \theta$$$$\})$에 대한 밀도가 아닙니다.간단히 L$($ x$$)\$displaystyle$ {L}(\$mathcal${L$})(ta$ \mid x$)$은 가설 테스트(변화 가능성 찾기)입니다.f${\displaystyle (}$ ${\displaystyle \theta }$x ${\displaystyle x}$ $)$ x ) {$displaystyle f(\theta$ \mid x$)}$로 정의된 일련의 파라미터가 주어진 메시는 추론(특정 결과가 주어진 가능한 파라미터를 찾는 것)이다.

일반적으로

측정이론 확률 이론에서 밀도 함수는 공통 지배 측정에 ^[4]상대적인 확률 분포의 라돈-니코딤 도함수로 정의된다.우도 함수는 가능한 ^[5]결과가 아니라 모수의 함수(아마도 벡터)로 해석되는 밀도입니다.이 값은 이산형, 절대 연속형, 혼합물 등 모든 분포를 포함하는 모든 통계 모형에 우도 함수를 제공합니다.(예를 들어, 동일한 지배적 측정과 관련하여 라돈-니코딤 유도체인 경우에만 매개변수 추정에 대해 유사할 것이다.)

이산 확률에 대한 위의 우도에 대한 논의는 계수 측도를 사용하는 특수한 경우로, 모든 결과의 확률 밀도를 단일 결과의 확률과 동일하게 한다.

모수화된 모형의 우도 함수

많은 응용 프로그램 중에서 여기서는 이론적으로나 실질적으로 중요한 것이 하나라고 생각합니다.모수화된 확률 밀도 함수 패밀리(또는 이산 분포의 경우 확률 질량 함수)가 주어집니다.

$(\displaystyle x\mapsto f(x\mid \theta),\!)$

$여기$서 ${\$ { $displaystyle \theta }$는 파라미터이며 우도함수는 다음과 같습니다.

$\displaystyle \theta \mapsto f(x\mid \theta ),\!}$

쓰인

$(\displaystyle {L}}(\theta \mid x)=f(x\mid \theta ),\!}$

$여기$서 x$(\displaystyle$ x$)$는 실험의 관측 결과입니다.즉, f${\displaystyle (x}$ ${\displaystyle \mid }$ $)({displaystyle$ f$(x\mid \theta)}$가$고정$된 x$(\displaystyle$ x$)$의 함수로 볼 $때{\displaystyle }$ 확률밀도 함수이며$,$ x(\$displaystyle$$$x$)$가 고정된$${$displaystyle$ \$theta}$의 함수로 볼 때 가능성이 높은 함수이다.

이는 관측된 표본이 주어진 경우 이러한 모수가 올바른 모수일 확률과 다릅니다.관측된 증거가 주어진 가설의 가능성을 가설의 확률로 해석하는 것은 일반적인 오류이며, 잠재적으로 치명적인 결과를 초래할 수 있습니다.이에 대한 예는 검사의 오류를 참고하세요.

기하학적 관점에서 f$∣)$ {$displaystyle$ f$(x\mid \theta)}$를 $두{\displaystyle }$ 변수의 함수로 간주하면 확률 분포의 패밀리는 $(\displaystyle$ x$)$ 축에$$ 평행한 곡선의 패밀리로 볼 수 있으며, 우도 함수 패밀리는 $\{$ {}에 평행한 직교 곡선이다.\$displaystyle \theta }$ - 축$$$.$

지속적인 배포 가능성

위의 우도 함수를 지정할 때 확률 밀도를 사용하는 것은 다음과 같이 정당화됩니다.}관찰)j{\displaystyle x_{j}을 감안할 때, h의 간격[)j,)j+h]{\displaystyle[x_{j},x_{j}+h]},;0{\displaystyle h>0}일정한, L({\displaystyle{{나는\mathcal}}(\theta \mid x\in[x_{j},x_{j}+h])}에 의해서 주어진다의 가능성도 커진다. Obser그것을 이해하다

$x$$=\operatorname {timemax}$ _{\$theta$}{\$frac {1$}{h$}}{\mathcal$ {$L}}(\theta$ \$mid x\in$ [$x_{j},x_{j}+$h$])\}\},$

$h$는 긍정적이고$$일정하기$$ 때문입니다.왜냐면

$({displaystyle \operatorname {argmax}_{\theta}{\frac {1}{h}}{\mathcal {L}}(\theta \mid x\in [x_{j},x_{j}+h])=\operatorname {timemax} _{\theta }{\frac {1}{h}}\Pr(x_{j}\leq x_{j}+h\mid \theta}=\operatorname {th}_{\theta}_int_x_j^{x}}}}}$

$여기$서${\displaystyle }$f ( ${\displaystyle x}$ ${\displaystyle \mid }$) $){$ $display$ f$(x\mid \theta$)는$$ 확률밀도함수이며, 다음과 같습니다.

$displaystyle$$=\operatorname {timemax}_${\$theta}{\frac {1}{h}}\int$ _${x_{j}+h}f(x\mid$\theta $),param$

미적분의 첫 번째 기본정리는 다음을 제공한다.

${{displaystyle {argined}&\lim _{h\to 0^{+}}\int _{x_{j}+h}f(x\mid \theta ), parg=f(x_{j}\mid \theta)\end { aligned}}$

그리고나서

${\displaystyle {begin{aligned}&\operatorname {argmax}_{\theta}{\mathcal {L}}(\theta \mid x_{j})=\operatorname {timemax} _{\theta }\left[\lim _{h\to 0^{+}}{\mathcal {L}}(\theta \mid x\in [x_{j}+h])\right]\\[4pt]={}&\operatorname {paramax}_{\theta}\left[\lim _ {h\to 0^{+}}{h}\int _{x_{j}+h}f(x\mid \theta}, parames\right}_max {p}_f}_f}\operatorname {p}_ta}_max}_f}_max}_ta}_ta {\ta}_h}_h}\operatorname {\ta}_max}\end { aligned}}$

그러므로,

${\displaystyle \operatorname {argmax}_{\theta}{\mathcal {L}}(\theta \mid x_{j})=\operatorname {timemax} _{\theta }f(x_{j}\mid \theta),\!}$

${\displaystyle {따라서}_{}}$ x j$({$에서 확률 밀도를 최대화하는 것은 특정 $관찰{\displaystyle {}_{}}$ ${\displaystyle x_{}}$ j$({$의 가능성을 최대화하는 것이다.

혼합 연속-이산 분포의 가능성

상기의 내용은 이산 컴포넌트와 연속 컴포넌트를 모두 포함하는 분포를 고려할 수 있도록 간단한 방법으로 확장할 수 있습니다.분포가 다수의 ${\displaystyle {이산확률질량}_{}}$ ${\displaystyle {}_{}}$ k ${\$ \ $displaystyle$ p$_$ { $k$} \ $theta$$$ $a{\displaystyle }$ a ${\displaystyle (}$f ( x$$\ $mid$\ $theta$)로 구성되어 있다고 가정합니다.여기서 $모든{\displaystyle }$p { $displaystyle$ $p$$\}$의 합계는 항상 f$${ $displaystyle$ f$}$의 적분에1이 됩니다.이산확률질량 중 하나에 대응하는 관측치와 밀도성분에 대응하는 관측치를 구별할 수 있다고 가정하면 연속성분으로부터의 관측우도함수는 위와 같이 취급할 수 있다.이산 성분의 관측치의 경우 이산 성분의 관측치에 대한 우도 함수는 다음과 같습니다.

$({displaystyle {L}}(세타 \mid x)=p_{k}(세타),\!})$

$여기$서 k$${\$displaystyle$ k$}$는 $관측치{\displaystyle }$x {\$displaystyle$x$\}$에 해당하는 이산 확률 질량의 지수이다. 왜냐하면 x$${\$displaystyle$x}에서 확률 질량(또는 확률)을 최대화하는 것은 특정 관측치의 가능성을 최대화하는 것과 같기 때문이다.

우도 함수가 비례하지 않는 기여(밀도와 확률 질량)를 포함하는 방식으로 정의될 수 있다는 사실은 우도 함수가 비례 상수까지 정의되는 방식에서 발생하며, 여기서 이 "정수"는 $관찰{\displaystyle }$ x$${\$display style$x$\}$에 따라 변할 수 있지만 위트는 아니다.h 파라미터 $"\displaystyle$ \$theta$ 입니다.

규칙성 조건

모수 추정의 맥락에서 우도 함수는 일반적으로 규칙성 조건으로 알려진 특정 조건을 따르는 것으로 가정한다.이러한 조건은 우도 함수와 관련된 다양한 증명에서 가정되며, 각 특정 애플리케이션에서 검증되어야 한다.최대우도 추정의 경우 우도 함수의 전역 최대값이 존재하는 것이 가장 중요합니다.극단값 정리에 따르면 최대우도 추정기가 ^[6]존재하는 콤팩트 파라미터 공간상에서 우도함수가 연속하는 것으로 충분하다.연속성 가정은 보통 충족되지만, 실제 매개변수 값의 경계를 알 수 없기 때문에 매개변수 공간에 대한 압축성 가정은 종종 충족되지 않습니다.이 경우 우도 함수의 오목함이 중요한 역할을 합니다.

좀 더 구체적으로, 우도 함수가 두 배 연속적으로 미분 가능한 경우k -차원 파라미터 공간$$$\theta {\displaystyle \stackrel{}{}}$ { $display$ style$$$}$ \ $Theta$ $}$ 은$$ R${\displaystyle {}^{}{}^{}}$, \ displaystyle , \$mathbb${ R }$^$ { ${\displaystyle \mathrm{k}}$ } \ , , , , , , , , , , , , , , , , , , , , , , , , \ display$$ style ${ theta }$ 의$$ ${\displaystyle 열린{\mathbb{}}^{}}$ 서브셋으로 간주됩니다(부분행렬의 경우$).$

${\displaystyle H}$( ${\displaystyle )}$ )${\displaystyle {}_{}^{}}$∂${\displaystyle {\frac{{\mathrm{}}^{}}{}}_{}^{}}$[ ${\displaystyle {\frac{{}^{}}{}}_{}^{}}$ 2 L ${\displaystyle {\frac{\partial \mathrm{}{\theta i}_{}}{}}_{}^{}}$ ${\displaystyle {\frac{\partial {}_{}\mathrm{}}{}}_{}^{}}$ ,${\displaystyle {\frac{i_{}{}_{}}{}}_{}^{}}$]${\displaystyle i_{}^{}}$, j ${\displaystyle {=1}_{}^{}}$, 1 ${\displaystyle {{ni}_{}}_{}^{}}$, ${\displaystyle {{n\mathrm{}}_{}}_{}^{}{{}_{}}_{}^{}}$j \ $displaystyle$\$mathbf${ $H$} ( \ $theta$) \ $equiv \$ left [ , { \ $frac ^$ {$2}$ L } { , \ , \ , \ $partial$\$theta$_ $ta _$ta { $i$, \ $ta$_ ta _ ta }$style \,\theta \in \Theta$\,{\style $\;\sqla$\$equiv$ \left$[,\frac${{$i}},\right \theta$ _{i},\theta _{i$},\rmath1}_{n$^{\n},\n}의$$ 구배율${\displaystyle \mathrm{}l}$ style style style[ L$$] $]$ ${\displaystyle {\mathrm{i}}_{}^{}}$ $=1$]

그리고 만약

$\displaystyle \lim _{\theta \to \theta }L(\theta)=0\;,}$

즉, 우도 함수는 매개변수 공간의 ${\displaystyle \mathrm{경계}}$인${\displaystyle }$δ, \$displaystyle \;\partial$ \Theta $\;,$δ$\$ \,\Theta $\,}$에 접근하며, ${\displaystyle \delta \mathrm{}}$\displaystyle $\,\Theta$ \,}가$$ 무한대의 점을 포함할 수 있다.Mékelaeinen 등은 비공식적으로 산길 ^[7]특성에 호소하면서 모르스 이론을 사용하여 이 결과를 증명한다.Mascarenhas는 산악 패스 ^[8]정리를 사용하여 그들의 증거를 다시 진술한다.

최대우도추정기의 일관성과 점근정규성의 증명에서 특정우도함수의 기초를 형성하는 확률밀도에 관한 추가 가정이 이루어진다.이 조건들은 ^[9]Chanda에 의해 처음 확립되었다.특히$,$ 거의 $모든{\displaystyle }$ x\$style$x$\backslash ,$ 및 모든 ${\displaystyle \theta }$ , $,$ \$theta \in \Theta \,$에 대해

$\displaystyle \frac \theta _{r},\display\frac \theta _{r},\display\frac \theta _{r},\display\frac \ta _{r},\display\frac \frac \ta _{r},\display\ta _ta _{f},\ta _r},\ta _ta _r},\ta _r},\ta _ta _{\ta _ta _r}, {\ta$

모든 ${\displaystyle r,}$ ${\displaystyle s,}$ ${\displaystyle t}$ ${\displaystyle =1}$,${\displaystyle 2}$,${\displaystyle \dots ,}$ {$displaystyle \,r,s,t=1,2,\ldots,k,}$에 대해 Taylor 확장이 존재하는지 확인합니다.둘째, 거의 $모든{\displaystyle }$ x$(\displaystyle$ x$)$ 및$$ 모든 $(\$에 대해 다음과 같이 해야 합니다.

$\displaystyle \frac \frac \theta _{r}\right <F_{r}(x),\quad \left \frac \partial \theta _{r},\partial \theta _{s}\frad$

$여기$서$$H(\$displaystyle$ H$)$는 "- s ( ) M < 。\$displaystyle$ \ $,\int$ _ ${-\infty$ }^{\infty$}H_{rst}(z)\mathrm$ {$d}$z\$leQM<\$infty;\$infty.$ 도함수의 이러한 경계성은 적분 부호에서 미분을 허용하기 위해 필요하다.마지막으로, 정보 매트릭스는

${\displaystyle \mathbf {I}(\theta)=\int _{-\infty }^{\infty}{\frac \log f}{\frac \log f}{r}\frac \theta _{s}}\f\mathrm {d}z}$

${\displaystyle I}$( ${\displaystyle )}$) \ $display$ style $\ mathbf${ $I }$ ( \ $theta$) \ $right }$ 은$$ 유한합니다.이렇게 하면 점수가 유한하게 ^[10]분산됩니다.

상기 조건은 충분하지만 필수는 아닙니다.즉, 이러한 규칙성 조건을 충족하지 않는 모형은 위에서 언급한 속성의 최대우도 추정기를 가질 수도 있고 그렇지 않을 수도 있습니다.또한 독립적으로 또는 동일하지 않게 분포된 관측치의 경우 추가 특성을 가정해야 할 수 있다.

베이지안 통계에서, 거의 동일한 규칙성 조건이 우도 함수에 부과되어 ^[11][12]후방 확률의 점근적 정규성을 증명하고, 따라서 큰 ^[13]표본에서 후방 라플라스 근사치를 정당화한다.

우도비 및 상대우도

우도비

우도비는 지정된 두 우도의 비율로, 종종 다음과 같이 쓰여집니다.

$(\displaystyle \Lambda (\theta _ {1} \mid x) = frac {\mathcal {L} （\theta _ {1} \mid x} } {\mathcal {L} } }$

우도비는 우도 통계량의 중심입니다. 즉, (증거로 간주되는) 데이터가 하나의 모수 값을 지원하는 정도와 다른 모수 값을 지원하는 정도는 우도비로 측정됩니다.

빈도론적인 추론에서 우도비는 검정 통계량, 이른바 우도 비율 검정의 기초가 됩니다.Neyman-Pearson 보조개념에 따르면, 이것은 주어진 유의성 수준에서 두 개의 단순한 가설을 비교하는 가장 강력한 검정이다.다른 수많은 테스트는 우도비 테스트 또는 그 ^[14]근사치로 볼 수 있다.검정 통계량으로 간주되는 로그 우도비의 점근 분포는 Wilks의 정리에 의해 주어집니다.

우도비는 베이지안 추론에서도 중요한데, 베이지안 추론에서는 베이지안 인수로 알려져 있으며 베이지안 규칙에 사용된다.확률의 측면에서 보면, B(디스플레이 $스타일$ B$)$에서 A$$$1$과 A$$($디스플레이 스타일$ $A_$${2$라는 두 가지 대안의 후방 확률은 우선 확률에 확률비를 곱한 것이라고 Bayes의 규칙은 명시되어 있다.방정식으로서:

${\displaystyle O(A_{1}}:A_{2}\mid B)=O(A_{1}:A_{2}\cdot \Lambda (A_{1}:A_{2}\mid B)}$

우도비는 AIC 기반 통계량에서 직접 사용되지 않습니다.대신 모형의 상대적 우도(아래 참조)가 사용됩니다.

상대우도함수

우도 함수의 실제 값은 표본에 따라 달라지므로 표준화된 측도를 사용하는 것이 편리할 수 있습니다.파라미터의 최대우도 추정치가 $^\$라고 가정합니다.다른 값의 상대적인 신뢰성은 $^\$의 가능성과 비교함으로써 확인할 수 있습니다.θ의 상대 우도는 다음과^{[15][16][17][18][19]} 같이 정의된다.

${\displaystyle R(\theta)=mathcal {L}(\theta \mid x)}{{\mathcal {L}}({\hat {\theta }}}\mid x}}}}}.}$

따라서 상대 우도는 $고정분모{\displaystyle \mathcal{}}$ L${\displaystyle (}$ ${\displaystyle ^}$ $)(\displaystyle {L})({\hat {theta$을 가진 우도비(위에서 설명)입니다.이는 최대 1을 가질 가능성을 표준화하는 것에 해당합니다.

우도 영역

우도 영역은 상대우도가 소정의 임계값 이상인 모든 θ 값의 집합입니다.퍼센티지의 관점에서 δ에 대한 p% 우도 영역은 다음과^[15][17][20] 같이 정의된다.

$(\displaystyle\left\theta:R(\theta)\geq {frac {p}{100}\right}).}$

θ가 단일 실제 파라미터일 경우 p% 우도 영역은 일반적으로 실제 값의 간격을 구성합니다.영역이 구간을 구성하는 경우 우도 ^[15][17][21]구간이라고 합니다.

우도 구간 및 보다 일반적으로 우도 영역은 우도 통계의 구간 추정에 사용됩니다. 빈도 통계의 신뢰 구간과 베이지안 통계의 신뢰 구간과 유사합니다.우도 구간은 포함 확률(자주파) 또는 사후 확률(베이지안파)이 아니라 상대 우도 측면에서 직접 해석됩니다.

모형이 지정된 경우 우도 구간을 신뢰 구간과 비교할 수 있습니다.θ가 단일 실제 파라미터일 경우 특정 조건 하에서 θ에 대한 14.65% 우도 구간(약 1:7 우도)은 95% 신뢰 구간(19/20 커버리지 확률)^[15][20]과 동일합니다.로그 우도 사용에 적합한 약간 다른 공식(Wilks의 정리 참조)에서 검정 통계량은 로그 우도의 두 배이며 검정 통계량의 확률 분포는 두 모델 간의 자유도(df) 차이와 동일한 카이 제곱 분포이다.e, e우도⁻² 구간은 0.954 신뢰 구간과 동일하며 df의 차이를 1)^[20][21]로 가정합니다.

불필요한 매개 변수를 제거하는 가능성

많은 경우, 가능성은 둘 이상의 매개변수의 함수이지만, 관심은 오직 하나 또는 많아야 몇 개의 매개변수의 추정에 집중되며, 나머지는 방해 매개변수로 간주된다.그러한 불필요한 매개변수를 제거하기 위해 몇 가지 대안적 접근법이 개발되었으며, 따라서 우도는 관심 매개변수(또는 매개변수)의 함수로 작성될 수 있다. 주요 접근법은 프로파일, 조건부 및 한계 ^[22][23]우도이다.이러한 접근법은 고차원 우도 표면을 그래프를 허용하기 위해 관심 있는 한 두 개의 매개 변수로 줄여야 하는 경우에도 유용합니다.

프로파일 우도

불필요한 파라미터를 관심 파라미터의 함수로 표현하고 그것을 ^[24][25]우도함수로 대체함으로써 파라미터의 서브셋에 대한 우도함수를 집중시킴으로써 치수를 줄일 수 있다.일반적으로 $파라미터{\displaystyle }$ $벡터{\displaystyle }$ ${\displaystyle \{\backslash ({\mathrm{}}_{}}$ 1${\displaystyle {}_{}}$: ${\displaystyle {}_{}}$2$)$로 분할할 수 있는 우도함수 \$displaystyle$$\mathbf {theta$}$=$$\$$left(\mathbf {theta$}$_{1}$ :\$mathbf {ta$} $_{2$ )에$$ 따라 달라집니다.${\displaystyle {}_{}({\mathrm{}}_{}}$ 1)$({$hat$\theta }_{2}=\mathbf(\theta }_{2}\left(\mathbf\theta }_{1}\right)$는 명시적으로 결정할 수 있으며, 집중은 원래의 최대화 ^[26]문제의 계산 부담을 줄여줍니다.

예를 들어, 정규 분포 오차를 갖는 선형 회귀, $y{\displaystyle \mathbf{}}$ $=$ ${\displaystyle X}$ +$$u {\$displaystyle$ \$mathbf${y} =\$mathbf${X$}$$$\display $+u$에서 계수 벡터는 ${\displaystyle \beta {}_{}}$ $=$ [ ${\displaystyle {\beta \mathrm{}}_{}{}_{}}$1 : ${\displaystyle {}_{}}$] \$displaystyle$ \$display$style$=\{1}$ : \$displaybf {\u$} 설계로 분할할 수 있습니다$.$${\displaystyle :}$ ${\displaystyle {\mathbf{}}_{}}$ ${\displaystyle {\mathrm{}}_{}}$](\$displaystyle \mathbf {X} =\left$[\$mathbf {X} _{1$} $:\mathbf {X} _{2}$ \$right]$ $$） 。$2$에 $대해{\displaystyle {}_{}}$ 최대화하면$(\$$displaystyle$ \$displaystyle$ \$displaystyle$ _${1}=\left(\mathbf {X}_{2$})$$mathbf {X${\displaystyle {}_{}}$_1$)$ - $x2$ T) =(\mathbf {X$$}) {\f$}s$}s} =(\$mathb$})의 최적값 $함수{\displaystyle {}_{}}$ ${\displaystyle {\beta 2\mathrm{}}_{}}$ ${\displaystyle {}_{}{{\mathrm{}}_{}^{}}^{}}$)가 된다.${T}}\left(\mathbf {y}$ -$\mathbf {X} _{1}\beta$_{$1}\right$ 이 결과를 사용하여 ${\displaystyle {\beta \mathrm{}}_{}}$ 1$(\$displaystyle $\beta$ _${1})$의 최대우도 추정기를 다음과 같이 도출할 수 있습니다.

${\displaystyle {\hat } = \left(\mathbf {X} ) _{1}^{\mathbf {T} \left(\mathbf {I} -\mathbf {P} _{2}\오른쪽) \mathbf {X} _{1} \mathbf {X} {{{{1}$

$여기$서 ${\displaystyle {\mathrm{}}_{}}$ $=$ ${\displaystyle {\mathrm{}}_{}}$ ${\displaystyle {}_{}{{\mathsf{}}_{}^{}}^{}}$ T${\displaystyle {}^{{}_{}}}$ - ${\displaystyle {}^{}{\mathbf{}}_{}^{}}$ ${\displaystyle {\mathsf{}}_{}^{}}$T ({$displaystyle \mathbf {P}$_${2}=\mathbf${X} $_{2$}\$left(\mathbf {X} _{2}^{\mathbf {T}) _2-${\$mathbf {X}^{\1})$ch-Waugh-Lovell 정리

그래픽으로 볼 때 농도 절차는 우도 함수를 최대화하는 방해 $파라미터{\displaystyle {}_{}}$ ${\displaystyle {\beta \mathrm{}}_{}}$ 2$(\$ _${2}})$ 값의$$ 능선을 따라 우도 표면을 슬라이스하는 것과 같기 때문에, $주어진{\displaystyle {}_{}}$ ${\displaystyle {\beta \mathrm{}}_{}}$ 1$(\$ _${1$ r에 대한 우도 함수의 등축 프로파일을 생성한다.이 순서는 프로파일우도라고도 합니다.^[27][28]프로파일 우도는 그래프화뿐만 아니라 전체 ^[29][30]우도에서 계산된 점근 표준 오차를 기반으로 하는 신뢰 구간보다 종종 작은 표본 특성을 갖는 신뢰 구간을 계산하는 데도 사용할 수 있습니다.

조건부 우도

때때로 불필요한 파라미터에 대한 충분한 통계정보를 찾을 수 있으며, 이 통계정보를 바탕으로 하면 불필요한 ^[31]파라미터에 의존하지 않는 가능성이 발생합니다.

한 가지 예는 2×2 표에서 발생하며, 여기서 4개의 주변 총계를 모두 조건화하면 비중심 하이퍼기하 분포에 기초한 조건부 우도로 이어진다.이러한 형태의 컨디셔닝은 Fisher의 정확한 테스트의 기초이기도 합니다.

한계우도

데이터에 포함된 정보의 일부만을 기반으로 하는 우도(예를 들어 수치보다는 순위 집합을 사용하는 경우)를 고려하여 불필요한 파라미터를 제거할 수 있습니다.또 다른 예는 선형 혼합 모형에서 발생하는데, 이 모형에서는 고정 효과를 적합시킨 후에만 잔차에 대한 우도를 고려하면 분산 성분의 잔차 최대우도 추정으로 이어집니다.

부분우도

부분우도란 전체우도의 적응으로 파라미터의 일부(해당 파라미터)만 ^[32]발생하도록 하는 것입니다.이는 비례 위험 모델의 핵심 구성요소이다. 즉, 위험 함수에 대한 제한을 사용하면 시간에 따른 위험의 형태를 포함하지 않는다.

가능성 있는 제품

둘 이상의 독립된 사건이 주어진 경우, 우도는 각 개별 사건의 우도의 산물이다.

$(\displaystyle \Lambda (A\mid X_{1}\lambda (A\mid X_{2})=\Lambda (A\mid X_{1})\cdot \Lambda (A\mid X_{2})}$

이것은 확률에 대한 독립성의 정의에서 따른다. 즉, 모델이 주어진 두 개의 독립적 사건이 발생할 확률은 확률의 산물이다.

사건이 독립 관측치 또는 대체 표본 추출과 같이 독립적이고 동일한 분포의 랜덤 변수로부터 발생한 경우 특히 중요합니다.이러한 상황에서 우도 함수는 개별 우도 함수의 곱으로 인자를 변환합니다.

빈 제품의 값 1은 사건 발생이 없는 경우 우도에 해당하는 값 1입니다. 데이터 앞에 있는 경우 우도는 항상 1입니다.이것은 베이지안 통계의 균일한 이전과 유사하지만, 우도론 통계에서는 우도가 통합되지 않기 때문에 부적절한 사전이 아니다.

로그 우도

로그 우도 함수는 우도 함수의 로그 변환으로, 대문자 L $또는{\displaystyle \mathcal{}}$ L$(\$과 대조하기 위해 종종 소문자 l 또는$"\displaystyle$\ell$"$로 표시됩니다.로그는 함수를 엄격하게 증가시키므로 우도를 최대화하는 것은 로그 우도를 최대화하는 것과 같습니다.그러나 특히 대부분의 일반적인 확률 분포(특히 지수 계열)는 대수적으로 ^[33][34]오목하고 목적 함수의 오목함이 최대화에 중요한 역할을 하기 때문에, 실제 목적 함수는 최대우도 추정에서 로그우도 함수로 작업하는 것이 더 편리하다.

각 사건의 독립성이 주어지면 교차점의 전체 로그 우도는 개별 사건의 로그 우도 합계와 같습니다.이는 전체 로그 확률이 개별 사건의 로그 확률의 합이라는 사실과 유사합니다.로그 우도 추가 프로세스는 이러한 수학적 편의성 외에도 직관적인 해석을 가지고 있으며, 이는 종종 데이터에서 "지원"으로 표현된다.최대우도 추정에 대한 로그 우도를 사용하여 모수를 추정하는 경우 각 데이터 점을 전체 로그 우도에 추가하여 사용합니다.데이터는 추정된 매개변수를 뒷받침하는 증거로 볼 수 있으므로, 이 과정은 "독립적 증거 추가로부터의 지원"으로 해석될 수 있으며, 로그 우도는 "증거 가중치"이다.마이너스 로그 확률을 정보 내용 또는 놀라움으로 해석하는 경우, 주어진 사건이 주어진 모델의 지원(로그 우도)은 해당 모델이 주어진 사건의 서프라이즈를 부정적으로 평가합니다.모델이 주어진 사건이 놀랍지 않은 범위 내에서 모델이 지원됩니다.

우도비의 로그는 로그 우도의 차이와 같습니다.

${\displaystyle\log {L(A)}{L(B)}=\log L(A)-\log L(B)=\ell(A)-\ell(B)}$

사건이 없을 때 우도가 1인 경우와 마찬가지로, 사건이 없을 때 로그 우도는 0이며, 이는 빈 합계의 값에 해당합니다. 데이터가 없으면 어떤 모형도 지원되지 않습니다.

우도 방정식

로그우도함수가 스무스한 경우 파라미터에 대한 기울기(${\displaystyle \mathrm{스코어}}$ 및 ${\displaystyle {써진s}_{}}$n (${\displaystyle }$) )displaydisplay ${\displaystyle {}_{}{\mathrm{}}_{}{nn}_{}}$ ( ${\displaystyle )}$ $)\displaystyle s_{n}(세타)\equiv \nabla$ _${\theta$}\$ell$ _${n}(theta$이 존재하며 미적분을 적용할 수 있습니다.미분 가능한 함수를 최대화하는 기본 방법은 정지점(도함수가 0인 점)을 찾는 것이다. 합계의 도함수는 단지 도함수의 합이지만, 곱의 도함수는 곱 규칙을 요구하기 때문에, 독립 사건의 로그 우도의 정지점을 f보다 계산하는 것이 더 쉽다.또는 독립 사건의 가능성.

점수 함수의 정지점에 의해 정의된 방정식은 최대우도 추정기의 추정 방정식 역할을 합니다.

${\displaystyle s_{n}(\theta)=\mathbf {0}$

그런 의미에서 최대우도 추정기는 ${\displaystyle {}_{}^{}}$ s ${\displaystyle n_{}^{}}$-${\displaystyle {}_{}^{}{\mathbb{}}^{}}$ : E ${\displaystyle {}^{}}$$$${\displaystyle {}^{}}$ {\$displaystyle s_{n}^{-1}:\mathbb$${$$E}$^{$d}\to$ \Theta $\}$의$값$에 의해 암묵적으로 정의됩니다.${\displaystyle {}^{}}$서 E${\style$ \$mathbbb$} ^{d} ^{$d}$ \Thto \Theta$$^}$}$ } } 。d-dimensional 유클리드 공간,$\delta {\displaystyle \mathrm{}}$ \$displaystyle \Theta }$는 파라미터 공간입니다.역함수 정리를 사용하면, 열린 근방에서 s${\displaystyle {}_n^{}}$ -$$({$displaystyle s_{$n}^{-$1$$})$이 0$({$ \$mathbf$ {0$$$}$})과${\displaystyle {\stackrel{}{}}_{}}$^ n ${\displaystyle {}_{}}$ ${\displaystyle s_{}^{}}$n -$({displaystyle \ta$}}$= s_mathb$$${1$}^{f})^{$1({f})에 $대해{\displaystyle \mathbf{}}$ 잘 정의되어 $있음$을 알 수 있다.텐트 $추정치{\displaystyle }${\({$displaystyle \theta$ 그 결과 시퀀스 $\{{\displaystyle {\stackrel{}{}}_{}}$^ ^${\displaystyle n_{}}$}({\$displaystyle$\left$\{\hat$ \$theta$}}$_{n}\$right\})가$$ $존재$합니다. s ${\displaystyle n_{}=}$ 0$${\$displaystyle s_{n}({\hat$} {\$ta$} {\$ta$ } } {${\displaystyle n\mathbf{}}$} } =${\$mathot$$ } {\mathot$$} {\$mathot$ } } {\$mathot$} } {0f$($\displaystyle$\hat\theta }_{$n}{$xrightarrow\text{p$}}$_$^[35]0}). 비슷한 결과는 ^[36][37]롤의 정리를 사용하여 얻을 수 있다.

Fisher 정보로 $알려진{\displaystyle \stackrel{}{}}$ $^$ ${\style {\hat$ {\theta$$$}}$에서 평가된 두 번째 도함수는 우도 표면의 ^[38]곡률을 결정하여 ^[39]추정의 정밀도를 나타낸다.

지수 패밀리

로그 우도는 공통 모수 확률 분포를 많이 포함하는 지수 분포 제품군에도 특히 유용합니다.지수군에 대한 확률 분포 함수(따라서 우도 함수)에는 지수와 관련된 요인의 곱이 포함되어 있습니다.이러한 함수의 로그는 곱의 합계이며, 원래의 함수보다 구별하기가 더 쉽다.

지수족이란 확률밀도함수가 다음과 같은 형태인 것을 말한다(일부 함수의 경우 내부곱의 경우 ${\displaystyle "-",}$-$"\displaystyle \langle ---\rangle }$을(를) 쓴다.

$({displaystyle p(x\mid {boldsymbol {theta }})=h(x)\exp {boldsymbol {theta}}}({\boldsymbol {theta}}}), \mathbf {T}(x) -A({\boldsymbol {ta }}) {bol {ta } } } } } {big} } } } } } } 。}$

각 항에는 ^[b]해석이 있지만 확률에서 우도로 전환하고 로그를 취하기만 하면 다음과 같은 합이 산출됩니다.

$\displaystyle \ell({\boldsymbol\theta })=\boldsymbol\theta }({\boldsymbol\theta }),\mathbf {T}(x)\rangle -A({\boldsymbol\theta })+log h(x).}$

${\displaystyle (}$ ($$ ) { $style$\ bold $symbol$\$symbol$ \ seta } （ { \ bold $symbol$$$\ $theta }$ }${\displaystyle }h$ ${\displaystyle \mathrm{hh}}$( $x )$는 각각 좌표의 변화에 대응하므로 이들 좌표에서 지수군의 로그 우도는 간단한 공식에 의해 나타납니다.

$\displaystyle \ell({\boldsymbol\eta } =\boldsymbol\eta },\mathbf {T}(x)\rangle -A({\boldsymbol\eta })}$

즉, 지수 계열의 로그 우도는 자연 $파라미터{\displaystyle \mathit{}}${\({$displaystyle$$\boldsymbol$$\eta$})와 $충분한{\displaystyle \mathbf{}}$ 통계량$(x$에서 정규화 계수${\displaystyle (로그\mathit{}}$ 분할 $함수{\displaystyle )}$ $A({\boldsymbol$를 뺀 값이다.따라서 예를 들어, 최대우도 추정치는 충분한 통계량 T와 로그 분할 함수 A의 도함수를 취함으로써 계산할 수 있다.

예: 감마 분포

감마 분포는 α$(\displaystyle \alpha)$와$$β(\$displaystyle \beta$의 두 가지 매개변수를 갖는 지수족입니다.우도함수는 다음과 같습니다.

${\displaystyle {L}(\alpha,\display \mid x)=parc frac {\Gamma (\alpha )}}x^{\alpha -1}e^{-\gampa x}.}$

단일 $관측치{\displaystyle }$x(\$displaystyle$x)에$$ 대해$$β(\$displaystyle\beta)$의 최대우도 추정치를 찾는 것은 다소 어려워 보인다.로그는 다음과 같이 조작하기가 훨씬 간단합니다.

$\displaystyle \log {L}(\alpha,\display \mid x)=\alpha \log \gamma (\alpha - 1)+(\alpha - 1)\log x-\gamma x.,}$

로그 우도를 최대화하기 위해 먼저$$β {\$displaystyle \beta$에 $대한{\displaystyle }$ 부분 도함수를 취한다.

$(\displaystyle\frac\log\mathcal{L}(\alpha,\display\mid x)}{\displaystyle\frac\alpha}{\display }}}-x})$

${\displaystyle {다수}_{}}$의 $독립$된${\displaystyle {}_{}}$ x 1, ${\displaystyle \dots ,}$ x$$ {\$displaystyle x_${1$},\ldots,x_{n$이 있는 경우, 합동 로그 우도는 개별 로그 우도의 합이 되고, 이 합계의 도함수는 개별 로그 우도의 도함수 합이 됩니다.

${\displaystyle{\begin{정렬}&,{\frac{\partial \log{{\mathcal L}}(\alpha ,\beta\mid x_{1},\ldots{n,x_})}{\beta\partial}}\\={}&,{\frac{\partial \log{{\mathcal L}}(\alpha ,\beta\mid x_{1})}{\beta\partial}}+\cdots +{\frac{\partial \log{{\mathcal L}}(\alpha ,\beta\mid x_{n})}{\beta\partial}}={\frac{n\alpha}{\beta}}-\sum_{i=1.}^{n}x_{i.\end {aligned}}$

접합 로그 우도의 최대화 절차를 완료하기 위해 방정식을 0으로 설정하고$$β {\$displaystyle \beta$에 $대해{\displaystyle }$ 해결합니다.

$(*displaystyle {widehat} = snarfrac {\bar {x})$

$여기$서${\displaystyle \stackrel{}{}}$β $^$ {\$displaystyle${\$widehat}$은 최대우도$$ 추정치를 $나타내며{\displaystyle \stackrel{}{}}$, x ${\displaystyle \stackrel{}{¯}\underset{=}{\overset{}{}}}$ ${\displaystyle \underset{}{\overset{}{1}}}$ ${\displaystyle n_{}}$ x$$i \$textstyle${\$displaystyle {x$} =$$1 ${\displaystyle \underset{}{\overset{}{}}}$ textstyle {1} ${n}$ = $sum$_ {$i= 1$}^{$n}$ x {$i$$}}$는 관측치의 표본 평균이다.

배경과 해석

이력 코멘트

"가능성"이라는 용어는 적어도 후기 중세 ^[40]영어부터 영어에서 사용되어 왔다.수학 통계학에서 특정한 기능을 언급하기 위한 공식적인 사용은 1921년과 1922년에 ^[43]발표된^[42] 두 개의 연구 논문에서 로널드 ^[41]피셔에 의해 제안되었다.1921년 논문은 오늘날 "우도 구간"이라고 불리는 것을 소개했고, 1922년 논문은 "우도 최대 방법"이라는 용어를 도입했다.Fisher 인용:

[I]n 1922년, 나는 '가능성'이라는 용어를 제안했는데, 이는 [파라미터]와 관련하여 확률이 o와 관련이 있는 것과 유사한 [파라미터]의 가능한 값 중 합리적인 선택의 문제와 관련이 있는 것이다.f 우연의 게임에서 사건을 예측하는 것은……. 반면, 심리적 판단과 관련하여 가능성은 확률과 어느 정도 유사하지만, 두 개념은 완전히 다르다…."^[44]

우도의 개념은 로널드 피셔 경이 언급한 확률과 혼동해서는 안 된다.

내가 이것을 강조하는 이유는 내가 항상 확률과 가능성 사이의 차이에 중점을 두었음에도 불구하고 여전히 가능성을 일종의 확률인 것처럼 취급하는 경향이 있기 때문이다.첫 번째 결과는 서로 다른 경우에 적합한 두 가지 이성적 믿음의 다른 척도가 있다는 것이다.모집단을 알면 표본에 대한 불완전한 지식이나 기대를 확률로 표현할 수 있습니다. 표본을 알면 모집단에 대한 불완전한 지식을 ^[45]가능성으로 표현할 수 있습니다.

피셔의 통계적 우도 발명은 ^[46]역확률이라고 불리는 초기 형태의 추론에 대한 반작용이었다.그가 "우도"라는 용어를 사용한 것은 수학 통계학에서 용어의 의미를 고정시켰다.

A. W. F. Edwards(1972)는 다른 가설에 대한 상대적인 지지를 나타내는 척도로 로그우도비를 사용하기 위한 자명한 근거를 확립했다.지지 함수는 우도 함수의 자연 로그입니다.두 용어 모두 계통유전학에서는 사용되지만 통계적 ^[47]근거의 주제에 대한 일반적인 취급에서는 채택되지 않았다.

서로 다른 기초 아래에서의 해석

통계학자들 사이에서는 통계의 근간이 무엇이어야 하는지에 대한 공감대가 형성되어 있지 않다.그 토대를 위해 제안된 네 가지 주요 패러다임이 있다: 빈도주의, 베이지안주의, 우도주의, AIC ^[48]기반이다.제안된 기초마다 우도에 대한 해석이 다릅니다.4가지 해석은 다음 항에서 설명합니다.

빈도론자의 해석

이 섹션은 비어 있습니다.추가해서 도와주실 수 있습니다. (2019년 3월)

베이지안 해석

베이즈 추론에서 하겠지만 또 다른 변수다. 예를 들어 매개 변수 값 또는 통계적 모델(한계 가능성을 보)의 가능성,,로 지정된 데이터나 기타 evidence,[49][50][51][52]가능성 기능이 같은 실체 치른 명제나 확률 변수의 가능성에 관해 말할 수 있다.inte 추가(i) 매개변수가 주어진 데이터의 조건부 밀도(변수가 랜덤 변수이기 때문에) 및 (ii) 매개변수 값 또는 ^{[49][50][51][52][53]}모델에 대한 데이터에 의해 제공되는 정보의 측정 또는 양에 대한 해석.파라미터 공간 또는 모델 컬렉션에 확률 구조가 도입되기 때문에 파라미터 값 또는 통계 모델은 주어진 데이터에 대한 우도 값이 크면서도 확률이 낮거나 그 반대일 수 있습니다.^[51][53]이것은 종종 의학적인 ^[54]맥락에서 일어난다.베이즈 법칙에 따라 조건부 밀도로 볼 때 우도에 매개변수의 이전 확률 밀도를 곱한 다음 정규화하여 사후 확률 ^{[49][50][51][52][53]}밀도를 제공할 수 있다.보다 일반적으로, $미지량{\displaystyle }$ X$(표시$ 스타일 Y)가$$$$ 다른 $미지량{\displaystyle }$Y($표시$ 스타일 Y$)$에 주어질 확률은 X$(표시 스타일$ X$)$^{[49][50][51][52][53]}에 주어질 Y$(표시 스타일$ Y$)$의 확률에 비례합니다.

우도론적 해석

이 문서에는 일반적인 참조 목록이 포함되어 있지만 대응하는 충분한 인라인 인용이 없습니다. 좀 더 정밀한 인용문을 도입하여 개선해 주시기 바랍니다. (2019년 4월) (템플릿 메시지 삭제 방법 및 삭제 시기 확인)

빈도론 통계학에서 우도함수는 모집단의 단일 표본을 요약하는 통계량이며, 그 계산값은_p 여러 매개 변수 선택에 따라 달라집니다₁. 여기서 p는 이미 선택된 일부 통계 모델에서 매개 변수의 개수입니다.우도 값은 모수에 사용되는 선택에 대한 가치의 수치로 작용하며, 사용 가능한 데이터를 고려할 때 최대우도로 설정된 모수가 최선의 선택입니다.

우도의 구체적인 계산은 선택된 모델과 여러 매개 변수의 값이 관측 표본이 추출된 모집단의 빈도 분포에 대한 정확한 근사치를 제공한다고 가정할 때 관측 표본이 할당될 확률이다.경험적으로, 좋은 매개변수 선택은 샘플이 실제로 발생할 수 있는 최대 사후 확률을 관찰하게 하는 매개변수라는 것이 타당하다.Wilks의 정리는 추정치의 모수 값에 의해 생성된 우도 로그와 모집단의 "참" 모수 값에 의해 생성된 우도 로그의 차이가 점근적으로 δ² 분포된다는 것을 보여줌으로써 발견적 규칙을 수량화한다.

각 독립 표본의 최대우도 추정치는 표본 추출 모집단을 설명하는 "참" 모수 집합에 대한 별도의 추정치입니다.많은 독립 표본의 연속 추정치는 그 중간에 숨겨진 모집단의 "참" 모수 값 집합과 함께 군집화된다.최대우도 로그와 인접 매개변수 집합의 우도 차이는 좌표가 매개변수인₁ 그래프에 신뢰 영역을 그리는 데 사용될 수 있습니다. 영역은_p 최대우도 추정치를 둘러싸고 있으며, 해당 영역 내의 모든 점(모수 집합)은 일부 고정 값에 의해 로그우도 차이가 있습니다.값. Wilks의 정리에 의해 주어진 θ² 분포는 영역의 로그우도 차이를 모집단의 "참" 모수 집합이 내부에 있다는 "신뢰"로 변환한다.고정 로그 우도 차이를 선택하는 기술은 신뢰도를 허용 가능한 수준으로 높게 하면서 영역을 허용 가능한 작은 범위(추정치의 좁은 범위)로 유지하는 것입니다.

더 많은 데이터가 관측됨에 따라 독립적인 추정치를 작성하는 데 사용되는 대신 이전 표본과 결합하여 단일 결합된 표본을 만들 수 있으며 새로운 최대우도 추정치에 큰 표본을 사용할 수 있습니다.결합된 표본의 크기가 증가하면 신뢰도가 동일한 우도 영역의 크기가 줄어듭니다.결국 신뢰 영역의 크기가 거의 단일 점이거나 전체 모집단이 표본 추출되었습니다. 두 경우 모두 추정 모수 집합은 모집단 모수 집합과 기본적으로 동일합니다.

AIC 기반 해석

이 섹션은 확장해야 합니다.추가해서 도와주실 수 있습니다. (2019년 3월)

AIC 패러다임 하에서 가능성은 정보 ^[55][56][57]이론의 맥락에서 해석됩니다.

「 」를 참조해 주세요.

메모들

레퍼런스

추가 정보

• Azzalini, Adelchi (1996). "Likelihood". Statistical Inference Based on the Likelihood. Chapman and Hall. pp. 17–50. ISBN 0-412-60650-X.
• Boos, Dennis D.; Stefanski, L. A. (2013). "Likelihood Construction and Estimation". Essential Statistical Inference : Theory and Methods. New York: Springer. pp. 27–124. doi:10.1007/978-1-4614-4818-1_2. ISBN 978-1-4614-4817-4.
• Edwards, A. W. F. (1992) [1972]. Likelihood (Expanded ed.). Johns Hopkins University Press. ISBN 0-8018-4443-6.
• King, Gary (1989). "The Likelihood Model of Inference". Unifying Political Methodology : the Likehood Theory of Statistical Inference. Cambridge University Press. pp. 59–94. ISBN 0-521-36697-6.
• Lindsey, J. K. (1996). "Likelihood". Parametric Statistical Inference. Oxford University Press. pp. 69–139. ISBN 0-19-852359-9.
• Rohde, Charles A. (2014). Introductory Statistical Inference with the Likelihood Function. Berlin: Springer. ISBN 978-3-319-10460-7.
• Royall, Richard (1997). Statistical Evidence : A Likelihood Paradigm. London: Chapman & Hall. ISBN 0-412-04411-0.
• Ward, Michael D.; Ahlquist, John S. (2018). "The Likelihood Function: A Deeper Dive". Maximum Likelihood for Social Science : Strategies for Analysis. Cambridge University Press. pp. 21–28. ISBN 978-1-316-63682-4.

외부 링크

• Planetmath에서의 우도 함수
• "Log-likelihood". Statlect.