정보 매트릭스 테스트

계량학에서 정보 행렬 시험은 회귀 모형이 잘못 지정되었는지 여부를 결정하기 위해 사용된다.테스트는 Halbert White에 의해 개발되었으며,^[1] Halbert White는 올바르게 지정된 모델과 표준 정규성 가정 하에서 Fisher 정보 매트릭스는 두 가지 방법 중 하나로 표현될 수 있다는 것을 관찰했다. 즉, 경사로의 외부 산물 또는 로그 우도 함수의 헤시안 매트릭스의 함수로 표현된다.

Consider a linear model ${\displaystyle \mathbf {y} =\mathbf {X} \mathbf {\beta } +\mathbf {u} }$, where the errors ${\displaystyle \mathbf {u} }$ are assumed to be distributed ${\displaystyle \mathrm {N} (0,\sigma ^{2}\mathbf {I} )}$. If the parameters ${\displaystyle \beta }$$$ 및 $\sigma {\displaystyle {}^{}}$ ${\$}} 벡터 = [ ]{\$displaystyle \mathbf${\\$ta}^{\\begin{bmatrix}}={begin{bmatrix}\nd{batmatrix$에 누적 로그$$ 우도 함수가 있다.

${\displaystyle \ell (\mathbf {\theta } )=-{\frac {n}{2}}\log \sigma ^{2}-{\frac {1}{2\sigma ^{2}}}\left(\mathbf {y} -\mathbf {X} \mathbf {\beta } \right)^{\mathsf {T}}\left(\mathbf {y} -\mathbf {X} \mathbf {\beta } \right)}$

그러면 정보 매트릭스는 다음과 같이 표현될 수 있다.

${\displaystyle \mathbf {I} (\mathbf {\theta } )=\operatorname {E} \left[\left({\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}\right)\left({\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}\right)^{\mathsf {T}}\right]}$

그것은 그라데이션 또는 점수의 외부 제품의 예상 값이다.둘째, 로그 우도함수의 헤시안 행렬의 음으로 기록할 수 있다.

${\displaystyle \mathbf {I} (\mathbf {\theta } )=-\operatorname {E} \left[{\frac {\partial ^{2}\ell (\mathbf {\theta } )}{\partial \mathbf {\theta } \,\partial \mathbf {\theta } ^{\mathsf {T}}}}\right]}$

모델이 올바르게 지정된 경우 두 식이 모두 같아야 한다.등가 양식 수율 결합

${\displaystyle \mathbf {\Delta } (\mathbf {\theta } )=\sum _{i=1}^{n}\left[{\frac {\partial ^{2}\ell (\mathbf {\theta } )}{\partial \mathbf {\theta } \,\partial \mathbf {\theta } ^{\mathsf {T}}}}+{\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}{\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}\right]}$

여기서 $\Delta {\displaystyle \mathbf{}}$ (${\displaystyle \Delta }$) ${\displaystyle \mathbf {\Delta }(\mathbf {\theta$}$)$는${\displaystyle }$( ${\displaystyle r}$ ${\displaystyle \times }$ ${\displaystyle r}$) ${\displaystyle (\time r)}$ 랜덤$$ 행렬이며, 여기서 $r{\displaystyle }$ ${\displaystyle r}$은 매개 변수의 수입니다.White showed that the elements of ${\displaystyle n^{-1/2}\mathbf {\Delta } (\mathbf {\hat {\theta }} )}$, where ${\displaystyle \mathbf {\hat {\theta }} }$ is the MLE, are asymptotically normally distributed with zero means when the model is correctly specified.^[2]그러나 작은 표본에서는 일반적으로 시험의 수행이 좋지 않다.^[3]

참조

추가 읽기

• Krämer, W.; Sonnberger, H. (1986). The Linear Regression Model Under Test. Heidelberg: Physica-Verlag. pp. 105–110. ISBN 3-7908-0356-1.
• White, Halbert (1994). "Information Matrix Testing". Estimation, Inference and Specification Analysis. New York: Cambridge University Press. pp. 300–344. ISBN 0-521-25280-6.