하이퍼파라미터
Hyperparameter |
| 시리즈의 일부 |
| 베이지안 통계 |
|---|
 |
| 이론. |
| 기술 |
베이지안 통계학에서 하이퍼 모수는 이전 분포의 모수이며, 이 용어는 분석 대상인 기본 시스템에 대한 모수의 모수와 구별하기 위해 사용됩니다.
예를 들어, 베타 분포를 사용하여 Bernouli 분포의 모수 p 분포를 모형화하는 경우 다음과 같이 하십시오.
- p는 기본 시스템의 모수(베르누이 분포)입니다.
- α와 β는 이전 분포의 모수이며, 따라서 초모수이다.
특정 하이퍼파라미터에 대해 단일 값을 취하거나 하이퍼파라미터 자체에 대해 반복하여 하이퍼프리어로 불리는 확률분포를 취하거나 할 수 있습니다.
목적
확률 분포의 파라메트릭 계열에서 유래한 선행(prior)을 사용하는 경우가 많다.이는 부분적으로 명시성을 위해(따라서 임의의 함수를 생성하려고 하지 않고 하이퍼 파라미터를 변경하여 형태를 선택할 수 있다), 그리고 부분적으로 하이퍼 파라미터를 변경할 수 있도록, 특히 방법에서 하이퍼 파라미터를 변경할 수 있도록 한다.또는 민감도 분석을 위해 사용됩니다.
켤레 전위
켤레형 prior를 사용할 경우, 후방 분포는 같은 패밀리의 것이지만, 데이터에서 추가된 정보를 반영하는 다른 하이퍼 모수를 가질 것이다: 주관적인 측면에서, 개인의 신념이 업데이트되었다.일반적인 사전 분포의 경우, 이것은 계산적으로 매우 관련이 있고, 후부는 특이하거나 설명하기 어려운 형태를 가질 수 있지만, 공역 선행과 함께, 일반적으로 후부의 하이퍼 파라미터의 값과 관련된 단순한 공식이 있으며, 따라서 후부의 분포의 계산은 매우 중요하다.시스템
감도 분석
베이지안 통계 이용자와 비평가들의 비판의 주요 관심사는 자신의 이전 분포에 대한 사후 분포의 의존성이다.하이퍼파라미터는 쉽게 변경할 수 있게 하고 사후 분포(그리고 신뢰할 수 있는 간격과 같은 다양한 통계)가 어떻게 변화하는지를 볼 수 있게 함으로써 이를 해결한다. 즉, 한 사람의 결론이 자신의 이전 가정에 얼마나 민감한지를 볼 수 있으며, 그 과정은 민감도 분석이라고 불린다.
마찬가지로, 하이퍼 모수에 대한 범위가 있는 사전 분포를 사용할 수 있으며, 아마도 취하기 전 정확도의 불확실성을 반영하고 최종 [1]불확실성의 범위에 이를 반영할 수 있다.
하이퍼프라이어
특정 하이퍼파라미터에 대해 단일 값을 사용하는 대신 하이퍼파라미터 자체의 확률 분포를 고려할 수 있습니다. 이를 "하이퍼프리어"라고 합니다.원칙적으로 이를 반복하여 하이퍼프리어의 파라미터를 "하이퍼파라미터"라고 부릅니다.
「 」를 참조해 주세요.
레퍼런스
추가 정보
- Bernardo, J. M.; Smith, A. F. M. (2000). Bayesian Theory. New York: Wiley. ISBN 0-471-49464-X.
- Gelman, A.; Hill, J. (2007). Data Analysis Using Regression and Multilevel/Hierarchical Models. New York: Cambridge University Press. pp. 251–278. ISBN 978-0-521-68689-1.
- Kruschke, J. K. (2010). Doing Bayesian Data Analysis: A Tutorial with R and BUGS. Academic Press. pp. 241–264. ISBN 978-0-12-381485-2.
