연속 베르누이 분포
Continuous Bernoulli distribution| 확률밀도함수 | |||
| 표기법 | |||
|---|---|---|---|
| 매개변수 | |||
| 지원 | |||
| where | |||
| CDF | |||
| 평균 | |||
| 분산 | |||
확률론, 통계학, 기계학습에서 연속 버누이 분포는[1][2][3] 다음과 같이 단위간격 [ 0, 1) 에 정의된 단일 형상변수 λ ( 1)에 의해 매개변수화된 연속 계열이다
베르누이 분포는 딥러닝과 컴퓨터 비전, 특히 가변 자동 코더의 맥락에서 [4][5]자연 이미지의 픽셀 강도를 모델링하기 위해 발생한다.이와 같이, 연속적인 [ , {\ -값 데이터에 종종 적용되는, 일반적으로 사용되는 이항 교차 엔트로피 손실에 대한 적절한 확률론적 대응책을 정의한다.[6][7][8][9]2진수 교차 엔트로피 손실은 이산형{, 값 데이터에 대한 참 로그 우도만을 정의하기 때문에 이 관행은 연속적인 베르누이 분포의 정규화 상수를 무시하는 것이다.null
연속 베르누이는 또한 지수 분포의 집단을 정의한다.Writing for the natural parameter, the density can be rewritten in canonical form: .
관련 분포
베르누이 분포
연속 베르누이는 확률 질량 함수에 의해 이산형 집합{ 0, 에 정의된 베르누이 분포의 연속적인 이완으로 생각할 수 있다.
여기서 은(는) 0과 1 사이의 스칼라 파라미터다.이 동일한 기능 양식을 연속 간격[ 에 적용하면 연속 버누이 확률밀도 함수가 정규화 상수까지 된다.null
베타 분포
베타 분포에는 밀도 함수가 있다.
다음과 같이 다시 쓸 수 있다.
어디 α 1, α 2{\displaystyle \alpha_{1},\alpha _{2}}은 긍정적인 스칼라 매개 변수 및(x1x2){\displaystyle(x_{1},x_{2})}은 1-simplex 내부의 임의의 지점을 나타내는, Δ 1){(x1x2):x1>0x2>0x1+x2=1}{\displaystyle\Delta ^{1}=\{(.x_{1}, 이 밀도 함수에서 매개 변수와 인수의 역할을 전환하여 다음을 얻는다.
이 계열은 선형 제약 조건 1+ 2= 까지만 식별할 수 있으며 다음과 같은 경우:
베르누이 밀도와 정확히 일치한다.null
지수 분포
단위 구간으로 제한된 지수 분포는 적절한 매개변수를 가진 연속 버누이 분포와 동일하다.null
연속 범주형 분포
연속 베르누이의 다변량 일반화를 연속 범주형이라고 한다.[10]null
참조
- ^ 로이자가넴, G, & 커닝햄, J. P. (2019)지속적인 베르누이: 변동성 자동 코딩기의 만연한 오류 수정.신경 정보 처리 시스템의 진보 (pp. 13266-13276)에서.
- ^ PyTorch 분포.https://pytorch.org/docs/stable/distributions.html#continuousbernoulli
- ^ 텐서 흐름 확률.https://www.tensorflow.org/probability/api_docs/python/tfp/edward2/ContinuousBernoulli
- ^ 킹마, D. P. & Welling, M. (2013)변동 베이 자동 인코딩.arXiv 사전 인쇄 arXiv:1312.6114.
- ^ 킹마, D. P. & 웰링, M. (2014, 4월)확률적 그라데이션 VB 및 가변 자동 인코더.ICLR(Vol. 19)의 제2차 국제 학습 표현 콘퍼런스에서.
- ^ Larsen, A. B. L., Sönderby, S. K., Larochelle, H., & Winter, O. (2016, 6월)학습된 유사성 메트릭을 사용하여 픽셀 이상으로 자동 인코딩기계학습에 관한 국제회의 (pp. 1558-1566)에서.
- ^ 지앙, Z, 정, Y, 탄, H, 탕, B, & 저우, H. (2017, 8월)가변 딥 임베딩: 클러스터링에 대한 감독되지 않고 생성적인 접근 방식.제26차 국제 인공지능 공동회의(pp. 1965-1972)의 진행에서.
- ^ PyTorch VAE 자습서: https://github.com/pytorch/examples/tree/master/vae.
- ^ Keras VAE 자습서: https://blog.keras.io/building-autoencoders-in-keras.html.
- ^ 고든 로드리게스, E, 로이자 가넴, & 커닝햄, J. P. (2020)연속 범주형: 새로운 심플렉스 가치 지수 계열.제36회 기계학습 국제회의, ICML 2020.국제기계학습협회(IMLS)