연속 베르누이 분포

Continuous Bernoulli distribution
연속 베르누이 분포
확률밀도함수
Probability density function of the continuous Bernoulli distribution
표기법
매개변수
지원
PDF
where
CDF
평균
분산

확률론, 통계학, 기계학습에서 연속 버누이 분포[1][2][3] 다음과 같이 단위간격 [ 0, 1) 에 정의된 단일 형상변수 λ ( 1)에 의해 매개변수화된 연속 계열이다

베르누이 분포는 딥러닝컴퓨터 비전, 특히 가변 자동 코더의 맥락에서 [4][5]자연 이미지의 픽셀 강도를 모델링하기 위해 발생한다.이와 같이, 연속적인 [ , {\ -값 데이터에 종종 적용되는, 일반적으로 사용되는 이항 교차 엔트로피 손실에 대한 적절한 확률론적 대응책을 정의한다.[6][7][8][9]2진수 교차 엔트로피 손실은 이산형{, 값 데이터에 대한 참 로그 우도만을 정의하기 때문에 이 관행은 연속적인 베르누이 분포의 정규화 상수를 무시하는 것이다.null

연속 베르누이는 또한 지수 분포의 집단을 정의한다.Writing for the natural parameter, the density can be rewritten in canonical form: .


관련 분포

베르누이 분포

연속 베르누이는 확률 질량 함수에 의해 이산형 집합{ 0, 에 정의된 베르누이 분포의 연속적인 이완으로 생각할 수 있다.

여기서 (는) 0과 1 사이의 스칼라 파라미터다.이 동일한 기능 양식을 연속 간격[ 에 적용하면 연속 버누이 확률밀도 함수가 정규화 상수까지 된다.null

베타 분포

베타 분포에는 밀도 함수가 있다.

다음과 같이 다시 쓸 수 있다.

어디 α 1, α 2{\displaystyle \alpha_{1},\alpha _{2}}은 긍정적인 스칼라 매개 변수 및(x1x2){\displaystyle(x_{1},x_{2})}은 1-simplex 내부의 임의의 지점을 나타내는, Δ 1){(x1x2):x1>0x2>0x1+x2=1}{\displaystyle\Delta ^{1}=\{(.x_{1}, 이 밀도 함수에서 매개 변수와 인수의 역할을 전환하여 다음을 얻는다.

이 계열은 선형 제약 조건 1+ 2= 까지만 식별할 수 있으며 다음과 같은 경우:

베르누이 밀도와 정확히 일치한다.null

지수 분포

단위 구간으로 제한된 지수 분포는 적절한 매개변수를 가진 연속 버누이 분포와 동일하다.null

연속 범주형 분포

연속 베르누이의 다변량 일반화를 연속 범주형이라고 한다.[10]null

참조

  1. ^ 로이자가넴, G, & 커닝햄, J. P. (2019)지속적인 베르누이: 변동성 자동 코딩기의 만연한 오류 수정.신경 정보 처리 시스템의 진보 (pp. 13266-13276)에서.
  2. ^ PyTorch 분포.https://pytorch.org/docs/stable/distributions.html#continuousbernoulli
  3. ^ 텐서 흐름 확률.https://www.tensorflow.org/probability/api_docs/python/tfp/edward2/ContinuousBernoulli
  4. ^ 킹마, D. P. & Welling, M. (2013)변동 베이 자동 인코딩.arXiv 사전 인쇄 arXiv:1312.6114.
  5. ^ 킹마, D. P. & 웰링, M. (2014, 4월)확률적 그라데이션 VB 및 가변 자동 인코더.ICLR(Vol. 19)의 제2차 국제 학습 표현 콘퍼런스에서.
  6. ^ Larsen, A. B. L., Sönderby, S. K., Larochelle, H., & Winter, O. (2016, 6월)학습된 유사성 메트릭을 사용하여 픽셀 이상으로 자동 인코딩기계학습에 관한 국제회의 (pp. 1558-1566)에서.
  7. ^ 지앙, Z, 정, Y, 탄, H, 탕, B, & 저우, H. (2017, 8월)가변 딥 임베딩: 클러스터링에 대한 감독되지 않고 생성적인 접근 방식.제26차 국제 인공지능 공동회의(pp. 1965-1972)의 진행에서.
  8. ^ PyTorch VAE 자습서: https://github.com/pytorch/examples/tree/master/vae.
  9. ^ Keras VAE 자습서: https://blog.keras.io/building-autoencoders-in-keras.html.
  10. ^ 고든 로드리게스, E, 로이자 가넴, & 커닝햄, J. P. (2020)연속 범주형: 새로운 심플렉스 가치 지수 계열.제36회 기계학습 국제회의, ICML 2020.국제기계학습협회(IMLS)