딥러닝에서 마스터해야 할 13가지 확률 분포

1. 확률 분포 개요

• Conjugate는 켤레 분포의 관계를 갖는다는 의미입니다.
• 베이지안 확률 이론에서 사후 분포 p(θx)와 사전 확률 분포 p(θ)가 동일한 확률 분포군에 속하면 사전과 사후를 켤레 분포라고 하고 사전을 켤레 사전이라고 합니다. 우도 함수. Conjugate 이전 Wikipedia는 여기(https://en.wikipedia.org/wiki/Conjugate_prior)에 있습니다.
• 다중 분류는 무작위 분산이 2보다 크다는 것을 의미합니다.
• n번은 사전 확률 p(x)도 고려한다는 의미입니다.
• 확률에 대해 더 자세히 알아보려면 [패턴 인식 및 기계 학습, Bishop 2006]을 읽어 보시기 바랍니다.

2. 분포 확률 및 특성

1. 균일 분포(연속)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py

균등분포는 [a, b]에 대해 동일한 확률 값을 가지며 단순 확률 분포입니다.

2. 베르누이 분포(이산)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py

• 사전 확률 p (x)는 베르누이 분포를 고려하지 않습니다. 따라서 가능성을 최대로 최적화하면 쉽게 과적합될 수 있습니다.
• 이항 분류를 위해 이진 교차 엔트로피를 사용한 분류. 그 형태는 베르누이 분포의 음의 로그와 동일합니다. 그림

3. 이항 분포(이산)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py

• 매개변수는 n과 p의 이항 분포는 일련의 n개의 독립적인 실험에서 성공한 횟수의 이산 확률 분포입니다.
• 이항 분포는 미리 선택할 수량을 지정하여 사전 확률을 고려한 분포입니다.

4. 다중 베르누이 분포, 범주형 분포(이산)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py

• 다중 베르누이를 범주형 분포라고 합니다.
• 교차 엔트로피는 음의 로그를 취하는 다중 베르누이 분포와 동일한 형태를 갖습니다.

5. 다항식 분포(이산)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py

다항식 분포 및 분류 분포 간의 관계는 베르누울 분포와 이항 분포 간의 관계와 동일합니다.

6.β배포(지속)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py

• β배포와 2개 분포라는 용어는 베르누이 분포와 켤레입니다.
• 활용을 사용하면 알려진 사전 분포를 사용하여 사후 분포를 더 쉽게 얻을 수 있습니다.
• β 분포가 특수한 경우(α=1, β=1)를 만족하면 균일 분포는 동일합니다.

7. Dirichlet 배포(지속적)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.py

• dirichlet 배포 및 다항식 분포는 켤레 분포입니다.
• k=2이면 베타 배포입니다.

8. 감마 분포(연속)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py

• If 감마( a, 1)/gamma (a, 1) + gamma (b, 1)은 beta (a, b)와 동일하므로 감마 분포는 베타 분포입니다.
• 지수 분포와 카이제곱 분포는 감마 분포의 특별한 경우입니다.

9. 지수 분포(연속)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/exponential.py

지수 분포는 α가 1일 때 γ 분포의 특별한 경우입니다.

10. 가우스 분포(연속)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py

가우스 분포는 매우 일반적인 연속 확률 분포입니다.

11. 정규 분포(연속)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py

정규 분포는 표준 가우스 분포는 평균이 0이고 표준편차가 1입니다.

12. 카이제곱 분포(연속)

코드: https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.py

• k 자유도가 있는 카이제곱 분포는 k개의 독립 표준 정규 확률 변수의 제곱합의 분포입니다.
• 치제곱 배포는 베타 배포의 특별한 경우입니다

13.t 배포(연속)

코드: https://github.com/graykode/distribution-is-all-you-need/ blob/master /student-t.py

t 분포는 대칭적이고 종 모양이며 정규 분포와 비슷하지만 꼬리가 더 두꺼워서 평균보다 훨씬 낮은 값을 생성할 가능성이 더 높습니다.

경유: https://github.com/graykode/distribution-is-all-you-needa

위 내용은 딥러닝에서 마스터해야 할 13가지 확률 분포의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!