[확률] 주변 확률 분포 :: 마인드스케일

주변 확률 분포란?

주변 확률 분포는 다변량 확률 분포에서 한 변수의 확률 분포를 나타냅니다. 이는 다른 변수들을 모두 통합하여 해당 변수의 전체 확률 분포를 살펴보는 것을 의미합니다. 즉, 다변량 공간에서 한 변수만의 확률적 특성을 분리하여 조망하는 것입니다.

주변 확률 분포는 복잡한 다변량 확률 모델에서 각 변수의 개별적인 확률 특성을 분석할 수 있게 해줍니다. 이로써 변수 간의 상호작용이나 연관성을 분리하여 단일 변수의 동작이나 특성을 이해할 수 있습니다.

이산 확률 변수의 경우:

P(X = x) = \sum_{y} P(X = x, Y = y)

연속 확률 변수의 경우:

f_X(x) = \int f_{X,Y}(x,y) dy

여기서, $f_{X,Y}(x,y)$ 는 X와 Y의 합동 확률 밀도 함수이고, $f_X(x)$ 는 X의 주변 확률 밀도 함수입니다.

예시: 두 주사위를 던졌을 때, 첫 번째 주사위 점수의 주변 확률 분포를 구하는 경우, 모든 가능한 두번째 주사위의 점수(1부터 6까지)에 대해 첫 번째 주사위 점수가 특정 값(x)을 갖는 확률을 모두 더합니다.

단변량 데이터의 경우 주변 확률 분포는 데이터의 전체 확률 분포와 같습니다. 이 경우 확률 질량 함수나 확률 밀도 함수를 통해 바로 계산할 수 있습니다.

다변량 데이터에서 한 변수의 주변 확률 분포는 다른 모든 변수를 통합하고 그 변수에 대한 확률만을 산출함으로써 얻어집니다. 이산 변수의 경우 합을, 연속 변수의 경우 적분을 사용합니다.

예제: 두 가지 색상의 공이 들어 있는 상자가 있고, 색상은 빨강(R)과 파랑(B)입니다. 빨간 공이 3개, 파란 공이 2개 있다면, 빨간 공을 뽑을 주변 확률은 $\frac{3}{5}$ 입니다.

주변 확률 분포는 변수 간의 관계를 단순화하여 분석하고, 변수의 개별적인 특성을 이해하는 데 사용됩니다. 데이터의 구조를 분석하거나 변수의 중요성을 판단하는 데 유용할 수 있습니다.

기계 학습 모델에서는 주변 확률 분포를 이용하여 특성의 중요성을 평가하고, 데이터의 분포가 모델의 가정과 일치하는지 확인합니다. 이는 특히 베이지안 모델에서 중요합니다.

고객 구매 데이터에서 특정 제품을 구매할 확률을 분석할 때, 다른 모든 제품의 구매 여부를 고려한 주변 확률 분포를 통해 각 제품의 구매 확률을 단독으로 평가할 수 있습니다.

주변 확률 분포는 모든 가능한 조건을 통합한 확률 분포를 나타내는 반면, 조건부 확률은 특정 조건이 주어졌을 때의 확률 분포를 나타냅니다.

주변 확률 분포는 조건부 확률을 계산할 때 분모로 사용됩니다. 이는 베이즈 정리의 핵심 구성 요소입니다.

조건부 확률과 주변 확률 분포를 결합하여 복잡한 확률 문제를 해결합니다. 예를 들어, 여러 조건 하에 특정 이벤트의 확률을 계산할 때 이 두 요소를 모두 사용합니다.

주변 확률 분포의 합은 1이 되어야 합니다. 이는 모든 가능한 결과의 확률을 합친 것이 전체 확률 공간을 의미하기 때문입니다.

두 사건이 독립일 경우, 하나의 사건의 확률은 다른 사건의 확률에 영향을 받지 않습니다. 즉, 두 사건의 합동 확률은 그 사건들의 주변 확률의 곱과 같습니다.

주변 확률 분포의 성질을 활용하면 복잡한 확률 공간에서 변수 간의 독립성 여부를 판단하고, 확률 모델의 구조를 단순화할 수 있습니다. 예를 들어, 다변량 정규 분포에서 변수들이 독립일 경우, 공분산 행렬의 비대각 성분이 0이 됩니다.