Discrete Random Variables - (1)

Random Variable

동전 3개를 던지는 실험을 한다고 하자. 이때의 Sample Sapce $S = \{HHH, HHT, HTH, THH, HTT, THT, TTH, TTT\}$ 일 것이다. 만일 동전이 4개면? 8개면? n개면? 어떨까? 혹은 다른 실험이면 Sample Space를 어떻게 표시해야할까? 매번 다른 기호를 가져다 써야할까? 

이렇듯 실험은 실생활의 기호와 굉장히 밀접하고 의존적이기 때문에, 이러한 의존성을 줄여줄 필요가 있다. 이러한 outcome 하나하나를 숫자로 mapping하고, 우리가 알고있는 확률이론들은 이러한 숫자를 받아서 $[0,1]$구간으로 mapping 해주는 역할을 하면 편리하지 않을까? 이런 맥락에서 확률변수(Random Variable)를 생각해보자

$$
\zeta : \text{outcome of sample space } S\\
X : \zeta \rightarrow \text{number}
$$

동전던지기를 계속 예로 들어보자면
$$ S = \{HHH, HHT, HTH, THH, HTT, THT, TTH, TTT\}\\
X(HHH) = 1, \: X(HHT) = 2, \: ... ,X(TTT) = 8 \\
X = \{1,2,3,4,5,6,7,8\}
$$

라고 할 수 있다.

$X(\zeta) \in \mathbb{R} $ 이지만 One-To-One 일 필요는 없다
가령 내가 임의로 $X(\{HHH\} \cup \{TTT\}) = 1$ 이라고 잡을 수도 있으니까. 이 경우 $P[X=1] = P[\{HHH\} \cup \{TTT\}]$ 이 되고 계산할 수 있다.

Probability Mass Function (pmf)

Random Variable $X : \zeta \rightarrow \text{number}$를 이용해 임의의 사건을 숫자로 보내는 걸 알았다. 이 중에서도 동전던지기 혹은 주사위처럼 불연속적인 사건을 숫자로 mapping한 것을 Discrete Random Variable 이라고 하는데, 이런 Discrete Random Variable을 받아서 $[0,1]$ 구간으로 보내는 함수를 Probability Mass Function, 줄여서 pmf라고 한다. (확률질량함수)

$$ P_X(x) \overset{\Delta}{=} P[X=x] = P[\{ \zeta : X(\zeta) = x\} ] \\
P : \text{probability} \\ 
X : \text{ Random Variable} \\
x : \text{Random Variable } X \text{가 가지는 값} \\
\zeta : \text{Sample Space } S \text{의 outcome}
$$

동전 던지기를 계속 예시로 들어보자면, 동전던지기의 pmf는 아래와 같이 쓸 수 있다.

$$
P_X(1) = P_X(2) = P_X(3) = P_X(4) = P_X(5) = P_X(6) = {1 \over 6} \\
P_X(x) = \sum_{k=1}^{k=6} {1 \over 6} \delta( x - k)
$$

참고 : $x=k$ 일 때 $\delta(x-k) = 1$, $ x \neq k$ 일 때 $\delta(x-k) = 0$의 의미로 썼다.
$\delta$ 기호 관련해서는 Direc Delta Function, Kronecker Delta  읽어봐도 좋을 듯.

Property of pmf

1. 그림으로 그릴 수 있다! (당연한 이야기인가..?)
2. $A_k = \{\zeta \: : \: X(\zeta) = x_k\}$ 일 때 $A_i \cap A_j = \emptyset, \: i\neq j$
3. $\cup_k A_k = S$
   • 2번과 3번은 $A_k$ 가 sample space $S$의 partition 임을 의미한다.

이를 pmf로 다시 써보면

1. $P_X(x) \geq 0$
2. $\sum_{x \in S_x} P_X(x) = 1$
3. $P[X \text{ in } B] = \sum_{x \in B} P_X(x)$
   • $ \{ X = x_i\} \cap \{ X = x_j\} = \emptyset$ :mutually disjoint