큰 수의 법칙 큰 수의 법칙(The low of large numbers)은 확률 변수 $Z_1, Z_2, \cdots$가 어떤 실수 b로 수렴한다고 할때 만약 $\forall \varepsilon > 0$ 라면 $\displaystyle\lim_{n \to \infty} P(|Z_n - b| < \varepsilon) = 1$ 을 만족한다고 하고 $Z_n \overset{p}{\longrightarrow} b$ 라고 표기합니다. $\varepsilon$의 값이 큰 경우 $Z_n$이 lower ~ upper 범위 내에서 존재할 확률은 굉장히 적지만 $\varepsilon$의 값이 계속해서 작아지면 $Z_n$이 lower ~ upper 범위 내에서 존재할 확률은 계속해서 커지고 결국 1에 수렴하게 됩니다...

표본(Sample)에 대하여 모집단(Population)은 굉장히 큰 집합으로 표현됩니다. 이때 평균과 분산을 모르는 모집단에서 n개의 무작위 표본들을 가져가보려 합니다. 모집단에서 가져온 랜덤한 n개의 표본들은 서로 같은 분포에서 채취했으며(identically distribution), 무작위로 가져왔기 때문에 서로 독립(independent)입니다. 따라서 n개의 표본들은 i.i.d 임을 알 수 있습니다. 표본평균 무작위 표본 $X_1, \cdots, X_n$ 을 가지고 있다고 하겠습니다. 이때 표본들의 평균은 $\frac{1}{n} \displaystyle\sum_{i=1}^{n} X_i$ 입니다. 이 단순한 표본들의 평균을 표본평균(Sample mean)이라 하며 $\bar{X_n}$ 으로 표현..

정규분포 정규 분포는 가우시안 분포라고도 불리는 유명한 분포입니다. 어떤 확률 변수 $X$가 평균이 $\mu$이고, 분산이 $\sigma^2$인 정규 분포를 따른다면 다음과 같이 나타냅니다. $X \sim N(\mu, \sigma^2) \ \ (-\infty < \mu < \infty, \ \sigma^2 \ge 0)$ 정규분포의 성질들 $X \sim N(\mu, \sigma^2)$ 라고 할때 $X$의 p.d.f. $f(x) = \frac{1}{\sqrt{2\pi} \sigma} e^{- \frac{(x-\mu)^2}{2\sigma^2}}$ $X$의 m.g.f. $\psi(t) = e^{\mu t + \frac{1}{2} \sigma^2 t^2}$ m.g.f를 통해 $E(X) = \mu$ 이고, $Var..