수리통계 – 베이즈정리

베이즈 정리

사건 $B_{1}, B_{2}, …. B_{k}$ 는 상호배반이며 $(B_{i} \cap B_{j} = \emptyset, i \neq j).$
$\bigcup_{i=1}^k B_{i} = S$ 라고 하자. 이때 사건 A가 일어났다는 조건하에 사건 $B_{j}$ 가 일어날 확률은
$P(B_{j}|A) = \frac{P(B_{j})P(A|B_{j})}{\sum_{i=1}^k P(B_i)P(A|B_{i})}$
로 주어진다

(증명)

$P(B_{j}|A) = \frac{P(A \cap B_{j})}{P(A)} = \frac{P(B_{j})P(A|B_{i})}{P(A)}$ 가 성립한다.
그런데 전확률 공식인
$P(A) = \sum_{i=1}^k P(B_{i})P(A|B_{i})$ 에 의해서
$P(B_{j}|A) = \frac{P(B_{j})P(A|B_{j})}{\sum_{i=1}^k P(B_i)P(A|B_{i})}$ 와 같은 결과가 나온다

ex)

어떤 질명 A에 대한 양성(+)과 음성(-) 반응을 나타내는 검사방법이 있다. 이 검사 방법은 실제로 질병이 있을 경우 양성반응을 나타낼 확률이 P(+|A) = 0.85 이며,
질병이 없을 경우에 양성반응을 나타낼 확률이 $P(+ | A^{c})$ = 0.10 이라고 한다. 그런데 어떤 집단에서 무작위추출한 사람이 질병을 가지고 있을 확률은 P(A) = 0.01이다.
이제 어떤 사람이 검사반응에서 양성(+)을 나타냈을 때, 그 사람이 실제로 질병 A를 가졌을 확률은?
$P(A|+)=\frac{P(A\cap +)}{P(+)}$
$=\frac{P(+|A)P(A)}{P(+|A)P(A) + P(+|A^{c})P(A^{c})}$
$=\frac{0.95*0.01}{0.95*0.01+0.10*0.99}$
$0.088$

계산 결과를 보면 P(+|A) = 0.95로 높은 데 비해서 P(A|+) = 0.088로 많이 낮음을 알 수 있다.
이것은 A의 무조건부 확률, P(A) 가 0.01로 낮기 때문인데, 그렇더라도 P(A|-) = 0.00056에 비하면 높은 수치이다.

ex)

각각 1, 2, 3으로 번호가 붙은 세 개의 주머니가 있는데, 그 안에 5개의 공이 들어있다. 그런데 주머니 i에는 i개의 하얀 공과 (5-i)개의 검은 공이 들어 있다.
주머니 하나를 무작위로 뽑고, 뽑힌 주머니 안에서 한 개의 공을 무작위로 꺼내는 실험을 할 때, 하얀 공이 뽑힐 확률을 구하고,
또 하얀 공이 봅혔다는 조건하에 뽑힌 하얀 공이 3번 주머니에서 나왔을 확률은?
사건 A 는 하얀 공이 뽑히는 사건
사건 B는 주머니 i가 뽑히는 사건
하얀 공이 뽑일 확률은
$P(A) = \sum_{i=1}^{3}P(B_{i})P(A|B) = \sum_{i=1}^{3}[\frac{1}{3}][\frac{i}{5}] = \frac{6}{15}$

또한 베이즈 정리에 의하여
$P(B_{3}|A) = \frac{P(B_{3})P(A|B_{3})}{\sum_{i=1}^{3}P(B_{i})P(A|B_{i})}$
$=\frac{\frac{1}{3}\cdot\frac{3}{5}}{\frac{6}{15}}=\frac{1}{2}$

정의 3)

두 사건 A와 B가
$P(A \cap B) = P(A) \cdot P(B)$
를 만족시키면 서로 독립이라고 한다.

ex 3_1)

52장으로 이루어진 한 벌의 카드묶음에서 1장의 카드를 무작위로 추출할 때 ‘king’을 뽑는 사건을 K, ‘diamond’를 뽑는 사건을 D
$P(K\cap D) = \frac{1}{52} = \frac{1}{13}\cdot\frac{1}{4} = P(K)\cdot P(D)$ 이므로
두 사건 K와 D는 서로 독립이다.

정의 4)

n개의 사건 $A_{1}, A_{2}, \cdot \cdot \cdot, A_{n}$ 이 있다.
1부터 n까지의 자연수 중에서 가능한 임의의 k개의 첨자집합(index set) $i_{1}, i_{2}, \cdot \cdot \cdot, i_{k} (k = 1, \cdot \cdot \cdot, n)에 대하여$
$P(A_{i1} \cap A_{i2} \cap \cdot \cdot \cap A_{ik} = P(A_{i1})P(A_{i2})\cdot \cdot P(A_{ik})$
가 성립하면 사건 $A_{1}, A_{2}, \cdot \cdot \cdot, A_{n}$ 은 서로 독립이다

ex 4)

동전을 3회 던져다고 하자. $H_{1}$을 첫 번째 던진 결과가 앞면(H)일 사건, $T_{2}$를 두 번째 던진 결과가 뒷면(T)일 사건, $H_{3}$를 세 번째 던진 결과가 앞면(H)일 사건이라고 하자. 각 시행에서 앞면이 나올 확률은 1/2로 동일 하다.
$P(H_{1} = P(T_{1}) = P(H_{3}) = \frac{1}{2}$
$P(H_{1}\cap T_{2}) = P(HTH,HTT) = \frac{1}{8} = \frac{1}{2}\cdot\frac{1}{2}=P(H_{1})\cdot P(T_{2})$
이므로 두 사건 $H_{1}$ 과 $T_{2}$는 서로 독립이다.
$P(H_{1}\cap H_{3}) = \frac{1}{8} = \frac{1}{2}\cdot\frac{1}{2}=P(H_{1})\cdot P(H_{3})$
$P(T_{2}\cap T_{3}) = \frac{1}{8} = \frac{1}{2}\cdot\frac{1}{2}=P(T_{2})\cdot P(H_{3})$
두 사건 $H_{1}$ 과 $T_{3}$, $H_{2}$ 과 $T_{3}$는 서로 독립이다.
$P(H_{1}\cap H_{2}\cap T_{3}) = P(HTH) = \frac{1}{8} = \frac{1}{2}\cdot\frac{1}{2}\cdot\frac{1}{2}=P(H_{1})\cdot P(T_{2})\cdot P(H_{3})$
가 성립하므로 $H_{1},T_{2},H_{3}$ 는 서로 독립이다.

답글 남기기

이메일 주소를 발행하지 않을 것입니다.