푹 찍어먹는 확률론 1 Probability Space and Measure

 

 

서론

본 포스팅은 서울대학교 대학원 통계학과 확률론1 과목 내용을 포함합니다.

교재로는 Durrett, R. (2019). Probability: Theory and Examples (5th ed.). Cambridge University Press 을 참고합니다.

 

지금까지 와의 포스팅과 다르게 정리들을 간단하게 정리하고 설명하는 형식으로 포스팅될 예정입니다.

 

시작하겠습니다.

 

본론

Measure Theory가 아닌 Probability Theory이기 때문에 Measure에 관해 심도 있게 다루지는 않습니다.

 

1. Def of probability space

A probability space is a triple $(\mathrm{\Omega },\mathcal{F},P)$

where $\mathrm{\Omega }$ is a set of "outcomes", $\mathcal{F}$ is a set of "events" and $P$ : $\mathcal{F}\to [0,1]$

 

여기서 $\mathcal{F}$는$\sigma$-field를의미합니다.$P$는 measure인데 events에 probability를 부여합니다.

events는 $\sigma$-field의 원소이고, 전체 outcome 중 우리가 보는, 수치화할 수 있는 대상입니다.

 

2. Def of $\sigma$-field

$\mathcal{F}$ is a $\sigma$-field, i.e. , a (nonempty) collection of subsets of $\mathrm{\Omega }$ that satisfy
(1) If $A$ $\in$ $\mathcal{F}$ then $A^c$ $\in$ $\mathcal{F}$
(2) if $A_i\in \mathcal{F}$ is a countable sequence of sets then $\bigcup _i{A}_i\in \mathcal{F}$ 

 

$\sigma$ - field는 complement(여집합)에 닫혀있고 countable union에 닫혀있습니다.

 

union과 complement에 닫혀있다면 intersection(교집합)에도 닫혀있습니다  By DeMorgan.

그러면 더불어 차집합에도 닫혀있습니다.

 

countable union이라는 조건은 finite union 조건보다 강한 조건입니다.

$\sigma$ - field의 element를 measurable set이라고 하겠습니다. measure의 정의역이기 때문입니다.

 

$(\mathrm{\Omega },\mathcal{F})$ is called a measurable space

 

만약 measure $P$를 정의하지 않았다면 이는 measurable space라고 합니다. measure를 올릴 준비가 된 공간입니다.

 

3. Def of Measure

A measure is a nonnegative countably additive set function;

that is, a function $\mu$ : $\mathcal{F}\to \mathbf{R}$ with
(1) $\mu (A)\ge \mu (\mathrm{\varnothing })=0\mathrm{\forall }A\in \mathcal{F}$
(2) if $A_i\in \mathcal{F}$ is a countable sequence of disjoint sets, then $\mu (\bigcup _i{A}_i)=\sum _i\mu (A_i)$

 

measure는 항상 0보다 크거나 같은, nonnegative인 함수입니다.

더불어 어떤 set을 겹치지 않게 덮을 수 있다면 각 조각들의 measure의 합이 그 set의 measure가 됩니다.

 

$\sigma$-field의 정의도 이 때문인데, 셀 수 있는 조각들로 합집합 해서 만든 그 집합이 다시 $\sigma$-field에 속함으로써 그 새로 만든 집합의 measure가 존재함이 보장됩니다.

 

왜 uncountable이면 안될까요? 아마 uncountable이 된다면 점으로 선을 덮을 수 있기 때문일 겁니다. 점은 measure가 0인데도 불구하고 0을 더해서 1을 만든다면 이상하니까요.

 

4. Measure Properties

(1) monotonicity : If $A\subset B$ then $\mu (A)\le \mu (B)$
(2) subadditivity : If $A\subset \bigcup _{m=1}^{\mathrm{\infty }}{A}_m$ then $\mu (A)\le \sum _{m=1}^{\mathrm{\infty }}\mu (A_m)$
(3) continuity from below. If $A_i\uparrow A$(i.e. $A_1\subset A_2\subset ...$ and $\bigcup _i{A}_i=A$ then ${\displaystyle \underset{n\to \mathrm{\infty }}{lim}\mu (A_i)=\mu (A)}$
(4) continuity from below. If $A_i\downarrow A$(i.e. $A_1\supset A_2\supset ...$ and $\bigcap _i{A}_i=A$, with $\mu (A_1)<\mathrm{\infty }$ then ${\displaystyle \underset{n\to \mathrm{\infty }}{lim}\mu (A_i)=\mu (A)}$

 

(3),(4)은  https://juhongyee.tistory.com/32 포스팅에서 증명하겠다고 했던 정리입니다.

증명이 어렵지 않으니 간단히 해봅시다.

 

Proof

우리는 measure가 잘 정의되어 있다고 가정합니다.

(1) 그러면 $A$는 $B$의 subset 이므로 $B=A+(B-A)$입니다. 위에서 언급했듯 $B-A$도 measurable입니다.

$A$와 $B-A$는 disjoint 하므로 $\mu (B)=\mu (A)+\mu (B-A)$입니다. 즉 $\mu (B)>\mu (A)$입니다.

더불어 $\mu (B-A)=\mu (B)-\mu (A)$임도 알 수 있겠습니다.(If $\mu (A)<\mathrm{\infty }$)

 

(2) Subaddivity는 disjoint하든 안 하든 덮기만 하면 measure가 더 크다는 뜻입니다. 어떤 sequence를 생각합시다. $A_1,A_2,...$.

 

여기서 제가 중요한 부분이 있습니다.

countable하게 덮기만 하면 Disjoint하게 만들 수 있다.

 

부분집합의 형태로 그러니까, continuous하게 덮으면(like (3),(4)) 더 쉽게 Disjoint하게 만들 수 있고 그냥 막 덮여도 disjoint하게 만들 수 있습니다.

이 증명에서는 막 덮여있는 케이스를 보겠습니다.

Sequence들과 $A$의 교집합을 고려합시다. $A_i^{\prime }=A\cap A_i$ 그러면 De Morgan에 의해 $A_i^{\prime }$의 union도 A를 덮는 걸 알 수 있습니다.

그리고 $B_n=A_n^{\prime }-\bigcap _{i=1}^{n-1}{A}_i^{\prime }$을 고려합시다. 이전 것까지 겹치는 것들을 모두 빼준 겁니다. 그러면 n번째는 1~n-1번째와 겹치는 부분이 없고 $B_{n+1}$부터는 $B_n$을 모두 빼줄 거니까, $B_1,B_2,...,B_n,...$들은 모두 disjoint 합니다.

Disjoint하기 때문에 measure의 성질을 이용할 수 있습니다.

$\mu (A)=\mu (\bigcup _{i=1}^{\mathrm{\infty }})=\sum _{i=1}^{\mathrm{\infty }}\mu (B_i)$입니다. 여기서 $\mu (B_i)\le \mu (A_i)$이므로 (1)에 의하여 $\mu (A)=\sum _{i=1}^{\mathrm{\infty }}\mu (B_i)\le \sum _{i=1}^{\mathrm{\infty }}\mu (A_i)$

 

$\therefore \mu (A)\le \sum _{i=1}^{\mathrm{\infty }}\mu (A_i)$

 

(3) 은 더 쉽습니다.  모두 합집합하면 A가 되는 형태로 덮고 있기 때문에 $A_i-A_{i-1}$을 고려합시다. $A_{i-1}$을 뺀다는 건 $1,...i-1$을 모두 부분집합으로 가지고 있기 때문에 1부터 $i-1$을 모두 빼는 것과 같습니다. 근본적으로 (3)과 같죠.

아래와 같은 느낌입니다 색이 다른 테두리가 $A_i^{\prime }$가 됩니다.

(GPT한테 조화로운 색 조합 좀 추천해 달라고 했는데 이거 알려줬습니다.)

Cover technique

(4) 조건 중 $A_1$이 finite하다는 조건이 있는데 생각보다 중요한 조건입니다. $A_n=[n,\mathrm{\infty }]$를 봅시다. 모두 부분 $A_{n-1}$은 $A_n$의 부분집합이고 Lesbegue Measure가 $\mathrm{\infty }$입니다. 그런데 $\bigcap _n{A}_n=\mathrm{\varnothing }$으로 measure가 0이죠.

그러므로 우리는 $A_1$이 finite하다는 조건을 주는 겁니다.

 

그렇다면 $A_1-A_n$을 고려합시다.(테크닉입니다.) $A_{n+1}$이 더 작은 집합이므로 $A_1-A_n\subset A_1-A_{n+1}$입니다. 그러면 (3)에 의해 ${\displaystyle \underset{n\to \mathrm{\infty }}{lim}\mu (A_1-A_n)=\mu (A_1-A)}$입니다.

$A_1\supset A$이므로 (1)에서 증명한 것처럼 $\mu (A_1-A)=\mu (A_1)-\mu (A)$입니다.

(만약 finite 조건이 없으면 마지막에서 어그러집니다.)

 

양변에 $\mu (A_1)$을 빼고 -를 곱해주면

$\therefore {\displaystyle \underset{n\to \mathrm{\infty }}{lim}\mu (A_n)=\mu (A)}$

 

결론

Probability Space를 정의하고 Measure의 properties들을 증명해 보았습니다.

다음 시간에는 실수집합에서의 $\sigma$-algebra인 Borel Set에 대해 알아보겠습니다.

 

일반적인 Topology에서는 아니고 real line에서 생각해 보죠.

 

그럼 다음 포스팅에서 만나요