푹 찍어먹는 확률론 4 - Borel Cantelli lemma 1

서론

확률론 4번째 주제는 Borel Cantelli lemma의 첫번째 버전입니다. 정말 확률론에서 많이 쓰는 정리이기 때문에 확실히 알고 있을 필요가 있습니다.

 

오늘은 다음과 같은 순서로 내용을 알아봅시다.

1. 집합의 limsup, liminf

2. infinitely often(i.o.)

3. Borel Catelli lemma

 

집합의 limsup부터 시작해봅시다.

 

본론

1. Def limsup and liminf

Let $A_i \in \mathcal{F} \space i \geq 1$.

Then,
$\displaystyle \limsup_{n \rightarrow \infty} A_n = \bigcap_{n=1}^{\infty} \bigcup_{k=n}^{\infty} A_k$

$\displaystyle \liminf_{n \rightarrow \infty} A_n = \bigcup_{n=1}^{\infty} \bigcap_{k=n}^{\infty} A_k$

 

직관적으로 알아봅시다.

$\displaystyle \limsup_{n \rightarrow \infty} A_n$은 $n=1$일 때 전체 합집합을 하고 하나씩 빼면서 합집합을 해가네요.

1. 집합들이 여러 개가 있다고 해봅시다.

2. $\bigcup_{k=n}^{\infty} A_k$를 생각합시다. 1번부터 n-1번까지의 집합을 빼고 합집합한 겁니다.

(그럼 $n-1~\infty$까지의 집합의 부분집합이 되겠죠?)

3. 점점 작아지고, 포함되는 집합에 결국 합집합들에 core처럼 들어가는 집합이 생깁니다.(물론 공집합 일 수도 있습니다.)

우리는 이들을 $\limsup$이라고 부릅니다.

 

$liminf$는 표현하기 좋은 말이 있는데 All but finitely many 라는 말입니다. 초반 유한 개를 제외하고 전체라는 뜻입니다. 만약 $x \in \liminf A_n$이 있다고 해봅시다. 그럼 이 $x$는 어느 n을 기점으로는 계속 $A_n$에 들어가야 합니다. 그래야 교집합에 들어가겠죠.

반대로 $x \notin \liminf A_n$이 있다고 해봅시다. 그럼 결국엔 A_n 들에 계속 들어 있지는 않다는 뜻입니다.

일례로 짝수번째에만 들어 갔다가 홀수 번째에는 나가는 $x$를 생각해봅시다. 그러면 어떤 n에 대해 $\bigcap_{k=n}^{\infty} A_k$에는 $x$가 속할 수 없습니다. 짝수번째 집합에는 없으니까요.

결론적으로, 왔다갔다 하는 원소가 아닌 어느 시점부터 쭉 집합에 속하는 원소들을 모으는게 $\liminf$입니다.

아래는 간단한 예시입니다.

중간 색칠한 부분이 A_5 = A_6 = A_7...이라고 생각해보세요 liminf는?

 

여기서 $\limsup$과 $\liminf$의 차이가 생기는데요. $\limsup$은 위의 예와 같이 나갔다 들어왔다 하는 $x$를 포함합니다.

이런 무한히 들어왔다 나갔다 하는 $x$가 없으면 $\limsup = \liminf$가 성립하게 되고 우리는 limit가 존재한다고 합니다.

 

수열에서의 $\limsup$과 비교해볼까요.

합집합은 일종의 supremum 같은 겁니다. 모든 집합을 포함하는 집합 중 가장 작은 것을 구하는 것과 수열의 가장 작은 상한을 구하는 건 유사합니다.

교집합은 또한 일종의 infimum같은 겁니다. 모든 집합에 포함되는 집합 중 가장 큰 것을 구하는 것은 수열의 가장 큰 하한을 구하는 것과 유사합니다.

 

두 개 집합 $A,B$를 예로 들어보면 $A \cup B$는 $A,B$를 모두 포함하는 집합 중 가장 작은 집합입니다.

 

더불어, 수열의 sup,inf가 monotonically 감소하는 것과 유사한 속성도 있는데 그것이 부분집합을 통해 표현됩니다.

 

2. $\limsup A_n = (A_n \space i.o.)$

i.o.란 infinitely often의 줄임말입니다. 무한히 자주 튀어나온다는 뜻입니다.

 

어떤 $\omega \in (A_n \space i.o.)$라는 의미는 무한한 수의 $A_n$이 $\omega$를 포함한다는 뜻입니다. 그렇다는건 다음이 성립한다는 의미입니다.

$$ \omega \in (A_n \space i.o.) \Rightarrow \forall n \leq 1 \space \exists k_n \leq n \space s.t. \space \omega \in A_{k_n}$$

 

$\omega$가 어떤 n을 잡아도 그 뒤에 속하는 어떤 집합에 속해주면 됩니다.

어떤 n을 잡았을 때 뒤에 있는 모든 집합에 속할 필요는 없습니다. 즉, 나갔다 들어와도 됩니다.

 

$(A_n \space i.o.)$가 무한히 쭉 들어있는 $\omega$들과 나갔다 들어오는 $\omega$들의 합집합이므로 정의를 사용하면 굉장히 쉽게 $(A_n \space i.o.) = \limsup A_n$임을 보일 수 있습니다.

 

스케치만 해봅시다.

만약 $\omega$가 i.o.이라면 모든 n에 대해 그 위로 $\omega$를 포함하는 집합이 하나는 있습니다. 어떤 n을 잡아 그 위로 다 합집합하면 무조건 $\omega$를 포함하겠죠. 근데 n을 임의로 잡았으므로 모든 n에 대해 그 위로 다 합집합하면 $\omega$를 포함하고, 이들의 교집합은 $\omega$를 포함합니다.(모두가 포함하므로), limsup의 정의에 따라 , $\omega \in \limsup$.

 

$\omega$가 $\in \limsup$인 경우는 아예 반대로 하면 됩니다. 포인트는 합집합에 속하면 어떤 $k_n$에 대해 $\omega \in A_{k_n}$이라는 것입니다.

 

$\therefore \limsup A_n = (A_n \space i.o.)$ 

 

더불어 $\liminf A_n$은 무한히 쭉 들어있는 $\omega$들에 관한 것이므로 $\liminf A_n \subset (A_n \space i.o.) = \limsup A_n$

 

3. Borel - Cantelli's lemma 1

If $\displaystyle \sum_{n=1}^{\infty} < \infty$, $P(A_n \space i.o.) = 0$

 

겉보기엔 되게 간단합니다.

간단히 의미를 알아봅시다. 만약 event들의 확률의 합이 유한하면, 무한히 나오는 event의 확률은 0이다 라는 것입니다.

event들의 확률의 합이 유한하다는건 진짜 정말 작다는 뜻입니다.

어느정도냐면 각 $P(A_n)$. = 0.000000000000000001 어도 sum은 무한하죠.

그래서 뭐 예시를 들자면 $P(A_n) = n^{-2}$ 처럼 점점 작아지는 형상을 띠어야 합니다. 이런경우 $\sum A_n = \frac{\pi^2}{6} < \infty$ 입니다.

$P(A_n) = \frac{1}{n}$만 되어도 성립하지 않습니다.

 

진짜 사용할 일이 많은데, 예를 들어, $A_n$을 적당히 잘라 $A_{n_k}$라는 subsequence를 만드는데 $n^{-k}$차이가 나게 잡으면 finite해지기 때문에 $A_{n_k}$가 a.s. converge함을 보일 때 사용합니다.

 

쉽게 말해, 확률의 합이 유한할 정도로 작으면( = $A_n$의 확률의 합이 유한할 정도로 $A_n$이 줄어들면), 무한히 자주 나오는 outcome들은 나올 확률이 0이다 라는 뜻입니다.

아까 위에서 언급한 $\limsup$으로 만들어지는 core의 확률이 0입니다.

 

Proof)

$\displaystyle P(A_n \space i.o.) = P(\bigcap_{n=1}^{\infty} \bigcup_{k=n}^{\infty} A_k) = \lim_{n \rightarrow \infty} P(\bigcup_{k=n}^{\infty} A_k) \space \because $ continuity of measure  

$\displaystyle < \lim_{n \rightarrow \infty} \sum_{k=n}^{\infty} P(A_n) = 0 \because$ countable subadditivity and $\lim (S - S_n) = S-S = 0$

 

결론

먼저 집합에서의 $\limsup, \liminf$은 수열에서의 $\limsup, \liminf$과 비슷한 의미를 가졌었습니다.

이로부터 limsup은 무한히 자주 발생하는 outcome들의 집합이라는 직관을 얻었고 우리는 이를 $(A_n \space i.o.)$라고 불렀습니다.

liminf는 all but finitely often,즉, 초반 유한 개를 제외하고 계속 $A_n$에 들어있게 되는 outcome들의 집합이었습니다.

($(A_n \space eventually)$라고 부릅니다. ㅎㅎ)

 

마지막으로 Borel-Cantelli's lemma로부터, events sequence의 확률의 합이 finite하다면 무한히 자주 나오는 outcome들은 발생하지 않는다고 정리할 수 있겠습니다.

 

다음 포스팅에서 만나요.

끗