Juhongyee

6 정규분포의 조건부 분포(Conditional distribution of Normal distibution)

서론가끔 정규분포의 조건부 분포에 대해 묻는 문제가 나오거나 조건부 분포가 필요한 순간이 오곤 합니다.그런데 저는 외우고 있지 않기 때문에 항상 고역을 겪었습니다.이번엔 이 조건부 분포를 조금 쉽게 기억하고 유도할 수 있도록 그 방법을 알아봅시다. 글이 조금 간결하도록 김우철 수리통계학(2012) p.183의 정의를 기반으로 증명을 보이겠습니다. Stack Exchange의 아래 증명을 참고했습니다.https://stats.stackexchange.com/questions/30588/deriving-the-conditional-distributions-of-a-multivariate-normal-distribution 본론1. 조건부 분포의 간단한 직관우리는 다변량 정규분포에서 조건부 분포를 찾기를 원합..

서론이번엔 조금 가벼운 글을 적어볼까 합니다.Rao-Cramer lowerbound에 대한 내용인데요. 처음 이걸 알게 되었을 때는 참 신기했습니다. 분산의 lower bound를 잡을 수 있다는 사실이 신선했습니다.그러나 조금 더 공부한 후에는 distribution을 아는 게 필요하다는 사실에 살짝 좌절한 것도 있습니다. 그러나 이 주제에서 알아갈 수 있는 포인트들이 많은 것 같아 알고 있다면 도움이 되지 않을까 싶습니다. 증명도 간단하니, 그 의미가 무엇인지 기억하는 걸 목표로 합시다! 본 포스팅은 수리통계학(2012, 김우철)의 내용을 참고하였습니다. 본론1. Rao-Cramer lowerbound의 의미!!!어떤 분포에서 얻어진 Sample $X$가 있을 때 X로 만든 추정량 $\hat{\eta..

서론지난 Chapter 7 Multiple Regression : Model Validation and Diagnostics1 글에 연이은 글입니다.지난번에 Internally studentized residual의 성질에 대해 절반 정도 알아보았고, 오늘은 Externally studentized residual과 Influential point에 대해 알아보겠습니다. 본 포스팅은 서울대학교 25학년도 1학기 대학원 응용통계 수업 내용의 일부를 정리하고,Rencher, Alvin C., and G. Bruce Schaalje. 2008. *Linear Models in Statistics*. 2nd ed를 참고합니다. 본론1. Internally studentized residual의 성질 iii) $..

서론Central Limit Theorem의 전반적인 정리들입니다. 증명이 크게 어렵진 않은데 시간은 크게 없으니 일단 생략하고 정리 내용 위주로 이해해봅시다. 본론Theorem 1 Central Limit TheoremAssume that $(X_n)_{n \in \mathbb{N}^+}$ are i.i.d. with $E[X_1] = \mu$ and $Var(X_1) = \sigma^2 \in (0,\infty)$.Then, $\frac{S_n - n\mu}{\sigma \sqrt(n)} \xrightarrow{d} N(0,1)$.우리가 잘 아는 Central Limit Theorem이 나왔습니다. 통계에서는 Central Limit Theorem 없이는 말할 수 있는 주제가 크게 없습니다.이 식의 ..

서론확률론 기말고사 범위 중 Characteristic Function의 부분을 다루려고 합니다. 기말이 얼마 안 남았는데 큰일 났습니다.바로 시작하죠. 본론Characteristic Function(특성함수)는 m.g.f와 다르게 모든 $t$에 대해 성립한다는 장점이 있습니다. 1. Definition of Characteristic FunctionLet $\mu$ be a (sub)borel measure.Then, the ch.f $\varphi$ is defined by $\varphi (t) = \int e^{itx} du(x) \space \space t \in \mathbb{R}$ - $\varphi_\mu = \varphi_\nu$ if and only if $\mu = \nu$- $\in..

서론확률론 과제를 해야 합니다.큰일 났습니다. 증명이고 뭐고 다 건너뛰고 정리만 보겠습니다. 대신 각 정리와 lemma마다 직관적인 설명을 곁들이겠습니다. SLLN은 특별히 증명하겠습니다. 시작합시다.(본 포스팅은 9개의 Theorem들과 5개의 Lemma 하나의 definition을 소개함으로 WLLN과 SLLN을 소개합니다.)본론Theorem1 - Kolmogorov's inequality theoremLet $\{X_n\}$ be a seq of indep r.v.s. with $EX_n = 0, var(X_n) = \sigma_n^2 Then, $\displaystyle P(\max_{1 \leq j \leq n} |S_j| \geq \epsilon) \leq \sum_{j=1}^n \frac{..

서론중간고사가 망해서 공부를 열심히 해야겠다 싶어요 ㅋㅋ 본 포스팅은 서울대학교 25학년도 1학기 대학원 응용통계 수업 내용의 일부를 정리하고,Rencher, Alvin C., and G. Bruce Schaalje. 2008. *Linear Models in Statistics*. 2nd ed를 참고합니다.본론7.1 ResudualsThe residuals can be written as $\hat{\epsilon} = y - X\hat{\beta} = (I-H)y = (I-H)(X\hat{\beta} + \epsilon) = (I-H)\epsilon$ residual이란 무엇이냐. 원래 우리가 가진 $y$값에 예측한 $\hat{y}$를 뺀 값입니다. 즉, 우리의 예측이 틀린 부분입니다.위의 식에서 봤..

서론지난 포스팅에서는 확률변수란 무엇인지 배웠습니다.확률변수는 Real-Valued Measurable function이라고 할 수 있었죠! 이번 시간에는 이 확률변수들의 연산한 것도 확률변수가 됨을 보이겠습니다. 원래 연속함수를 확률변수에 씌워도 확률변수입니다만 그에 대한 것은 추후 포스팅하겠습니다. 오늘 확인할 내용은 총 4가지이고 아래와 같습니다. 체크해 보겠습니다.$c$ : constants1) $c+X$2) $cX$3) $X+Y$4) $XY$ 마지막 추가로 $\sup X_n, \inf X_n, \limsup X_n, \liminf X_n$도 알아보죠!본론If $X$ is a r.v., then $c+X$ is also a r.v. 상수배를 한 것도 확률변수라는데요. 직관적으로 당연합니다. 예를 ..

서론이번 시간에는 간단히 Random Variable에 대해 알아보겠습니다.우리는 평소에 정확한 정의 없이 이를 사용하곤 하는데요, 이번엔 이를 확실하게 정의하고 넘어가 보겠습니다. 간단하게 요약해 보면, 확률은 사실 사건을 측정한 것입니다. 여기서 확률변수란 그 측정에 대한 함수, 즉, measurable function을 의미합니다.(읽어도 모르겠다구요? 그럼 그냥 외워.라고 할 뻔.) 간단히 예시만 들고 넘어가 봅시다. 실수축 위에서 0부터 3까지의 길이를 측정해 봅시다. 혹은, 함수 높이는 1, 밑변은 3짜리 직사각형의 넓이를 측정한다고 해봅시다. 그럼 $\int_{[0,3]} 1 dx$을 구한다고 생각해 볼 수 있겠죠?그러면 위의 step function을 $\mathcal{f}$라고 해봅시다...

서론확률론 4번째 주제는 Borel Cantelli lemma의 첫번째 버전입니다. 정말 확률론에서 많이 쓰는 정리이기 때문에 확실히 알고 있을 필요가 있습니다. 오늘은 다음과 같은 순서로 내용을 알아봅시다.1. 집합의 limsup, liminf2. infinitely often(i.o.)3. Borel Catelli lemma 집합의 limsup부터 시작해봅시다. 본론1. Def limsup and liminfLet $A_i \in \mathcal{F} \space i \geq 1$.Then,$\displaystyle \limsup_{n \rightarrow \infty} A_n = \bigcap_{n=1}^{\infty} \bigcup_{k=n}^{\infty} A_k$$\displaystyle \l..