전체 글 103

Bernstein inequality(베른스타인 부등식)

Bernstein InequalityStatementIf $\mathbb{P}(|X_i| \le c) = 1$ and $\mathbb{E}(X_i) = 0$ then, for any $t > 0$,$$\mathbb{P}(|\bar{X}_n| \ge \epsilon) \le 2 \exp\left(-\frac{n\epsilon^2}{2\sigma^2 + 2c\epsilon/3}\right)$$where $\sigma^2 = \frac{1}{n}\sum_{i=1}^n \text{Var}(X_i)$Bounded random variable에서 사용 가능하며 Hoeffding inequality와 비교 가능합니다.Mean이 $0$이므로 MGF(Moment Generating Function)를 구할 때 실질적으로..

TDA6 Cubical Complex

서론제 노트 필기의 일부분을 블로그에 올려둡니다.. Markdown으로 포스팅을 써보긴 처음인데 써보고 괜찮으면 애용하겠습니다.본론1. Cubical complex의 기본 아이디어Simplicial Complex의 기본 단위 : simplex$$\text{vertex},\quad \text{edge},\quad \text{triangle},\quad \text{tetrahedron},\quad \cdots$$Cubical Complex의 기본 단위 : cube-shaped cell$$\text{vertex},\quad \text{edge},\quad \text{square},\quad \text{cube},\quad \text{hypercube},\quad \cdots$$2. Higher-dimensio..

TDA 2026.06.01

TDA5 Probabilistic Reconstruction

서론TDA를 확률적으로 해석하는 연구는 흔치 않습니다. 아직 연구해야할 내용이 정말 많이 남았습니다.이번 포스팅은 이를 위해 확률적으로 manifold를 재구성하는 방법론의 일부를 알아보겠습니다. 서울대학교 김지수 교수님의 강의노트 Geometric Reconstruction을 참고할 예정입니다.더불어,Frédéric Chazal, Marc Glisse, Catherine Labruère, and Bertrand Michel. Convergence rates for persistencediagram estimation in topological data analysis. J. Mach. Learn. Res., 16:3603–3635, 2015. 도 참고하겠습니다. 본론1. 정의$\mathbb{X} : \..

TDA 2026.05.24

비모수 함수 추정론 중간대비

서론비모수 함수 추정론 중간고사를 대비해서 중요한 것들 중 제가 잘 모르는 정리들을 정리해 놓고 그 증명 방법들을 요약하는 cheat sheet을 만들 계획...입니다만...다 적고 나서 계획한 대로 되어 있을지는 모르겠네요. 해보죠. 본 포스팅은 서울대학교 박병욱 교수님의 비모수함수추정론 강의노트를 참고하여 기록되었습니다. 본론2장 1. KDE optimal kernelMISE($h_{opt}$)는 정해졌는데 이 MISE를 다시 최적화 하려면 $\mu_2(K)(\int K^2)^2$를 최소화하는 $K$를 찾아야 합니다.$$\frac{5}{4} \left( \mu_2(K) \left( \int K^2 \right)^2 \right)^{2/5} \left( \int (p'')^2 \right)^{1/5} ..

응용위상 수업 정리 6

서론오늘은 Homology를 알기 위해 정의부터 하나하나 알아갈 예정입니다만! 복습의 차원이기도 하고 간단하기도 해서, simplicial complex의 정의, filtration 등등은 아래의 포스팅을 참고해 주세요!https://juhongyee.tistory.com/81 TDA 1 - Matrix reduction for Persistent homology[1]서론TDA에는 많은 분야가 있지만 요즘 사람들이 많이 하는 TDA를 하기 위해서는 Persistent homology를 계산할 수 있어야 합니다.Persistent Homology를 다양한 complex 예를들어 cech complex나 alpha complex 등에서juhongyee.tistory.com 본 포스팅은 서울대학교 수리과학부 ..

CourseWork/위상 2026.04.15

라쏘 회귀(LASSO regresson)

서론LASSO가 Least Absolute Shrinkage and Selection Operator의 약자인 줄은 난생처음 알았습니다. 의미로는 회귀계수 $\beta$를 0의 방향으로 줄이고, 0 이외의 값을 가진 변수만 선택함으로 변수 선택(Variable Selection)도 된다는 것입니다.어떻게? 라는 질문을 던질 수 있는데, 이 글은 그 어떻게란 질문을 넘어서 정말 잘 되나?를 알아 보는 글이 되겠습니다.즉, 개념적인 LASSO regression이 아니라, 실질적인 그 특성들을 증명해보고자 합니다. 그럼 시작해보죠! 본 포스팅은 서울대학교 김지수 교수님의 통계적 기계학습 강의노트 Shrinkage methods(축소법)를 참고합니다. 본론0. 우리의 가정먼저 선형회귀 모형을 떠올립시다.$$Y..

머신러닝 2026.04.14

8 O_p(1)

서론적어야지 적어야지 하다가 이제 적게 되네요.통계학에서 너무나도 중요한 $O_p$ notation입니다.$o_p$는 이번 포스팅에서는 안 다룰 거구요. $O_p$의 간단한 성질과 직관이 어떤지 알아봅시다. 본론https://en.wikipedia.org/wiki/Big_O_in_probability_notation 위의 링크는 위키피디아 링크인데 저기서 사용하는 $O_p$ 정의를 사용하도록 하죠. First Def of $O_p(1)$Random variable $Z_n = O_p(1)$ if for all $\epsilon$, If there exitsts $M,N$ such that $$\forall n \ge N \quad \mathbb{P}(|Z_n| > M) 진짜 처음볼 때는 뭔 소리인가 싶..

L2norm is continuous.

서론https://juhongyee.tistory.com/97 bias, variance of KDE - 증명[2]서론KDE의 성질을 증명하는 두 번째 글입니다.오늘은 KDE의 MISE(Mean Integrated Squared error)를 보이겠습니다. 이를 보이는 건 $\text{MISE} = \int \text{bias}^2 + \int \text{variance}$공식을 통해 유도할 수 있습니juhongyee.tistory.com위의 글에서 $\int \text{bias}^2 dx$ 파트에서 LDCT를 증명하기 위해 $L_2$ norm이 continuous하다는 것을 사용했습니다.증명을 간단히 적어놓겠습니다. 함수해석학의 증명이 들어갑니다. 인터넷 어디서 Terence Tao가 쓴 무슨 solu..

응용 위상수학 수업 정리 4

서론오늘은 지금까지 알아본 내용을 토대로 정리들과 weighted graph에 대해 알아보죠. 정리들은 리스트는 아래와 같습니다.1. Cauchy -Binet Thm2. Matrix-Tree Thm3. Temperly Thm 본 포스팅은 서울대학교 수리과학부 국웅 교수님의 2026 1학기 응용 위상수학 강의 내용을 정리합니다. 본론1. Cauchy-Binet Thm$L = QQ^{\top}$ : Laplacian matrix.$\text{det} L = $ ? Let $A$ and $B$ be $n \times m ( n \le m)$ with column of both $A$ and $B$ indexed by $[m] = \{1,2, \cdots, m\}$.For $S \in \binom{[m]}{n}..

CourseWork/위상 2026.03.25

응용 위상수학 수업 정리 3

서론오늘은 Incidence matrix $Q$와 관련된 정리들을 알아보겠습니다. 본 포스팅은 서울대학교 수리과학부 국웅 교수님의 2026 1학기 응용 위상수학 강의 내용을 정리합니다. 본론Signed edgesLet $E$ be a collection of "signed" edges. $E = \{\epsilon_1 e_1, \cdots, \epsilon_m e_m\}$ where $\epsilon = 1, 0 ,-1 \quad \forall i$$\vec{E} = [\epsilon_1, \cdots, \epsilon_m]^{\top}$. Then $Q \vec{E} = [f_1, \cdots, f_n]^{\top}$ $$\begin{aligned}f_i &= \text{# of incoming edg..

CourseWork/위상 2026.03.20

비모수 복습 - Bandwidth Selection

서론복습은 간단하고 빠르게 해 보겠습니다. 오늘은 Bandwidth selection를 주제로 복습해 보겠습니다.수업 시간에 증명은 거의 다루지 않기 때문에 증명은 따로 공부해야 합니다 ㅠ 그럼 시작해 보죠. 본 포스팅은 서울대학교 박병욱 교수님의 비모수함수추정론 강의노트를 참고하여 기록되었습니다. 본론0. Motivation 우리는 최적인 bandwidth를 구하고 싶습니다. 그런데 앞서 아래와 같은 최적을 구했습니다.$$h_{\text{opt}} = [\frac{\int K^2}{(\mu_2(K))^2 \int(f'')^2}] n^{-1/5}$$ 대충Kernel제곱의 넓이가 크면 bandwidth를 키우고,분산이 크면 bandwidth를 줄이고,$\int (f'')^2$으로 포함되는 원래 확률분포의 ..

응용 위상수학 수업 정리 2

서론응용 위상수학 정리 두 번째 글입니다. 설명은 줄이고,직관적으로,빠르게, 적어보겠습니다. 본 포스팅은 서울대학교 수리과학부 국웅 교수님의 2026 1학기 응용 위상수학 강의 내용을 정리합니다. 본론Find $\kappa(G)$(tree number).Ans :ex) $G = K_n$(complete graph)$\kappa(K_n) = n^{n-2}$ by Cayley's thm Spanning forest and rooted forest1) A spanning forest in $K_n \space : \space F = T_1 \amalg \cdots \amalg T_c \quad (c= C(F))$where each $T_i$ is a tree and $\bigcup_{i=1}^c V(T_i)..

CourseWork/위상 2026.03.16

비모수 복습 - CLT in KDE

서론KDE(Kernel Density Estimator)에서는 CLT가 성립합니다. 한 점 $x$를 고정시켰을 때 KDE의 값이 CLT를 따른 다는 뜻입니다.확실한 건 pointwisely CLT를 따릅니다. 한 번 증명해보죠. 어렵지 않습니다. 본 포스팅은 서울대학교 박병욱 교수님의 비모수함수추정론 강의노트를 참고하여 기록되었습니다. 본론Asymptotic normalityAssume (A5), (A6).1. $f$ is continuous at $x$2. $|t|K^2(t) \to 0 \space \space \text{as} \space \space |t| \to \infty, \quad \int K^2 and $h \to 0$ and $nh \to \infty$ as $n \to \infty$..

응용 위상수학 수업 정리 1

서론최대한 간단하게.설명도 단순하게. 노트필기 한 내용을 옮겨 보겠습니다. 본 포스팅은 서울대학교 수리과학부 국웅 교수님의 2026 1학기 응용 위상수학 강의 내용을 정리합니다. 본론Combinatorial Laplacian$\triangle_n = \partial_{n+1}\partial_{n+1}^{\top} + \partial_{n}^{\top}\partial_n$ $$C_{n+1}(X)\overset{\partial_{n+1}}{\underset{\partial_{n+1}^{\top}}{\rightleftarrows}}C_n(X)\overset{\partial_n}{\underset{\partial_n^{\top}}{\rightleftarrows}}C_{n-1}(X)$$ Chain complex에..

CourseWork/위상 2026.03.10

Bootstrap 요약

서론우리는 대체로 데이터가 무슨 분포를 가지는 지 알 수 없습니다.그래서 통계학자들은 Bootstrap이라는 방법론을 개발했습니다. 차근차근 있는 데이터들을 통해서 구성해 나가는 방법인데, TDA에서도 Confidence Interval을 구할 때 Bootstrap을 종종 이용하곤 합니다. 오늘은 논문을 읽는데 Bootstrap이 잘 정리되어 있는 논문을 발견하여, 본 포스팅에 요약을 해두고자 합니다.가끔 필요할 때마다 펼쳐보면 좋을 것 같네요. 본 포스팅은 Chazal, F., Fasy, B. T., Lecci, F., Rinaldo, A., Singh, A., & Wasserman, L. (2014). On the bootstrap for persistence diagrams and landscape..

Scheffe's Theorem - Borel set에서 수렴

서론확률론의 모든 주제를 커버하기보다 정리 가볍게 하나하나 포스팅해볼까 합니다. 그 일환으로 오늘은 Scheffe's Theorem을 알아보겠습니다.Borel set $B$의 measure가 약수렴(weak convergence)에서 어떻게 되는지 보여주는 정리입니다. 본 포스팅은 Durrett, R. (2019). Probability: Theory and Examples (5th ed.). Cambridge University Press을 참고합니다. 본론Thm Scheffe's TheoremAssumption- $f_n \space (1 \le n \le \infty)$ is a Probability density function.- $f_n \to f_{\infty} \space \text{poi..

비모수 복습 - Introduction

서론비모수 함수 추정론 첫 번째 시간 복습 글입니다. 사실 복습이랄 게 없는 게 수업을 쨌습니다.감사합니다. 중요해보이는 것만 빠르게 적어보겠습니다.본 포스팅은 서울대학교 박병욱 교수님의 비모수함수추정론 강의노트를 참고하여 기록되었습니다. 본론1. Nonparametric regression modelsWith $Y_i \in \mathbb{R}$ and $X_i \in [0,1]^d$, assume$$Y_i = f(X_i) + \epsilon_i, \quad 1 \le i \le n$$ - $f$ : unspecified, smooth- $\epsilon_i$ : unobservable and $\mathbb{E}(\epsilon_i | X_i) =0$. Objective : estimate $f$ u..

bias, variance of KDE - 증명[2]

서론KDE의 성질을 증명하는 두 번째 글입니다.오늘은 KDE의 MISE(Mean Integrated Squared error)를 보이겠습니다. 이를 보이는 건 $\text{MISE} = \int \text{bias}^2 + \int \text{variance}$공식을 통해 유도할 수 있습니다.그러므로 우리는 $\int \text{bias}^2$와 $\int \text{variance}$를 구해보겠습니다. 본 포스팅은 서울대학교 박병욱 교수님의 비모수함수추정론 강의노트를 참고하여 기록되었습니다. 본론1. $\int \text{bias}^2(\hat{f}(x;h))dx$Assume that $f''$ is continuous on $\mathbb{R}$,$\int (f''(x))^2 dx $\int t^2K..

bias, variance of KDE - 증명[1]

서론지난 글에 KDE(kernel density estimator)의 bias와 variance, MISE에 대해 알아보았습니다.이번 글에서는 bias와 variance를 구하는 세부적인 증명을 알아보도록 하겠습니다.다음 글에서는 MISE를 유도해 보겠습니다. 증명을 간결하게 쓰는 것도 물론 좋겠지만 세세하게 적는 걸 목표로 하겠습니다. 본 포스팅은 서울대학교 박병욱 교수님의 비모수함수추정론 강의노트를 참고하여 기록되었습니다. 본론Assumptions$f^{(r)}$ means rth derivative of f. (A1) $f^{(r)}$ is continous at $x$ and $f^{(r)} \in L^1$(A2) $|u|^{r+1}K(u) \to 0 \space \text{as} \space |..

bias, variance of KDE

서론서울대학교 박병욱 교수님의 비모수 함수 추정론 수업의 일부를 정리해두고자 합니다.kernel이나 함수 추정의 관점이 통계학에서 정말 많이 사용되기 때문에 알아두는 것이 언제나 득이 되겠습니다. 오늘 글은 kernel density estimator, 즉, kernel을 활용해 확률분포함수를 추정하는 방법에 관한 글입니다.특히, kernel density estimator의 bias와 variance가 무엇인지 알아보겠습니다. kernel density estimator는 줄여서 KDE 혹은 kde라고 쓰겠습니다. 본 포스팅은 서울대학교 박병욱 교수님의 비모수함수추정론 강의노트를 참고하여 기록되었습니다. 본론Let $K_h(\cdot) = \frac{1}{h} K(\frac{\cdot}{h})$. T..

Hatcher 개념 정리 Chapter 1 - van Kampen Theorem

서론fundamental group을 계산할 수 있는 van Kampen Theorem을 알아보겠습니다. 증명은 포스팅하기에 좀 복잡해서 패스하고 statement와 example 정도만 살펴봅시다.본 포스팅은 Algebraic Topology (Hatcher)를 참고하여 정리하였습니다. 본론0. 전제 조건 및 정의 1) Space $X$2) $X = \bigcup_{\alpha} A_{\alpha}$.3) $A_{\alpha}$s are path-connected, open and contains base point $x_0 \in X$.4) $j_{\alpha} : \pi_1(A_{\alpha}) \to \pi_1(X)$ : inclusion induced homomorphism5) $\Phi :..

CourseWork/위상 2026.02.11

Abstract Algebra 정리

서론대수위상을 공부하다 보면, 대수를 가끔 써야 하는데 솔직히 기억이 잘 안 날 때가 많습니다.그래서 기본적인 정리들은 좀 하나에 모아두려고 합니다. 원래 책 보고 쓰려고 했는데 좋은 블로그가 있어서 블로그에 정리하신 부분들을 참고하려 합니다.https://chocobear.tistory.com/ 2!=2생각날 때마다 포스팅하는 블로그chocobear.tistory.com 내용과 정리가 매우 깔끔하고 좋은 블로그입니다.제가 필요한 것들만 모아보죠. 본론1. semigroup집합 S가 있다고 하자.이항연산 $* : S \times S \to S$에 닫혀 있고 결합법칙(Associativity)가 성립하면 S를 semigroup이라고 한다. - 연산 닫힘- 결합 법칙 만족 2. MonoidSemigroup ..

CourseWork/위상 2026.02.09

Hatcher 개념 정리 Chapter 1 - Induced Homomorphism 2

서론이번 포스팅은 지난 포스팅에 이어 Induced Homomorphism을 더 알아보겠습니다. 오늘 자세히 다룰 주제는1. inclusion homomorphism2. basepoint와 homotopy입니다. 우리가 지금하고 있는 이야기를 정리해 봅시다.위의 그림은 induced homomorphism을 도식화한 그림입니다.space $X$가 연속 함수 $f$에 의해서 $Y$로 변형되었습니다.이때, $X$의 fundamental group인 $\pi_1(X)$는 $/pi_1(Y)$로 바뀌게 됩니다. 이 과정은 group이 바뀌는 과정이고 $f_*$이라는 homomorphism에 의해 있게 됩니다.$f_*$은 $f$로부터 유도되었기 때문에 induced homomorphism이라고 부릅니다. 우리가 포..

CourseWork/위상 2026.02.04

Hatcher 개념 정리 Chapter 1 - Induced Homomorphism 1

서론이번 포스팅은 Induced Homomorphism에 관련된 포스팅입니다. 간단히, 오늘의 내용을 요약해 보겠습니다.Space $X,Y$ 가 있다고 합시다.$X$를 $Y$로 변환 하는 연속 함수 $\varphi : X \to Y$를 생각합시다. 그러면 $X$의 fundamental group의 각 class에 $\varphi$를 적용해 주면 $Y$의 fundamental group이 됩니다.이는 group 간의 homomorphism이 되고 연속함수$\varphi$로부터 유도되었습니다. 우리는 이런 사실을 이용하여1. $S^n, n \ge 2$의 fundamental group이 trivial이라는 것2. $\mathbb{R}^2$가 어떤 $\mathbb{R}^m, m \neq 2$와 homeomor..

CourseWork/위상 2026.02.03

2025 한양대학교 수리논술 오전 1번 문제 해설

서론유튜브에서 본 수학강사 정병훈 선생님께서 풀이에 대한 해설을 꼼꼼히 작성해 보는 게 수학실력에 도움이 된다고 하셔서 논술 문제를 풀어보려 합니다.꼭 논술 문제일 필요는 없지만, 수학적 사고를 증진하는데 퀄리티 있는 문제가 도움이 될 것 같아 그냥 하나 선택해 봤습니다. 시작해 보죠. 본 문제의 저작권은 한양대학교에 있습니다. 문제의 원본은 아래 링크에서 다운받을 수 있습니다.https://go.hanyang.ac.kr/web/pds/pds_list.do?m_type=SUSI&ct02=ns01 기출문제연도별 기출문제를 안내드립니다.go.hanyang.ac.kr 본 문제의 풀이는 온전히 제 풀이이기 때문에 오류가 있을 수 있습니다.오류를 확인하셨다면 지적 부탁드립니다.본론한양대학교 2025 수리논술 오전..

Hatcher 개념 정리 Chapter 1 - Paths and Homotopy

서론Hatcher 책을 공부하며 얻은 직관과 지식들을 정리해 두는 포스팅입니다. 이번 포스팅은 Chatper1.1의 Paths and Homotopy입니다.내용이 상대적으로 간단하고 직관적이기 때문에 아이디어 위주로 설명해 보겠습니다. 이 포스팅은 Algebraic Topology (Hatcher)를 참고하여 정리하였습니다. 본론1. Definition of pathPath in a space X is defined by a continuous map $f : \mathbb{I} \to X$ where $\mathbb{I}$ is the unit interval $[0,1]$.위상수학에서 일반적으로 정의하는 path는 unit interval로부터의 continuous function입니다. 2. Def..

CourseWork/위상 2026.01.26

TDA4 DTM

서론통계학에서는 Robust(강건한) 라는 특성을 선호합니다. 이는 outlier와 같은 낮은 확률로 나오는 값들에 대해 모델이 흔들리지 않는 특성을 의미합니다. 또는 큰 경향성을 잘 지킨다는 뜻으로도 생각할 수 있습니다. 이런 특성을 선호하는 것은 TDA의 통계학에서도 같은데요. 오늘은 Robustness를 실현하기 위한 방법 중 하나로 DTM을 소개하겠습니다.DTM은 TDA에서 filtration을 robust하게 구성하기 위한 하나의 도구입니다.풀네임은 Distance To Measure입니다. 제가 알고 있는 것 중 가장 먼저 이 개념을 소개한 논문은Geometric Inference for Probability Measures (Chazal, F., Cohen-Steiner, D., & Méri..

TDA 2026.01.24

Hatcher 개념 정리 Chapter 0 - Homotopy and Homotopy type

서론대수 위상 공부하는데 개념 자꾸 까먹어서 좀 적어놔야겠습니다.간단한 이해와 개념들을 cheat sheet 형태로 좀 적어두려 합니다. 이 포스팅은 Algebraic Topology (Hatcher)를 참고하여 정리하였습니다. 이번에는 Chatper 0의 Homotopy and Homotopy Type의 개념을 정리합니다. 목차는 다음과 같습니다.Deformation RetractionMapping CylinderHomotopy, HomotopicRetractionHomotopy relative to AHomotopy equivalenceContractablenullhomotopic 본론1. Deformation RetractionA deformation retraction of a space $X$ ..

CourseWork/위상 2026.01.13

TDA3 - Gumbel distribution

서론최근 카이스트에서 있었던 ToGeDA workshop에 갔다 왔습니다.여기서 꽤나 흥미로운 발표가 있었는데 영국의 queen mary university의 임성현 박사님의 발표였습니다.https://sites.google.com/view/uzulim/main uzu limHi, I'm Uzu Lim. I am a mathematician working on topological and geometric data analysis (TGDA). Currently, I am a postdoctoral researcher at Queen Mary University of London. My research interests include: Data manifold Stochastic topology Pers..

TDA 2026.01.10

TDA2 - persistent module

서론간단하게 Persistent module을 알아보고 persistent homology가 persistent module이 됨을 알아봅시다. 본 포스팅은 서울대학교 김지수 교수님의 2023 가을학기 Persistent Homology and its stability 강의노트를 참고합니다. 본론persistent module이라는 것을 직관적으로 먼저 생각해 봅시다. 우리는 아래 포스팅에서 filtration에 대해 정의한 적이 있습니다.2025.12.05 - [머신러닝] - TDA 1 - Matrix reduction for Persistent homology[1] TDA 1 - Matrix reduction for Persistent homology[1]서론TDA에는 많은 분야가 있지만 요즘 사람들..

TDA 2026.01.04