수학 (55) 썸네일형 리스트형 수리통계학 (45) - 회귀분석의 기본 가정들 지난 글에서는 구간추정과 가설검정에 대해 써보았습니다. 이번 글에서는 회귀분석의 기본 가정들에 대해 써보겠습니다. 그런데 회귀분석은 일변량 분포뿐만 아니라 다변량 분포의 경우에도 활용할 수 있습니다. 따라서 회귀분석의 기본 가정들을 다루기에 앞서서 지금까지 다루었던 확률변수의 수렴에 관한 개념들을 다변량 분포로 확장한 내용을 언급하고 넘어가겠습니다. 이를 위해서 벡터 $ \mathbf{v}=(v_1,v_2,...,v_p) \in \mathbb{R}^p $ 의 노름(norm) $ ||\mathbf{v}|| $ 를 아래와 같이 정의하겠습니다. $ ||\mathbf{v}||=\sqrt{\sum_{i=1}^p v_i^2} $ 위와 같이 정의된 노름은 다음과 같은 성질들을 만족합니다. 벡터 $ \mathbf{u}.. 수리통계학 (44) - 구간추정과 가설검정 지난 글에서는 최우추정량의 성질에 대해 써보았습니다. 이번 글에서는 구간추정과 가설검정에 대해 써보겠습니다. 우선 점추정량과 구간추정량을 정의해보겠습니다. 점추정량은 미지의 모수에 가까울 것으로 생각되는 값을 추정한 결과입니다. 점추정량을 구하는 까닭으로는 다음과 같은 것들을 들 수 있습니다. 첫째, 미지의 모수가 중요한 정보를 담고 있어서 이를 알아내야 할 수도 있습니다. 둘째, 미래의 사건을 예측하기 위해서입니다. 다시 말해서, 보다 정확한 예측을 위해 점추정량을 실제 모수의 대리변수로 활용할 수 있습니다. 점추정량의 대표적인 사례로는 최우추정량을 들 수 있습니다. 그 외에도 회귀분석에서의 최소제곱추정량, 적률방법추정량 등이 점추정량에 해당됩니다. 바람직한 점추정량의 성질로는 앞선 글에서 언급한 불편.. 수리통계학 (43) - 최우추정량의 성질 지난 글에서는 피셔정보와 라오-크라메르 하한에 대해 써보았습니다. 이번 글에서는 최우추정량의 성질에 대해 써보겠습니다. 그런데 위 성질을 다루기에 앞서 확률변수의 수렴에 관한 개념과 성질들을 몇 가지 소개하겠습니다. 임의의 양수 $ \epsilon $ 과 확률변수의 수열 $ \left\{ X_n \right\}_{n=1}^\infty $ 에 대해서 아래와 같은 조건을 만족하는 양수 $ B_{\epsilon},N_{\epsilon} $ 이 항상 존재한다고 해보겠습니다. $ n \geq N_{\epsilon} \Rightarrow P(|X_n| \leq B_{\epsilon})\geq 1-\epsilon $ 위 조건이 충족된다면, $ \left\{ X_n \right\}_{n=1}^\infty $ 은 확률유.. 수리통계학 (42) - 피셔정보와 라오-크라메르 하한 지난 글에서는 최우추정법에 대한 내용을 써보았습니다. 이번 글에서는 최우추정법과 관련된 여러 개념들에 대해 써보겠습니다. 우선 지난 글에서 언급했던 정칙성 조건을 다시 써보겠습니다. (R0) 확률밀도함수 $ f(x;\theta) $ 는 모수 $ \theta $ 와 일대일 관계에 있습니다.( $ \theta_1 \neq \theta_2 \Rightarrow f(x;\theta_1) \neq f(x;\theta_2) $ ) (R1) 확률밀도함수를 양으로 만드는 $ \mathbf{X}=(X_1,X_2,...,X_n)' $ 들의 집합은 $ \theta $ 값에 무관하게 항상 일정합니다. (R2) 미지의 모수 $ \theta $ 의 참값을 $ \theta_0 $ 라고 한다면, 이 $ \theta_0 $ 는 모수의.. 수리통계학 (41) - 최우추정법 지난 글에서는 모분산을 추정하는데 활용되는 추정량들에 대해 써보았습니다. 이번 글에서는 최우추정법에 대해 조금 더 자세히 써보겠습니다. 우선 확률벡터 $ \mathbf{X} $ 를 구성하는 확률변수 $ X_1,X_2,...,X_n $ 은 iid한 확률변수이고 이들 변수는 모두 $ f(x;\theta) $ 의 확률밀도함수를 갖는 확률분포를 따른다고 가정하겠습니다. 한편 위의 함수 $ f(x;\theta) $ 의 모수는 $ \theta $ 하나로만 주어졌습니다. 사실 어떤 확률분포의 모수는 벡터가 될수도 있고, 여러 개가 있을 수도 있습니다. 하지만 앞으로의 논의에서는 편의를 위해서 모수가 스칼라이고 한 개만 있는 경우를 고려하겠습니다. 그리고 모수 $ \theta $ 가 $ \Theta $ 라는 집합 내에.. 이전 1 2 3 4 5 6 ··· 11 다음