[핵심 머신러닝] 선형회귀모델 3 (파라미터 구간추정, 가설검정) - 강의 정리

이 게시글은 김성범 교수님의 유튜브 강의를 정리한 내용입니다.

내용과 사진의 각 출처는 김성범 교수님께 있음을 미리 알립니다.

해당 게시글 강의 영상 : https://www.youtube.com/watch?v=uqfWFIcIF6s&list=PLpIPLT0Pf7IoTxTCi2MEQ94MZnHaxrP0j&index=32 

---

파라미터 추정 알고리즘

• Least square estimator

• Estimator(추정량) : 샘플의 함수
• 추정량의 용도 : 알려지지 않은 파라미터(B0,B1)를 추정
• 추정량의 종류 (1) 점추정 (point estimator) , (2) 구간추정 (interval estimator)

파라미터에 대한 점추정

최소제곱법 추정량 성질

• Gauss-Markov 이론에 의하면 최소제곱법에서 추정되는 B0과 B1은 Best Linear Unbiased Estimator(BLUE)
  • BLUE의 특징 (1) 편중되지 않은 (불편)추정량이다. (2) 가장 작은 분산은 갖고 있다.

파라미터에 대한 구간추정

• 점추정
• 구간추정
• 구간으로 추정하여 보다 유연한 정보 제공

• 기울기에 대한 신뢰구간

(B0는 많이 활용되지는 않음, 참고용)

기울기에 대한 가설검정

• 알려지지 않은 파라미터에 대한 가설을 세우고 이를 검정
• 일종오류 ∝ 하에서 기울기가 0인지 아닌지 검정