기초통계학 Chapter 5: 회귀분석 (Regression analysis) Soon H. Kwon Intelligent Systems and Control Lab. Dept. of EE, Yeungnam Univ. CONTACT E-mail: shkwon@yu.ac.kr; URL: http://yu.ac.kr/~shkwon Room #: EE Hall 214, Tel: 3514
CONTENTS Chapter 5: 회귀분석(Regression analysis) 서론 단일예측변수를 가지는 회귀 직선회귀 모형 최소제곱법 모형의 적합도와 분산분석 회귀모형에서의 추론 모형 진단과 잔차 도표 직선회귀모형에서의 유의점 비선형 관계와 선형 변환 중선형회귀
5. 회귀분석 – 단순회귀분석 5.1 회귀모형 회귀분석(Regression analysis) * 변수들 간의 상호 관련성을 규명하고 어떤 변수들의 변화로부터 다른 변수들의 변화를 예측하는 통계기법 * [초점] - 변수들이 서로 어떤 관계가 있는가? - 관계가 있다면 얼마나 밀접한 관계인가? - 관심이 있는 하나의 변수가 다른 변수들에 의하여 얼마나 잘 예측될 수 있는가?
5. 회귀분석 – 단순회귀분석 변수 사이의 관계 모형 * 결정적 모형(Deterministic models) - 관계를 확률적 오차를 포함하지 않은 수식으로 표현한 모형 # E = mc2 # y = gt2/2, y = 거리, g = 중력가속도, t = 시간 * 통계적 모형(Statistical models) - 관계를 확률적 오차를 포함한 수식으로 표현한 모형
5. 회귀분석 – 단순회귀분석 회귀분석(Regression analysis) * 1885년영국의 F. Galton의 1078쌍 부자간의 키 관계를 분석 * 논문 “유전에 의한 신장의 보통사람의 신장으로 회귀(Regression toward mediocrity in hereditary stature)” 회귀모형(Regression models) = 결정적 모형 + 오차 회귀분석의 분류 * 단순 선형 회귀분석(Simple linear regression analysis) * (다)중 선형 회귀분석(Multiple linear regression analysis) * 다변량 회귀분석(Multivariate regression analysis)
5. 회귀분석 – 단순회귀분석 원인변수 x 결과변수 y ★회귀변수 분석의 제 1단계 : 산점도를 그리는 것은 통계적 분석을 위한 첫 단계 직선 모형에 대한 가정 (1) 선형 관계 (2) 오차들의 독립성 (3) 등분산성 (4) 정규분포 원인변수 x 결과변수 y 독립변수(Independent variable) 종속변수(Dependent variable) 입력변수(Input variable) 출력변수(Output variable) 예측변수(Predictor causal variable) 설명변수(Explanatory variable) 반응변수(Response variable)
5. 회귀분석 – 단순회귀분석 [예제 5.1]
5. 회귀분석 – 단순회귀분석 직선 회귀 모형
5. 회귀분석 – 단순회귀분석 해석 * 독립변수 xi에 대응하는 관측값 Yi는 평균이 b0 + b1xi이고 표준편차가 s 인 정규분포로부터 얻어지는 관측값 * 직선상의 참값을 관측하고자 할 때 현실적 상황에 의하여 임의 오차 e 가 더해져서 관측됨을 나타냄.
5. 회귀분석 – 단순회귀분석
5. 회귀분석 – 단순회귀분석
5. 회귀분석 – 단순회귀분석 5.2 회귀모형의 적합 산점도로부터 회귀직선의 추정, 즉 회귀모수 b0, b1에 대한 추정 문제 최소제곱법(Least square method)이 가장 보편적인 방법
5. 회귀분석 – 단순회귀분석 최소제곱법(Least square method) 하는 b0와 b1의 값을 결정함.
5. 회귀분석 – 단순회귀분석
5. 회귀분석 – 단순회귀분석
5. 회귀분석 – 단순회귀분석 최소제곱법(Least square method)
5. 회귀분석 – 단순회귀분석 최소제곱법(Least square method)
5. 회귀분석 – 단순회귀분석
5. 회귀분석 – 단순회귀분석
5. 회귀분석 – 단순회귀분석 [최소제곱법(Least square method) 예제 5.1]
5. 회귀분석 – 단순회귀분석 최소제곱법(Least square method)
5. 회귀분석 – 단순회귀분석