회귀분석

위에서와 같은 함수 관계를 “regression`이라는 용어로 처음 표현한 사람이 F.Galton이며, 이것이 유래가 되어 통계학에서는 변수간의 어떤 함수 관계를 표현하는 식은 회귀식(regression equation)이라는 용어로 사용하게 된 것이다.

2. 단순 선형 회귀분석

2-1 단순 선형 회귀 모형
반응변수 y와 설명변수 x 사이에 다음과 같은 선형관계가 있다고 가정하자.
y ＝ β0 + β1x + ε . (1)
위 모형은 변수 y를 변수 x에 대한 일차식으로 설명하려는 회귀모형이다. 여기에서 β0와 β1은 추정되어야 할 회귀계수(regression coefficient) 또는 모수(parameter)이며, ε 은 기대값 0, 분산 σ2을 갖는 오차항이다.
두 변수 (x, y)에 대한 n개의 데이타가 (x1, y1),․․․, (xn, yn)으로 주어질 때 (1) 은 다음과 같이 구체적으로 표현된다.
yi ＝ β0 + β1xi + εi, i = 1, ..., n. (2)
여기에서 εi의 분산은 σ2으로서 xi에 관계없이 일정하며 εi와 εj는 i≠j 이면 서로 독립이라고 가정된다. 또 통계적 추론을 가능하게 하기 위하여 εi 가 정규분포를 따른다는 가정을 추가하기로 한다. 오차항 ε 에 관한 여러 가정은 …(생략)