단순회귀분석

단순회귀분석

 

단순회귀분석이란 목적변수 y를 1개의 설명변수 x의 1차식으로 나타내는 것입니다. 즉, y=b0+b1x의 식으로 관계식을 구하는 것이죠.^&^ 이 관계식에서 y를 목적변수, b0를 절편 혹은 상수항, b1을 편회귀계수, x를 설명변수라고 합니다.

회귀분석의 목적 중 하나가 예측이라 했죠? 그럼 실제 값과 예측 값 사이에 차이가 발생할 수도 있겠죠? 이러한 실제 값과 예측 값의 차이를 잔차(e)라고 합니다. 실제 분포가 y=x의 관계식에 일치하는 경우는 더뭅니다. 그러면 가능하면 잔차 e의 합계(실제 값이 예측 값보다 클 때에는 +의 잔차, 작을 때에는 -의 잔차라 함)가 최소가 되는 직선을 구해야 합니다. 하지만 이와 같은 직선은 y의 평균을 말하는 것이므로 x와 무관하고 의미가 없겠죠. 그리하여 +-의 부호를 없애기 위해 e를 자승하여 그 합계가 최소가 되는 직선을 추구하는 것이 바람직합니다. 이를 최소자승법이라 부르고 회귀분석의 이론적 배경이라 할 것입니다.

단순회귀분석에서 구한 식인 y=b0+b1x의 모회귀식은 y=B0+B1x(여기서 B는 베타입니다. 문자를 잘 못 찾아서 그만...용서하세요)입니다. 구한 회귀식을 가지고 모회귀식을 추론하는 것이죠.^*^ 그리하여 회귀분석에서 영가설은 회귀식에 의미가 없다(즉, B1=0)이고 대립가설은 회귀식에 의미가 있다(즉, B1=0이 아님)가 될 것입니다. 이러한 판정은 회귀분석 중 얻은 분산분석표의 유의도를 보고 연구자가 정한 수준 내에 들면 유의한 회귀식, 들지 못하면 유의하지 않은 회귀식으로 내리게 됩니다.

단순회귀식이 얼마만큼 유효한지를 볼려면 기여율(=결정계수, R2, 2는 윗첨자)을 보시면 됩니다. 예를 들어, 기여율이 .67이라면 목적변수 y의 67%를 설명변수 x값의 변동으로 설명할 수 있음을 나타냅니다. 따라서 기여율이 1에 가까울수록 회귀식이 잘 들어맞는 의미가 되겠죠.