다중 선형회귀 하는 방법
- 반응변수 Y와 예측변수 열들을 머리글과 함께 복사합니다.
- 반응변수 Y를 고르고 숫자형·범주형 예측변수를 체크합니다(체크한 순서가 모형의 항 순서). 필요하면 교호작용과 예측할 새 X 값을 지정합니다.
- 분석하기를 누르고 계수표·VIF·진단 그래프와 자동 해석을 확인합니다.
예제 데이터로 보는 결과
예제 데이터는 생산 30회의 온도(℃)·압력(bar)·생산 라인(A·B·C라인)과 제품 강도(MPa)입니다. 강도를 반응변수로, 온도와 압력을 숫자형 예측변수로, 라인을 범주형 예측변수로 씁니다.
모형 요약은 R²=0.9217, 수정 R²=0.9092, F검정 p=1.858e-13으로 세 요인이 강도를 잘 설명합니다.
계수표에서 온도 계수는 0.5144(1℃당 강도 0.51 MPa 증가), 압력 계수는 3.144이고, 라인은 A라인 대비 B라인이 +6.14, C라인이 -4.879 MPa입니다. 계수 Plot처럼 네 항 모두 신뢰구간이 0을 지나지 않아 유의합니다.
표준화계수는 온도 0.702, 압력 0.354로 온도의 상대적 영향력이 가장 크고, VIF는 모두 1.6 미만이라 다중공선성 걱정은 없습니다. Cook's Distance가 4/n을 넘는 관측치 3개는 데이터를 한 번 확인해 볼 만합니다.
계산 방법
statsmodels OLS로 Y ~ X1 + X2 + C(범주)를 적합합니다. 범주형 예측변수는 이름순 첫 수준을 기준으로 한 처리(Treatment) 더미변수가 되고, 교호작용을 켜면 (모든 항)**2 수식으로 두 항씩의 곱이 추가됩니다.
표준화계수 = 계수 × X의 표준편차 / Y의 표준편차, VIF = 1 / (1 - 그 열을 나머지 열로 회귀한 R²), Cook's Distance 기준 4/n, 레버리지 기준 2p/n(p = 계수 개수)입니다.
결과 화면 구성
(예측 결과), 모형 요약, 계수표, 표준화계수, VIF, 실제값 대 예측값(회귀식은 정보창), 잔차 진단, 계수 Plot, Cook's Distance, Leverage Plot이 나옵니다.
다중 선형회귀 결과 해석
- F P-value로 모형 전체의 유의성을, 계수표의 P-value로 각 항의 유의성을 봅니다. 범주형 항 'C(...)[T.수준]'은 기준 수준 대비 차이입니다.
- VIF가 5 이상인 항은 다른 예측변수와 겹치는 정보가 많아 계수 해석에 주의가 필요합니다.
- Cook's Distance가 4/n을 넘거나 레버리지가 2p/n을 넘는 관측치는 모형에 큰 영향을 주므로 데이터를 확인해 보세요.
자주 묻는 질문
범주형 변수는 어떻게 들어가나요?
범주형 예측변수로 체크하면 이름순 첫 수준을 기준으로 나머지 수준마다 0/1 더미변수가 만들어집니다.
교호작용은 언제 켜나요?
한 요인의 효과가 다른 요인 수준에 따라 달라질 것으로 볼 때 켭니다. 예측변수가 많으면 항이 급격히 늘어납니다.
변수 선택(단계적 선택)도 되나요?
아니요. 고른 예측변수 그대로 적합합니다. 변수를 넣고 빼며 결과를 비교해 보세요.