회귀모형 진단하는 방법
- 반응변수 Y와 예측변수 열들을 머리글과 함께 복사합니다.
- 반응변수 Y와 숫자형·범주형 예측변수를 고르고 VIF 기준(기본 5)과 이상점 기준(기본 |스튜던트화 잔차| > 3)을 정합니다.
- 분석하기를 누르고 진단표와 그래프, 자동 해석을 확인합니다.
예제 데이터로 보는 결과
예제 데이터는 생산 25회의 온도(℃)·압력(bar)·첨가제(%)와 강도(MPa)입니다. 강도를 반응변수로, 나머지 세 열을 숫자형 예측변수로 둡니다. 8번째 관측치에는 일부러 이상값을 넣었습니다.
진단 결과 이상점(|스튜던트화 잔차| > 3) 1개와 고레버리지점(2p/n = 0.32 초과) 2개가 나옵니다. 8번 관측치는 잔차 -19.92, 스튜던트화 잔차 -4.087, 레버리지 0.5981, Cook's D 6.215로 이상점이면서 모형을 크게 끌어당기는 영향점입니다.
22번 관측치는 레버리지 0.3448로 예측변수 조합은 특이하지만 잔차가 작아(0.3138) 문제가 되지 않습니다. 영향점 Plot에서 8번은 오른쪽 아래 -3 점선 밖에 홀로 떨어져 있습니다.
VIF는 1.128 ~ 1.518로 다중공선성 문제는 없고, 잔차 정규성(p=0.3788)도 괜찮습니다. 8번 관측치의 측정 기록을 확인한 뒤 오류라면 빼고 다시 적합해 계수가 얼마나 바뀌는지 비교해 보세요.
계산 방법
statsmodels OLS와 OLSInfluence로 레버리지(hat 대각원소), 내적 스튜던트화 잔차, Cook's D, 한 관측치를 뺀 분산으로 구한 DFFITS·DFBETAS를, variance_inflation_factor로 VIF를 계산합니다.
고레버리지 기준은 2p/n(p = 계수 개수), DFBETAS 기준은 2/√n입니다.
결과 화면 구성
잔차·영향력 진단표, DFBETAS, VIF, 잔차 대 적합값, 잔차 QQ Plot, Scale-Location, 잔차 대 순서, 영향점 Plot(레버리지 대 스튜던트화 잔차)이 나옵니다.
회귀모형 진단 결과 해석
- |스튜던트화 잔차|가 이상점 기준을 넘는 관측치는 모형과 크게 어긋나는 값이고, 레버리지가 2p/n을 넘는 관측치는 예측변수 조합이 특이한 값입니다.
- Scale-Location에서 흩어짐이 깔때기 모양이면 등분산성, 잔차 대 순서에서 추세나 주기가 보이면 독립성 가정을 의심합니다.
- QQ Plot의 점들이 직선에서 벗어나면 잔차의 정규성이 의심되며, 자동 해석의 Anderson-Darling p-value로도 확인합니다.
자주 묻는 질문
이상점은 바로 지워도 되나요?
측정·입력 오류가 확인될 때만 지우세요. 실제 값이면 원인을 조사하고 지운 모형과 비교해 보는 것이 좋습니다.
DFBETAS는 무엇인가요?
그 관측치를 뺐을 때 각 계수가 표준오차 몇 배만큼 바뀌는지를 나타냅니다.
다중 선형회귀 메뉴와 무엇이 다른가요?
같은 모형을 적합하되 관측치별 영향력 표와 가정 점검 그래프에 집중합니다.