로지스틱 회귀 하는 방법
- 이진 결과 열과 예측변수 열들을 머리글과 함께 복사합니다.
- 결과변수와 사건(1)으로 볼 범주를 고르고 예측변수를 체크합니다. 분류 임계값(기본 0.5)을 정합니다.
- 분석하기를 누르고 오즈비·AUC를 확인한 뒤, 확률곡선 아래 예측 상자에 값을 넣어 사건 확률을 구합니다.
예제 데이터로 보는 결과
예제 데이터는 제품 60개의 온도(℃)·압력(bar)·라인(1·2라인)과 판정(양품/불량)입니다. 판정을 결과변수로, 사건(1)은 '불량'으로, 온도와 압력을 숫자형, 라인을 범주형 예측변수로 씁니다.
우도비 검정 p=8.038e-12로 모형이 유의하고 McFadden 유사 R²=0.6622입니다. 온도 오즈비는 0.6833으로 온도가 1℃ 오를 때마다 불량 오즈가 약 32% 줄고, 2라인은 1라인보다 불량 오즈가 46.65배(95% CI 2.262 ~ 962.1) 높습니다. 압력은 유의하지 않습니다(p=0.3684).
확률곡선을 보면 온도가 약 204℃를 넘으면서 불량 확률이 0.5 아래로 빠르게 떨어집니다. 곡선 아래 예측 상자에 온도·압력을 넣고 예측을 누르면 그 조건의 불량 확률과 판정이 나옵니다.
AUC=0.9652로 매우 우수한 분류 성능이고, 임계값 0.5에서 정확도 0.8833, 민감도 0.8788, 특이도 0.8889입니다(Confusion Matrix: 실제 불량 33개 중 29개, 실제 양품 27개 중 24개를 맞힘).
계산 방법
statsmodels Logit(뉴턴법 최우추정)으로 log(p/(1-p)) = b₀ + b₁X₁ + …를 적합합니다. 오즈비 = exp(계수), 신뢰구간은 정규근사(Wald) 구간을 지수변환한 값입니다.
모형 유의성은 우도비 검정(LLR p-value), 설명력은 McFadden 유사 R² = 1 - 로그가능도/상수항 모형 로그가능도입니다. ROC·AUC와 Calibration Plot은 sklearn과 같은 방식이고, Confusion Matrix는 예측 확률이 임계값보다 크면 사건으로 셉니다.
결과 화면 구성
확률곡선(+ 예측 입력 상자), 계수·오즈비, 적합도, Confusion Matrix 표, ROC Curve, Calibration Plot, Confusion Matrix Heatmap, 오즈비 Forest Plot이 나옵니다.
로지스틱 회귀 결과 해석
- 오즈비가 1보다 크면 그 예측변수가 커질수록 사건 확률이 높아지고, 오즈비 신뢰구간이 1을 포함하지 않으면 유의합니다.
- AUC는 0.5면 무작위 수준, 0.8 이상이면 우수한 분류입니다.
- 민감도는 실제 사건을 사건으로 맞힌 비율, 특이도는 실제 비사건을 비사건으로 맞힌 비율입니다. 임계값을 바꾸면 둘이 서로 바뀝니다.
자주 묻는 질문
결과 값이 세 가지 이상이면요?
사건으로 고른 범주는 1, 나머지 모든 범주는 0으로 처리합니다.
확률 예측은 어디서 하나요?
결과 창 첫 패널(확률곡선) 아래 예측 상자에 숫자형 예측변수 값을 넣고 예측을 누르면 됩니다. 범주형 예측변수는 최빈값으로 고정됩니다.
계수가 매우 크게 나와요.
예측변수로 결과가 완전히 갈리면(완전 분리) 최우추정값이 무한대로 커져 계수와 표준오차가 매우 커집니다.