Logistic Regression Explained: Will This Engine Fail?

개요

Logistic Regression은 이진 분류 문제, 즉 '예/아니오'와 같은 두 가지 결과 중 하나로 예측해야 하는 상황에 사용되는 통계적 모델링 기법이다.

주요 내용

* 선형 회귀의 한계: 선형 회귀는 연속적인 숫자 값을 예측하는 데 적합하지만, '엔진 고장 여부'와 같이 0 또는 1로만 답할 수 있는 이진 분류 문제에는 부적합하다. 선형 회귀 모델은 예측 확률이 0.0 미만이거나 1.0을 초과하는 비정상적인 결과를 도출할 수 있다.
* Sigmoid 함수: Logistic Regression은 선형 회귀의 결과($z$)를 Sigmoid 함수($\sigma(z) = \frac{1}{1 + e^{-z}}$)에 통과시켜 0.0과 1.0 사이의 확률 값으로 변환한다. 이 함수는 결과를 부드러운 S자 형태의 곡선으로 압축하여 확률의 범위를 제한하는 역할을 한다.
* 결정 임계값 (Decision Threshold): Sigmoid 함수가 출력한 확률값에 따라 최종 이진 분류를 결정하기 위해 사용되는 기준점이다. 기본적으로 0.5로 설정되며, 확률이 0.5보다 작으면 0(고장 없음)으로, 0.5 이상이면 1(고장 위험)로 분류한다.
* 민감도 조정: 자동차 엔진 고장과 같이 위험도가 높은 시스템에서는 결정 임계값을 낮추어(예: 0.20) 더 낮은 확률에서도 경고를 발생시켜 선제적으로 대응할 수 있다. 이는 Precision과 Recall 간의 균형을 맞추는 데 활용된다.
* 다중 요인 진단: 실제 엔진 고장 예측은 단일 센서 값에 의존하지 않고, 온도, 오일 압력, 진동 등 여러 센서의 데이터를 종합적으로 고려한다. Logistic Regression은 각 센서 특징에 가중치($\beta_i$)를 부여하고 이를 합산한 후 Sigmoid 함수를 통해 통합 확률을 출력한다.
* Python/Scikit-Learn 구현: Scikit-Learn 라이브러리를 사용하여 LogisticRegression 모델을 학습하고, predict_proba 함수로 특정 센서 데이터에 대한 고장 확률을 예측하는 예시 코드가 제공된다.

시사점

Logistic Regression은 다양한 센서 데이터를 통합하여 0과 1 사이의 확률로 표현해야 하는 진단 및 예측 시스템에 효과적으로 적용될 수 있으며, 결정 임계값 조정을 통해 시스템의 민감도를 제어할 수 있다.