[머신러닝] Logistic Regression — 참과 거짓을 구분하는 수학적 전략

머신러닝에서 세상을 예측하는 첫 걸음이 선형 회귀라면, 세상을 분류하는 첫 걸음은 바로 로지스틱 회귀(Logistic Regression)입니다. "이메일은 스팸인가, 아닌가?"

"고객은 이탈할까, 아닐까?" "종양은 악성인가, 양성인가?"

이 모든 질문은 ‘참/거짓’, ‘예/아니오’를 예측하는 이진 분류 문제입니다. 이때 등장하는 주인공이 바로 로지스틱 회귀죠.

선형 회귀와 뭐가 다른가요? 선형 회귀는 연속적인 수치를 예측하지만, 로지스틱 회귀는 "확률"을 예측합니다.

예를 들어: “이 사람이 이탈할 확률은 87%다.” → 0.5 넘었으니 이탈로 예측! 핵심 아이디어: 시그모이드(Sigmoid) 함수 로지스틱 회귀의 핵심은 선형 함수의 출력값을 0~1 사이로 squish 하는 것입니다.

시그모이드 함수: z = w·x + b 출력: 0과 1 사이의 값 → 확률 해석 가능 z가 커지면 1에 가까워지고, 작아지면 0에 가까워집니다 결국, 로지스틱 회귀는 선형 회귀 + 시그모이드!...