[머신러닝] Linear Regression — 가장 단순하지만 강력한 회귀 모델의 시작

머신러닝 입문자라면 가장 먼저 마주하게 되는 알고리즘이 있습니다. 바로 선형 회귀(Linear Regression)입니다.

단순하지만 수학적으로 강력하고, 기초이지만 실제 산업에서도 여전히 유효한, 선형 회귀에 대해 한번 제대로 알아봅시다. 선형 회귀란?

선형 회귀는 입력 변수(X)와 출력 변수(y) 사이의 관계를 직선(선형 함수)으로 모델링하는 방법입니다. 예를 들어 이런 식이죠: y = w * x + b x: 입력 (독립 변수) y: 예측 값 (종속 변수) w: 기울기 (가중치) b: 절편 (바이어스) 이 모델은 데이터가 주어지면 w와 b를 학습하여, 가장 잘 맞는 직선을 찾는 것을 목표로 합니다.

왜 선형 회귀를 쓰는가? 구조가 단순하고 해석이 쉽다 과대적합 위험이 적다 수학적으로 잘 정립되어 있다 빠르고 효율적이다 (특히 작은 데이터셋에서) 핵심 원리: 손실 최소화 선형 회귀의 핵심은, 데이터에 가장 잘 맞는 직선을 찾는 겁니다.

그 직선은 어떻게 찾느냐? 바로 예측 값...