최소제곱법(Least Squares Method)은 주어진 데이터와 모델 간의 차이를 최소화하기 위해 사용되는 수학적 방법으로, 일반적으로 모든 데이터를 한 번에 처리하여 계산을 수행하는 방식으로 이해된다. 이는 재귀적 방식과 대비되며, 잔차(residual)의 제곱합을 최소화하여 회귀 모델을 구하는 데 주로 활용된다.
다음 글에서 최소제곱법을 재귀적 방법으로 확장한다. 이러한 접근법은 나아가 칼만 필터(Kalman Filter)로 확장되며, 칼만 필터는 최소제곱법의 재귀적 형태로 이해될 수 있다.
이름에서 알 수 있듯이 데이터의 잔차(residual)를 최소화하기 위한 기준으로 제곱을 사용한다. 제곱을 사용하므로 얻는 장점은 다음과 같다.
잔차의 부호를 제거해 양수로 계산한다. 큰 오차에 더 큰 패널티를 부여하여 과도한 오차를 피하도록 유도한다.
단점으로, 측정된 관측치 중 이상치에 민감하게 반응한다는 것이다. 우선 0차(Zeroth-order)를 다룬다. 0차 회귀 모델은 상수값...
#
KalmanFilter
#
leastsquares
#
regression
#
선형회귀
#
최소제곱법
#
회귀
#
회귀모델
![[대학생 자작차 BAMOCAR 모터 컨트롤러 - 1] MCP2515 CAN 통신 데이터 비트 연산](https://mblogthumb-phinf.pstatic.net/MjAyMjA5MTNfNTMg/MDAxNjYzMDc3NzU3MDIz.RsaJ3AStQJ4bC3d4q1ZzknR-nigawvDXHZdEElF9URYg.iS93pBM2RFBgwKhcI4RMvIFlbRTUmtfzaTEZM_KvoFgg.PNG.rlarlarlathgus/%BD%BA%C5%A9%B8%B0%BC%A6%28158%29.png?type=w2)
