(머신러닝) 규제화 / L1 규제화와 L2 규제화

마지막 수정 (10 / 05) ※ 가중치 감쇠 (머신러닝) 규제화 / 편향과 분산 틀린 부분이 있다면 언제든지 지적 부탁드립니다^ㅡ^ 우리는 지금까지 여러 머신 러닝 알고리즘을 배우게 ... blog.naver.com 이전 포스트에서 편향과 분산에 대해 언급하였다. 편향과 분산은 과소적합과 과적합으로 치환하여 비교하기도 한다.

과소적합은 모델이 너무 간단해서 데이터의 관계를 잘 학습하지 못하는 것을 의미한다. 반대로 과적합은 모델이 너무 복잡해서 데이터의 관계를 정확하게 학습하는 것을 의미한다.

정규화는 이러한 과소적합과 과적합 간의 적당한 밸런스를 찾아내는데 큰 도움을 준다. 개요 우리는 각 대학생들의 스펙으로 대학원에 진학할 확률은 예측하고 싶다고 하자.

그렇다면 스펙이 입력변수, 대학원에 진학할 확률이 목표 변수가 된다. 입력 변수와 목표변수를 각각 다른 데이터 프레임으로 옮기고, 곡선 그래프를 구할 것이기 때문에 차수가 높은 다항 회귀 모델을 사용하자.

우리는 6차 다항 회귀...