[coursera 머신러닝 강의] 알고리즘 성능 향상 시키기 :: Training, Test, Validation set / Validation set 역할

머신러닝 / 딥러닝 기초를 다지고자 coursera에서 Adrew Ng 교수가 진행하는 머신러닝 강의를 수강하게 되었다. 다음은 Machine Learning Diagnostic 강의 내용을 정리한 것이다.

Debugging a Learning Algorithm 알고리즘 수정하기 앞서, 집 값 예측을 위해 우리는 정규화된 선형회귀를 사용하였다. 그 때의 cost function은 다음과 같다.

그런데 이 hypothesis를 새 데이터에 적용했을 때, 예측 error가 컸다고 해보자. (underfitting 되었다고 하자.)

그러면 어떻게 알고리즘의 성능을 수정할 수 있을까? 시도해볼 수 있는 방법은 다음과 같다. 1.

Training example 수를 늘린다. 2. Feature 개수를 늘린다. 3.

Polynomial feature를 추가한다. (다항식 항을 추가한다.) 4. λ를 조절한다.

(늘리거나 줄인다.) 그러나 이 방법들을 아무런 기준 없이 시도하기보다 현재 알고리즘...