개요 우리는 이전 포스트에서 모델을 학습할 때 함수에 파라미터를 넣음으로써 성능을 높일 수 있다는 것을 배웠다. 로지스틱 회귀를 예로 들면 solver, max_iter 파라미터가 그것이다.
이렇게 어떤 값을 넣어주느냐에 따라 성능에 큰 차이가 발생하는 파라미터를 하이퍼 파라미터(hyper parameter)라고 한다. 이제부터 좋은 하이퍼 파라미터를 찾는 방법 중 하나인 grid search에 대해 알아보자.
Grid Search 말 그대로 격자 검색이다. 즉, 하이퍼 파라미터들을 격자로 나열한 다음, 가장 우수한 성능을 보이는 하이퍼 파라미터들을 선택하면 된다.
(노가다가 맞다. 단지 컴퓨터가 대신해줄 뿐이죠) L2 정규화를 예로 들어보자.
이 모델에서 하이퍼 파라미터는 alpha(λ)와 max_iter 이다. 이제 두 파라미터들로 격자(행렬)로 만들어 모든 경우에서의 성능으로 채우면 된다.
위와 같이 표로 여러 하이퍼 파라미터 값들을 나열한 후, 가장 성능이 좋은 하이퍼 파라미...
원문 링크 : (머신 러닝) 모델 평가 / Grid Search