Chapter 2. Logistic Regression

Linear Regression 방식과는 다르게, exponenetial 형태로 구분선을 긋는다. odds ratio를 모델링하는 것이 핵심이라고 되어있다. 그에 대해 엄청난 유도공식들이 있다. log를 사용하는 maximum likely hood 설명도 있고..

유도 공식이 너무 길어서 좀 어려웠다. 그러나 알고리즘은 결국 간단하다. gradient descent를 이용하여 역시 간단히 구현할 수 있으나, 오류가 있는 것 같다. tmp2 = 0; for(i=0;i<8;i++) { e_wx = exp(w*age[i]); tmp = true_flase[i] - e_wx/(1.0+e_wx); tmp2 += (age[i]*tmp); } w = w + 0.000001*tmp2; algorithm4의 판별식의 경우, P(Y=1|x)의 최대값은 0.5이며, P(Y=0|x)의 최소값도 0.5이다.

(b=0일 경우) e_wx = exp(w*age[i]); test[0] = e_wx/(1.0+e_w...