Score function and Fisher Inforamtion Score function과 Fisher Information은 통계적 추론, 특히 MLE에서 중요한 개념이다. 정의는 아래와 같다.
출처 : All of Statistics A Concise Course in Statistical Inference (2004, Springer) Score function은 주어진 확률분포의 파라미터를 얼마나 조정해야 likelihood가 최대화될 수 있는지를 나타내는 함수이다. 구체적으로는, log likelihood function를 파라미터에 대해 1차 미분한 값으로 정의된다.
Score function이 0이 되는 지점에서 log likelihood function이 최대화 된다. Fisher information은 데이터가 파라미터 θ에 대해 얼마나 많은 정보를 제공하는지를 나타내는 척도이다.
파라미터가 정확히 알려져 있을 때, 관측 데이터의 변동성(불확실성)을 측정하는데 ...
#
asymtotic
#
parametric
#
optimality
#
multiparameter
#
MLE
#
method
#
information
#
function
#
Fisher
#
distribution
#
delta
#
bootstrap
#
score
원문 링크 : Ch.12 Parametric Inference (2)