[수리통계] 최대우도법 (maximum likelihood method)

단순 선형회귀분석에서는 최소자승법(최소제곱법)에 의해 x와 y간의 관계를 추정한다. 즉 회귀식에 의해 추정되는 y와 실제 관측된 y의 오차를 최소화할 수 있는 회귀식을 적합한다. 

y와 x가 선형 관계가 아닌 모형을 일반화선형모형(Generalized linear model)이라 한다. 여기서는 최대우도법(maximum likelihood method)를 이용해 회귀식을 추정할 수 있다. (최소자승법도 최대우도법의 일종이라고 한다.)

우도(가능도, likelihood)는 피셔(Fisher)에 의해 주장된 개념이다. 보통 모수와 모집단이 이미 알려져있고 여기서 어떤 현상이 관찰될 가능성을 확률이라고 하는데, 우도는 반대의 개념이다. 관측치가 고정되고, 그러한 관측치가 나오게 하는 가장 그럴 듯한 모수값을 추정하는 것이다. 이 때 '이 관측치가 관찰될 가능성'을 '우도'라고 하고, 함수로 표현하며, 우도가 가장 높아지게 하여 모수를 추정하는 방법이 최대우도법이다. 

생각해보면 최대우도법이 나온 이유는 사실상 어떤 현상에 대해서 우리가 어떤 모집단을 관찰할 수 없거나 모수를 알 수 없기 때문이다. 예를들어 역학에서도 특정 요인이 어떤 질병이 발생하는 데에 미치는 영향(인과관계)의 크기를 추정하고자 할 때, 우리는 환자 표본에서 관찰된 관측치만을 알지 자연법칙 그 자체는 수수께끼일 뿐이다. 

우도비 검정은 비교하고자 하는 두 개의 모델의 우도의 비를 계산하는 것이다. 우도비 검정 결과가 유의하면 두 모델에 차이가 있다는 것이고(주로 추가된 변수의 효과가 인정된다고 해석), 그 모델을 선정할 수 있는 근거가 된다.

예전에 통계책 보고 공부할 때 우도를 계산하는 방법은 수식으로 인지하고. 실제 계산결과는 SAS에서 그냥 주어지다보니 읽을 줄만 알면 됐는데. 이젠 특정 모델을 돌리면서 R에서 직접 우도를 계산해야 하는 상황이 되었다.