母比率の検定に関する話題で統計学実践ワークブックp.91は二項分布から話が始まる。そしてp.92にて尤度比検定の話となるが、導出過程は書いていなかったので自力で導出してみることにした。なお以下、二項分布ではなくベルヌーイ分布を用いるのは計算のしやすさとわかりやすさからである。
ベルヌーイ分布に従うn個の確率変数から最尤推定量を求める
尤度関数を立式する
は独立にベルヌーイ分布に従う確率変数であるとする。は確率θで1を確率1-θで0の値を取る。このとき尤度関数はとなる但しである。
尤度関数を変形すると、
が得られる( )。
最尤推定量を求める
さてここで最尤推定量を求めたいので、
- 尤度関数の対数すなわち対数尤度関数を
- で偏微分し
- それを0とおいたものをについて解く
という手順を踏もう。
対数尤度関数
対数尤度関数をθで偏微分
対数尤度関数をθで偏微分 = 0 をθについて解く
となって、最尤推定量 を得る。
尤度比のお気持ち
今回のポイントはここである。
尤度比は
- :帰無仮説のもとでの尤度関数の最大値
- :対立仮説のもとでの尤度関数の最大値
を使って、
と表される統計量である。正確性を『超』度外視すれば*1、
を使って、
となる。
実際に尤度比を求めてみる
尤度比から対数尤度比の2倍(逸脱度)を求める
対数尤度比の2倍: は 逸脱度*2 という名前がついているらしい。では以下にて逸脱度を計算すると、
ここで、 より
となってp.92 の尤度比検定を用いる場合の棄却域を得ることができた。