end0tknr's kipple - 新web写経開発

http://d.hatena.ne.jp/end0tknr/ から移転します

最尤推定 (さいゆうすいてい) - もっともらしい母比率を求める

サイコロの偶数が6回中、2回出るときの母比率(1回当たりの偶数が出る確立)?

例として、母比率=0.5の場合、6回中、2回、偶数が出る確立を求めます。

 \Large {}_6 C_2 0.5^2 (1-0.5)^4
= \Large \frac {6!}{2!(6-2)!} 0.5^6
= \Large 15 0.5^6
 \Large ≒ 15 0.015625 ≒ 0.2343

同様に母比率=0.2, 0.3 , 0.4 , 0.8 の場合を求めます。

 \Large {}_6 C_2 0.2^2 (1-0.2)^4
= \Large 15  0.3^2 0.7^4 = 15  0.04 0.4096 = 0.24576
 \Large {}_6 C_2 0.3^2 (1-0.3)^4
= \Large 15  0.3^2 0.7^4 = 15  0.09 0.2401 = 0.324135
 \Large {}_6 C_2 0.4^2 (1-0.4)^4
= \Large 15  0.4^2 0.6^4 = 15 0.16 0.1296 = 0.31104
 \Large {}_6 C_2 0.8^2 (1-0.8)^4
= \Large 15  0.8^2 0.2^4 = 15  0.64 0.0016 = 0.01536

以上より、「0.324135」が最も大きいことから、サイコロの偶数が6回中、2回出るときの母比率は、「0.3」程度と推定できます。

最尤関数による最尤推定

http://mathtrain.jp/mle ←こちらの写経です。

次は、最尤関数を用いて、先程の最尤推定を行います。

母比率=Pとおいたとき、6回中、2回出る最尤関数は次の通り


L(P) = {}_6 C_2 P^2 (1-P)^4

L(P)を最大にするPと、log L(P)を最大にするPは同じである為、 ここで計算を楽にする為、対数をとります。(対数尤度関数)


log L(P) = log\{ {}_6 C_2 P^2 (1-P)^4 \}
= log {}_6 C_2 + 2 log P + 4 log (1-P)

Pが最大値をとるとき、log L(P)の傾き? = 0 となる為、Pで微分します。


\Large \frac {d}{dP} log L(P) = 2 \frac {1}{P} + 4 \frac {1}{(1-P)} (1-P)'

\Large 0 = 2 \frac {1}{P} - 4 \frac {1}{(1-P)}

\Large P = \frac {1}{3}

log(1-P)の微分で、合成関数の微分を利用することをすっかり忘れていました。