【統計検定1級・過去問】統計数理（2019年11月問1）

[1] モーメント母関数による期待値と分散
[2]モーメント母関数による期待値と分散（二項分布）
- 別解：二項分布の再生性
[3] チェビシェフの不等式（離散型確率変数の場合）
[4]　確率密度関数の最小値
- 別解：密度関数の対数微分
参考文献

[1] モーメント母関数による期待値と分散

モーメント母関数の一階微分は、

${\begin{eqnarray} G'_{X}(t) = \sum_k kt^{k-1} P(X=k) \tag{1} \end{eqnarray}}$

また、

${\begin{eqnarray} G'_{X}(t) &=& \frac{d}{dt} E[t^X] \\ &=& E\left[\frac{d}{dt} X t^X \right] \\ &=& E[Xt^{X-1}] \tag{2}\end{eqnarray}}$

(1),(2)より $t=1$ のとき、 $X$ の期待値は、

${\begin{eqnarray} E[X] = G_{X}(1) \tag{3} \end{eqnarray}}$

モーメント母関数のニ階微分は、

${\begin{eqnarray} G''_{X}(t) &=& \sum_k k(k-1) t^{k-2} P(X=k) \\ &=& \frac{d}{dt} E[Xt^{X-1}] \\ &=& E[\frac{d}{dt} X t^{X-1} ] \\ &=& E[X(X-1)t^{X-2}] \tag{4}\end{eqnarray}}$

同じく $t=1$ とおくと

${\begin{eqnarray} G''_{X}(1) = E[X(X-1)] \tag{5}\end{eqnarray}}$

$X$ の分散は、
${\begin{eqnarray} V[X] &=& E[X(X-1)] + E[X] - (E[X])^2 \\ &=& G''_{X}(1) + G_{X}(1) - (G_{X}(1))^2 \tag{6}\end{eqnarray}}$

[2]モーメント母関数による期待値と分散（二項分布）

試行回数 $n$ 、成功確率 $p$ の二項分布 $B(n,p)$ の確率密度関数は、

${\begin{eqnarray} P(X=k) &=& { n \choose k } P^k(1-p)^{n-k} \,(k=0,1, \cdots ,n) \tag{7}\end{eqnarray}}$

モーメント母関数は、

${\begin{eqnarray} G_{X}(t) &=& E[t^X] \\ &=& \sum_{k=0}^{n} P(X=k)t^k \\ &=& \sum_{k=0}^{n} { n \choose k } p^k (1-p)^{n-k} t^{k} \\ &=& \sum_{k=0}^{n} { n \choose k } {pt}^k (1-p)^{n-k} \\ &=& (pt + (1-p))^n \tag{8}\end{eqnarray}}$

最後の等号は二項定理を用いた。[1]と同様に一階微分は、

${\begin{eqnarray} G'_{X}(t) &=& \frac{d}{dt} (pt + (1-p))^n　\\ &=& n (pt + (1-p))^{n-1} (pt + (1-p))' \\ &=& np (pt + (1-p))^{n-1} \tag{9} \end{eqnarray}}$

なので期待値は、

${\begin{eqnarray} E[X] &=& G'_{X}(1)　\\ &=& np (pt + (1-p))^{n-1} \\ &=& np \tag{10}\end{eqnarray}}$

また二階微分は、

${\begin{eqnarray} G''_{X}(t) &=& n(n-1)p^2 (pt + (1-p))^{n-2} \tag{11} \end{eqnarray}}$

なので分散は、

${\begin{eqnarray} V[X] &=& G''_{X}(1) + G_{X}(1) - (G_{X}(1))^2 \\ &=& n(n-1)p^2 + np - (np)^2 \\ &=& np(1-p) \tag{12}\end{eqnarray}}$

別解：二項分布の再生性

(7)のとき、 $X_i\,(i = 1,2,)\cdots,n)$ は独立に二項分布 $B(n,p)$ に従うとする。このとき $P(X_i = 1)=p,P(X_i = 0)=1-p$ であり、モーメント母関数は、

${\begin{eqnarray} G_{X_i}(t) &=& E[t^{X_i}] \\ &=& pt + (1-p)×t^{0} \tag{13}\end{eqnarray}}$

$X = X_1 + X_2 + \cdots + X_n$ なので

${\begin{eqnarray} G_{X}(t) &=& E[t^X] \\ &=& E[t^{X_1}+t^{X_2} + \cdots + t^{X_n}] \\ &=& E[t^{X_1}] + \cdots E[t^{X_n}] \\ &=& \left( pt + (1-p) + \cdots + pt + (1-p) \right) \\ &=& (pt + (1-p))^n \tag{14}\end{eqnarray}}$

(9)～(12)と同様に期待値と分散を求める。

[3] チェビシェフの不等式（離散型確率変数の場合）

$r>0,0 < t \leq 1$ において、モーメント母関数を、密度関数の積分区間を区切って表す。

${\begin{eqnarray} G_{X}(t) &=& E[t^X] \\ &=& \sum_{k=0}^{n} P(X=k)t^k \\ &=& \sum_{k \leq r}^{n} P(X=k)t^k + \sum_{k > r}^{n} P(X=k)t^k \\ &\geq& \sum_{k \leq r}^{n} P(X=k)t^k \\ &>& \sum_{k \leq r}^{n} P(X=k)t^r \\ &=& t^r P(X \leq r) \tag{15}\end{eqnarray}}$

[4]　確率密度関数の最小値

[2][3]より、 $0 < t \leq 1$ において $r = an (0 < a < p)$ とすると、

${\begin{eqnarray} P(X \leq an) &\leq& t^{-an} G_X(t) \\ &=& t^{-an} (pt + (1-p))^n \\ &=& (pt^{1-a} + t^{-a}(1-p))^n \tag{16}\end{eqnarray}}$

(14)の右辺を $g(t)$ とおき、一階微分を行うと、

${\begin{eqnarray} g'(t) &=& (1-a) pt{-a} - at^{-a-1}(1-p) \\ &=& t^{-(a+1)} \{p(1-a)t - a(1-p)\} \tag{17}\end{eqnarray}}$

したがって $t=\frac{a(1-p)}{p(1-a)}$ のとき $g'(t) = 0$ となり、 $g(t)$ は最小値をとる。

ちなみに
${\begin{eqnarray} p(1-a) - a(1-p) &=& p-pa-a-ap \\ &=& p- a > 0 \tag{18}\end{eqnarray}}$

となるで $0 < \frac{a(1-p)}{p(1-a)} < 1$ を満たす。モーメント母関数に $t=\frac{a(1-p)}{p(1-a)}$ を代入すると、

${\begin{eqnarray} G_{X}\left(\frac{a(1-p)}{p(1-a)}\right) &=& \left( p・\frac{a(1-p)}{p(1-a)} + (1-p) \right)^n \\ &=& \left( a(1-p) +(1-p) \right)^n \\ &=& \left( (1-p)(a+1) \right)^n \\ &=& \left( \frac{(1-p)}{(1-a)}\right)^n \tag{19}\end{eqnarray}}$

(14),(19)より、
${\begin{eqnarray} P(X \leq an) &\leq& t^{-an} \left(pt^{1-a} + t^{-a}(1-p)\right)^n \\ &=& \left( \frac{a(1-p)}{p(1-a)} \right)^{-an} \left( \frac{1-p}{1-a} \right)^n \\ &=& \left( \frac{p}{a}\right)^{an} \left( \frac{1-p}{1-a} \right)^{(1-a)n} \tag{20}\end{eqnarray}}$