仮説検定方式#

標本空間$\mathcal{X}$を、$H_0$の

• 棄却域（rejection region）$R=\{x\in \mathcal{X}|H_0\mathrm{を}\mathrm{棄}\mathrm{却}\mathrm{す}\mathrm{る}\}$

• 受容域（acceptance region）$A=\{x\in \mathcal{X}|H_0\mathrm{を}\mathrm{受}\mathrm{容}\mathrm{す}\mathrm{る}\}$

とに分割するルールのことを仮説検定方式（hypothesis testing procedure）という。

また標本$X_1,\dots ,X_n$に基づいた統計量$T=T(X_1,\dots ,X_n)$によって$R$と$A$が定まるとき、$T$を検定統計量（test statistic）という。

有意水準#

もし帰無仮説を棄却したとき、その判断が間違っている可能性をコントロールしたい。 そこで、帰無仮説$H_0$が正しいにも関わらず誤って$H_0$を棄却してしまう確率がすべての$\theta \in {\mathrm{\Theta }}_0$に対して$\alpha$以下になるようにするという条件

を満たすように棄却域を調整する。この$\alpha$を有意水準（significance leve）という。

ここで${\mathrm{\Theta }}_0$はパラメータ$\theta$のとりうる値の集合である母数空間（parameter space）$\mathrm{\Theta }$のうち帰無仮説に対応するものである（例えば${\mathrm{\Theta }}_0=\{\theta |\theta ={\theta }_0\}$）

import numpy as np
from scipy import stats
import pandas as pd
import matplotlib.pyplot as plt

母平均に関する検定#

母平均$\mu$、母分散${\sigma }^2$の正規母集団についての検定を考える。

両側検定$H_0:\mu ={\mu }_0\text{ vs }{H}_1:\mu \ne {\mu }_0$のとき

カイ2乗適合度検定#

クロス表（多項分布）において、観測データの確率分布が理論上想定される確率分布に等しいかどうかを調べる検定がカイ2乗適合度検定である。

$n$個のデータが$K$個のカテゴリーに分類され、それぞれ$X_1,\dots ,X_K$個観測されたとする（$X_1+\cdots +X_K=n$）。

それぞれのカテゴリーに入る（真の）確率を$p_1,\dots ,p_K$とすると$p_1+\cdots +p_K=1$である。

$p_i$は$X_i/n$で推定される。理論上想定される確率が${\pi }_1,\dots ,{\pi }_K$であるとするとき、観測データに基づいた確率分布が理論上想定される確率分布に等しいか否かを検定する問題は、次のように定式化される。

これをカテゴリーに関するカイ2乗適合度検定（chi-square test of goodness of fit）という。

$H_0$が正しいとき、カテゴリー$C_i$に入る個数が$n\times {\pi }_i$になり、これを理論値あるいは期待度数という。 観測データに基づいた確率分布と理論上想定される確率分布の差は、観測値と理論値の差の二乗

にもとづいて測ることができるので、ピアソンのカイ2乗検定統計量

を使って検定を行うことができる （ここで$\mathit{X}=(X_1,\dots ,X_K),\mathit{\pi }=({\pi }_1,\dots ,{\pi }_K)$）。

$Q(\mathit{X},\mathit{\pi })$は$H_0$のもとで${\chi }_{K-1}^2$に収束するため、

とする検定を考えればよいことになる。ただし${\chi }_{K-1,\alpha }^2$は${\chi }_{K-1}^2$分布の上側$100\alpha$%点である。

Show code cell source Hide code cell source

from scipy.stats import chi2

x = np.linspace(0, 20, 100)
dist = chi2(df=5)
y = dist.pdf(x)

fig, ax = plt.subplots()
ax.plot(x, y, label=r"$\chi^2_{K-1}$")
ax.axhline(color="gray", alpha=0.5)

alpha = 0.95
t = dist.ppf(alpha)
ax.text(t, -dist.pdf(t) * 0.7, r"$\chi^2_{K-1, \alpha}$", ha="center")
ax.fill_between(x=x[x > t], y1=y[x > t], alpha=.5)

ax.axis("off")
ax.legend()
fig.show()

例#

日本人1000人の血液型を調べたところ、次のようになったとする。

import pandas as pd
from scipy.stats import multinomial, chi2
n = 1000
pi = np.array([.4, .2, .3, .1])  # 理論確率

# データの生成
m = multinomial(n=1, p=pi)
x = m.rvs(size=n, random_state=100).sum(axis=0)
d = pd.DataFrame([x], columns=["A", "B", "O", "AB"], index=["観測度数"])
d

日本人における血液型の割合は、おおよそＡ型40％、Ｂ型20％、Ｏ型30％、ＡＢ型10％といわれている（一般社団法人日本血液製剤協会）。

これを理論確率$\mathit{\pi }$とすると、期待度数（理論値）$n\times \mathit{\pi }$は次のようになる

d.loc["期待度数", :] = pi * n
d

ピアソンのカイ2乗検定統計量

を計算すると次のようになる

Q = sum( (x - pi * n)**2 / (pi * n) )
Q

7.305833333333333

Show code cell source Hide code cell source

from scipy.stats import chi2

K = len(d.columns)
df = K - 1

x = np.linspace(0, 15, 100)
dist = chi2(df=df)
y = dist.pdf(x)

fig, ax = plt.subplots()
ax.plot(x, y)
ax.axhline(color="gray", alpha=0.5)
ax.set(title=r"$\chi^2_{K-1}$ and Q")

alpha = 0.95
t = dist.ppf(alpha)
ax.text(t, dist.pdf(t) * 1.1, r"$\chi^2_{K-1, \alpha}$")
ax.fill_between(x=x[x > t], y1=y[x > t], alpha=.5)

ax.vlines(Q, 0, dist.pdf(Q) * 1.4, color="tomato")
ax.text(Q, dist.pdf(Q) * 1.5, f"Q = {Q:.1f}", ha="center", color="tomato")

fig.show()

独立性の検定#

TODO

最尤推定量の漸近正規性#