検定の意思決定の誤り ¶ 母数空間Θ \Theta Θ が互いに排反な2つの部分集合Θ 0 , Θ 1 \Theta_0, \Theta_1 Θ 0 , Θ 1 に分けられているとする。未知の母数θ \theta θ についての帰無仮説H 0 H_0 H 0 と対立仮説H 1 H_1 H 1 を以下のように表す。
H 0 : θ ∈ Θ 0 vs H 1 : θ ∈ Θ 1 H_0: \theta \in \Theta_0 \text { vs } H_1: \theta \in \Theta_1 H 0 : θ ∈ Θ 0 vs H 1 : θ ∈ Θ 1 帰無仮説を受容する意思決定をd = 0 d=0 d = 0 、帰無仮説を棄却する決定をd = 1 d=1 d = 1 と表すことにし、それらの集合(決定空間)はD = { 0 , 1 } D=\{0, 1\} D = { 0 , 1 } と表すことにする。
帰無仮説が正しいとき ( θ ∈ Θ 0 ) (\theta \in \Theta_0) ( θ ∈ Θ 0 ) に帰無仮説を枼却する ( d = 1 ) (d=1) ( d = 1 ) 誤りを 第1種の過誤(error of the first kind) や 偽陽性 とよぶ。また対立仮説が正しいとき ( θ ∈ Θ 1 ) (\theta \in \Theta_1) ( θ ∈ Θ 1 ) に帰無仮説を受容する ( d = 0 ) (d=0) ( d = 0 ) 誤りを 第2種の過誤(error of the second kind) や 偽陰性 とよぶ。
過誤まとめ
第1種の過誤(type I error)
第2種の過誤(type II error)
これら2種類の誤りを統一的に表現する関数が検出力関数
損失関数 ¶ 実際には正しくない仮説を採択する意思決定をとったときを「損失」として表し、意思決定の損失関数を以下のような損失関数L ( θ , d ) L(\theta, d) L ( θ , d ) で表現することにする。
L ( θ , 0 ) = { 0 , if θ ∈ Θ 0 a , if θ ∈ Θ 1 L ( θ , 1 ) = { 0 , if θ ∈ Θ 1 b , if θ ∈ Θ 0 \begin{aligned}
L(\theta, 0) &= \begin{cases}
0, & \text { if } \theta \in \Theta_0 \\
a, & \text { if } \theta \in \Theta_1
\end{cases}
\\
L(\theta, 1) &= \begin{cases}
0, & \text { if } \theta \in \Theta_1 \\
b, & \text { if } \theta \in \Theta_0
\end{cases}
\end{aligned} L ( θ , 0 ) L ( θ , 1 ) = { 0 , a , if θ ∈ Θ 0 if θ ∈ Θ 1 = { 0 , b , if θ ∈ Θ 1 if θ ∈ Θ 0 (※第1種の過誤を犯したときa a a の損失が、第2種の過誤を犯したときb b b の損失が得られるということ。)
単純にa = b = 1 a=b=1 a = b = 1 とおいて0-1損失関数にしてもよいが、現実問題ではこの損失は非対称a ≠ b a\neq b a = b の可能性も高い。
例えばWebサイトの改善のA/Bテストにおいて第1種の過誤は「帰無仮説が正しい(A案とB案に差がない)のに棄却してB案を採用する」であり、AとBに差がないため誤ってBを採用しても損失は少ないと考えられるが、第2種の過誤(AよりBのほうが優れているのにBを却下してAを使い続ける)は機会損失を招く
検出力関数 ¶ 検定問題における決定関数 (検定関数 test function とよばれる) をδ : X → D \delta: \mathcal{X} \to D δ : X → D とおく。検定関数δ \delta δ はX = x X=x X = x を観測したとき帰無仮説を棄却するなら1、受容するなら0をとる関数。
損失関数の期待値である リスク関数 は R ( θ , δ ) = E θ [ L ( θ , δ ( X ) ) ] R(\theta, \delta) = E_{\theta}[L(\theta, \delta(X))] R ( θ , δ ) = E θ [ L ( θ , δ ( X ))] と定義される。
ところで、
β δ ( θ ) = E θ [ δ ( X ) ] = P θ ( δ ( X ) = 1 ) \beta_\delta(\theta)=E_\theta[\delta(X)]=P_\theta(\delta(X)=1) β δ ( θ ) = E θ [ δ ( X )] = P θ ( δ ( X ) = 1 ) と定義すると、δ \delta δ のリスク関数は以下のように表すことができる。
R ( θ , δ ) = { β δ ( θ ) , if θ ∈ Θ 0 (=第1種の過誤の確率) 1 − β δ ( θ ) , if θ ∈ Θ 1 (=第2種の過誤の確率) R(\theta, \delta)= \begin{cases}
\beta_\delta(\theta), & \text { if } \theta \in \Theta_0 & \text{ (=第1種の過誤の確率) } \\
1-\beta_\delta(\theta), & \text { if } \theta \in \Theta_1 & \text{ (=第2種の過誤の確率) }
\end{cases} R ( θ , δ ) = { β δ ( θ ) , 1 − β δ ( θ ) , if θ ∈ Θ 0 if θ ∈ Θ 1 (= 第 1 種の過誤の確率 ) (= 第 2 種の過誤の確率 ) β δ ( θ ) \beta_\delta(\theta) β δ ( θ ) を 検出力関数(power function) といい、その値を 検出力(power) という。
R ( θ , δ ) R(\theta, \delta) R ( θ , δ ) の1行目は第1種の過誤の確率を意味する。実際には帰無仮説が正しい(θ ∈ Θ 0 \theta \in \Theta_0 θ ∈ Θ 0 の)ときにd = δ ( X ) = 1 d=\delta(X)=1 d = δ ( X ) = 1 なのが第1種の過誤なので。
R ( θ , δ ) R(\theta, \delta) R ( θ , δ ) の2行目は第2種の過誤の確率を意味する。実際には対立仮説が正しい(θ ∈ Θ 1 \theta \in \Theta_1 θ ∈ Θ 1 の)ときにd = δ ( X ) = 0 d=\delta(X)=0 d = δ ( X ) = 0 の確率1 − β δ ( θ ) 1-\beta_\delta(\theta) 1 − β δ ( θ ) なので。
例:不良率の検定
10個の製品を検査して、もし1個以上の不良品があれば帰無仮説 H 0 : p ≤ p 0 H_0: p \leq p_0 H 0 : p ≤ p 0 を棄却するとする(なお p 0 = 0.01 p_0 = 0.01 p 0 = 0.01 と想定する)
この場合の検定関数は
δ ( x ) = { 1 , if x ≥ 1 0 , otherwise \delta(x) =
\begin{cases}
1, & \text { if } x \geq 1 \\
0, & \text { otherwise }
\end{cases} δ ( x ) = { 1 , 0 , if x ≥ 1 otherwise となる。X X X は2項分布B ( 10 , p ) B(10, p) B ( 10 , p ) に従うと考えればよいので、検出力関数は
β δ ( p ) = P ( X ≥ 1 ) = 1 − P ( X = 0 ) = 1 − ( 1 − p ) 10 \beta_\delta(p)=P(X \geq 1)=1-P(X=0)=1-(1-p)^{10} β δ ( p ) = P ( X ≥ 1 ) = 1 − P ( X = 0 ) = 1 − ( 1 − p ) 10 で与えられる。p 0 = 0.01 p_0 = 0.01 p 0 = 0.01 のときβ δ ( p ) = 1 − ( 1 − p ) 10 = 0.0956 \beta_\delta(p) = 1-(1-p)^{10} = 0.0956 β δ ( p ) = 1 − ( 1 − p ) 10 = 0.0956