損失関数
損失関数を\(\ell(\hat{y}, y)\)とする。
例えば、分類問題での代表的な損失関数は 0-1損失 (0-1 loss) \(\ell(\hat{y}, y) = \mathbf{1}[\hat{y} \neq y]\) である。
また回帰問題で使われる代表的な損失関数は 二乗損失 (squared loss) \(\ell(\hat{y}, y) = (\hat{y} - y)^2\) である。
予測損失
仮説\(h\)の 予測損失（predictive loss） \(R(h)\)を、予測値\(h(X)\)の損失のテストデータ\((X,Y)\)の分布上の期待値
\[
R(h) := E_{(X,Y) \sim D}[\ell(h(X), Y)]
\]
と定義する。
経験損失
経験損失（empirical loss） を、観測値に基づく損失の平均値
\[
\hat{R}(h) := \frac{1}{n} \sum_{i=1}^n \ell\left(h\left(X_i\right), Y_i\right)
\]
と定義する。
経験損失は別の表現もできる。データ数が\(n\)のとき確率\(1/n\)で\((X_i,Y_i)\)に値を取る確率変数を\((X,Y)\)とし、これが従う分布（経験分布）を\(\hat{D}\)とする。このとき経験損失は
\[
\hat{R}(h) := E_{(X,Y) \sim \hat{D}}[\ell(h(X), Y)]
\]
と表すことができる。
経験損失は予測損失の不偏推定量
データ\((X_i,Y_i)\)が同一の分布\(D\)に従うとき、経験損失の期待値は予測損失に一致する。
実際、\(n\)個の観測データの同時分布を\(D^n\)とすると、
\[
\mathbb{E}_{D^n}[\hat{R}(h)]
=\frac{1}{n} \sum_{i=1}^n \mathbb{E}_{D^n}[\ell(h(X_i), Y_i)]
=\frac{1}{n} \sum_{i=1}^n R(h)=R(h)
\]
となる。したがって経験損失は予測損失の不偏推定量である。
経験損失は予測損失の一致推定量
観測データが独立に同一の分布\(D\)に従うとき、\(\hat{R}(h)\)は\(R(h)\)に確率収束する。分布\(D^n\)のもとで任意の\(\varepsilon > 0\)に対して
\[
\lim _{n \rightarrow \infty} \operatorname{Pr}_{D^n}
\left(\left| \widehat{R}(h)-R(h)\right| > \varepsilon \right) = 0
\]
が成り立つ。ここで\(\operatorname{Pr}_{D^n}\)は\(D^n\)のもとでの確率。
標準的な問題設定ではテストデータと訓練データの分布は同一だが、実応用においては両者の分布が異なることもある。
例えば特徴量の分布が異なるという 共変量シフト（covariate shift） では、分布の違いを比として誤差関数に重みをつける推定方法がある。
またログデータを用いた推薦システムの学習（Off-Policy Learning）においても、ログデータ（訓練データ）が「従来の推薦モデルのもとでの観測データ」であり、実運用時のデータ（テストデータ）とは分布が異なるという似た問題がある。
参考：
ベイズ規則
定義
損失関数 \(\ell\) を定めたとき、任意の可測関数 \(h: \mathcal{X} \rightarrow \mathcal{Y}\) のもとでの予測損失の下限
\[
\inf _{h: \text { 可測 }} R(h)
\]
を損失関数 \(\ell\) のもとでの ベイズ誤差（Bayes error） という。下限を達成する仮説が存在するとき、その仮説を ベイズ規則（Bayes rule） という。
ベイズ規則が\(h_0: \mathcal{X} \rightarrow \mathcal{Y}\)のとき、\(R(h_0) = \inf _{h: \text { 可測 }} R(h)\)が成り立つ。
条件付き期待値
\[
\mathbb{E}_Y[\ell(h(x), Y) \mid x] = \int_{\mathcal{Y}} \ell(h(x), y) ~ d P(y \mid x)
\]
を用いると
\[
R(h)=\mathbb{E}_X [\mathbb{E}_Y[\ell(h(X), Y) \mid X]]
\]
であるため、\(\mathbb{E}_Y[\ell(h(x), Y) \mid x]\)を最小にする仮説\(h\)を選べば予測誤差が最小になる
簡単のため\(\hat{y}=h(x)\)とし、\(X\)を省略して、
\[
\mathbb{E}_Y[\ell(\hat{y}, Y)]
= \int \ell(\hat{y}, y) ~ d P(y)
\]
を最小にする\(\hat{y} \in \mathcal{Y}\)を求める問題を考える
0-1損失のベイズ規則
損失関数として0-1損失 \(\ell(\hat{y}, y) = \mathbf{1}[\hat{y} \neq y]\)を想定する。
予測損失\(R(h)\)は繰り返し期待値の法則により
\[
R(h) = \mathbb{E}_X \big[ \mathbb{E}_Y[\ell(y, h(X)) \mid X] \big]
\]
と変形できるので、入力\(X=x\)における条件付き期待値\(\mathbb{E}_Y[\ell(y, h(x)) \mid X=x]\)で考える。
\(Y\)が離散型確率変数とすると
\[\begin{split}
\begin{aligned}
\mathbb{E}_Y[\ell(y, h(x)) \mid X=x]
&= \sum_{y\in\mathcal{Y}} \ell(y, \hat{y}) P(Y=y \mid x)\\
\end{aligned}
\end{split}\]
となる。
また、0-1損失の期待値は誤って予測した割合（誤答率）に相当するため、1-正答率 の形に整理できる。
\[\begin{split}
\begin{aligned}
\mathbb{E}_Y[\ell(y, h(x)) \mid X=x]
&= \sum_{y\in\mathcal{Y}} \ell(y, \hat{y}) P(Y=y \mid x)\\
&= 1 - \underbrace{ P(Y = h(x)) }_{正答率}
\end{aligned}
\end{split}\]
そのため、\(P(Y = h(x))\)を最大化するような\(h(x)\in\mathcal{Y}\)、つまり
\[
h_0(x) = \mathop{\rm arg~max}\limits_{y\in\mathcal{Y}} P(Y = y | x)
\]
が予測誤差を最小とする。これが0-1損失におけるベイズ規則になる。
二乗損失のベイズ規則
損失関数として二乗損失 \(\ell(\hat{y}, y) = (\hat{y} - y)^2\)を利用するとき、
\[\begin{split}
\begin{aligned}
\mathbb{E}_Y[\ell(\hat{y}, Y)]
&= \mathbb{E}[(\hat{y} - Y)^2]\\
&= \mathbb{E}[(\hat{y} - \mathbb{E}[Y] + \mathbb{E}[Y] - Y)^2] \quad (同じ数を足して引く)\\
&= \mathbb{E}[
(\hat{y} - \mathbb{E}[Y])^2
+ 2(\hat{y} - \mathbb{E}[Y])(\mathbb{E}[Y] - Y)
+ (\mathbb{E}[Y] - y)^2]\\
&= \underbrace{ \mathbb{E}[(\hat{y} - \mathbb{E}[Y])^2] }_{=(\hat{y} - \mathbb{E}[Y])^2}
+ \underbrace{ 2 \mathbb{E}[(\hat{y} - \mathbb{E}[Y])(\mathbb{E}[Y] - Y)] }_{
\begin{aligned}
&=2 \mathbb{E}[\hat{y}\mathbb{E}[Y] - \hat{y}Y - \mathbb{E}[Y]^2 + \mathbb{E}[Y]Y]\\
&=2 \hat{y}\mathbb{E}[Y] - 2\hat{y}\mathbb{E}[Y] - 2\mathbb{E}[Y]^2 + 2\mathbb{E}[Y]^2\\
&=0
\end{aligned}
}
+ \mathbb{E}[(\mathbb{E}[Y] - Y)^2]\\
&= (\hat{y} - \mathbb{E}[Y])^2
+ \operatorname{Var}[Y]\\
\end{aligned}
\end{split}\]
となる。よって\(\hat{y}=\mathbb{E}[Y]\)とすれば予測誤差が最小になる。
条件付き期待値に戻って考えると、ベイズ規則は
\[
h_0(x) = \mathbb{E}[Y|x]
\]
によって与えられる。
別の導出
\[\begin{split}
\begin{aligned}
(Y-\hat{y})^2 = ~& ((Y-\mathbb{E}[Y \mid X])+(\mathbb{E}[Y \mid X]-\hat{y}))^2 \\
= ~& (Y-\mathbb{E}[Y \mid X])^2\\
& + 2(\mathbb{E}[Y \mid X]-\hat{y}) (Y-\mathbb{E}[Y \mid X]) \\
& + (\mathbb{E}[Y \mid X]-\hat{y})^2
\end{aligned}
\end{split}\]
第1項は\(\hat{y}\)が含まれないため、最適化には関係がない。
第2項は最終的に\((Y-\hat{y})^2\)の期待値をとって\(\mathbb{E}[(Y-\hat{y})^2\mid X]\)にしたとき、\(Y-\mathbb{E}[Y \mid X]\)が
\[\begin{split}
\begin{aligned}
&\mathbb{E}[Y-\mathbb{E}[Y \mid X] \mid X]\\
&= \mathbb{E}[Y \mid X] - \mathbb{E}[Y \mid X]\\
&= 0
\end{aligned}
\end{split}\]
となり0になる。
第3項の\(\mathbb{E}[Y \mid X]-\hat{y}\) は \(\hat{y} = \mathbb{E}[Y \mid X]\)のとき0になり予測誤差が最小化される。よって二乗損失のベイズ規則は条件付き期待値\(\mathbb{E}[Y \mid X]\)となる。
ベイズ誤差\(R^*\)は
\[
R^* = R\left(h_0\right)
=\mathbb{E}_X[V[Y \mid X]]
=\mathbb{E}_X\left[\int(y-E[Y \mid X])^2 d P(y \mid X)\right]
\]
となる。条件付き分散\(V[Y|x]\)が入力によらず一定の値\(\sigma^2\)をとるとき、ベイズ誤差は\(\sigma^2\)となる。
絶対誤差のベイズ規則
損失関数\(\ell(y, \hat{y})\)を絶対誤差\(|y - \hat{y}|\)とするとき、ベイズ規則は条件付き中央値
\[
h_0(x) = \operatorname{median}(Y|X=x)
\]
になる
誤差関数\(\ell(y, \hat{y})\)を絶対誤差\(|y - \hat{y}|\)とする。予測損失（期待予測誤差）は
\[\begin{split}
\begin{aligned}
R(\hat{y}) &= \mathbb{E}_Y[\ell(y, \hat{y})]\\
&= \int_{-\infty}^{\infty} |y - \hat{y}| f(y) dy\\
\end{aligned}
\end{split}\]
絶対値の中身の符号で場合分けすると
\[\begin{split}
\begin{aligned}
R(\hat{y}) &= \int_{-\infty}^{\infty} |y - \hat{y}| f(y) dy\\
&= \int_{\hat{y}}^{\infty} (y - \hat{y}) f(y) dy
+ \int_{-\infty}^{\hat{y}} (\hat{y} - y) f(y) dy
\quad (絶対値を符号ごとに場合分けした)\\
&= \int_{\hat{y}}^{\infty} y f(y) dy
- \hat{y} \int_{\hat{y}}^{\infty} f(y) dy
+ \hat{y} \int_{-\infty}^{\hat{y}} f(y) dy
- \int_{-\infty}^{\hat{y}} y f(y) dy
\quad (\because 積分の線形性)
\end{aligned}
\end{split}\]
予測損失を微分するとそれぞれの項は
\[\begin{split}
\begin{aligned}
\frac{d}{d \hat{y}} \int_{\hat{y}}^{\infty} y f(y) dy &= - \hat{y} f(\hat{y})
\\
\frac{d}{d \hat{y}} \left( - \hat{y} \cdot \int_{\hat{y}}^{\infty} f(y) dy \right)
&= \frac{d}{d \hat{y}} \left( - \hat{y} \right) \int_{\hat{y}}^{\infty} f(y) dy
+ (- \hat{y}) \frac{d}{d \hat{y}} \left( \int_{\hat{y}}^{\infty} f(y) dy \right)
\quad (積の微分)\\
&= -1 \cdot \int_{\hat{y}}^{\infty} f(y) dy - \hat{y} \cdot - f(\hat{y})\\
&= -\int_{\hat{y}}^{\infty} f(y) dy + \hat{y} f(\hat{y})
\\
\frac{d}{d \hat{y}} \left( \hat{y} \cdot \int_{-\infty}^{\hat{y}} f(y) dy \right)
&= \frac{d}{d \hat{y}} \hat{y} \cdot \int_{-\infty}^{\hat{y}} f(y) dy
+ \hat{y} \cdot \frac{d}{d \hat{y}} \int_{-\infty}^{\hat{y}} f(y) dy \quad (積の微分)\\
&= \int_{-\infty}^{\hat{y}} f(y) dy + \hat{y} \cdot f(\hat{y})
\\
\frac{d}{d \hat{y}} \left( - \int_{-\infty}^{\hat{y}} y f(y) dy \right) &= - \hat{y} f(\hat{y})
\end{aligned}
\end{split}\]
よって
\[\begin{split}
\begin{aligned}
\frac{d R(\hat{y})}{d \hat{y}}
&= - \hat{y} f(\hat{y})
-\int_{\hat{y}}^{\infty} f(y) dy + \hat{y} f(\hat{y})
+ \int_{-\infty}^{\hat{y}} f(y) dy + \hat{y} f(\hat{y})
- \hat{y} f(\hat{y})\\
&= -\int_{\hat{y}}^{\infty} f(y) dy + \int_{-\infty}^{\hat{y}} f(y) dy
\end{aligned}
\end{split}\]
となる。\(\frac{d R(\hat{y})}{d \hat{y}}=0\)とおいて整理すれば
\[
\int_{\hat{y}}^{\infty} f(y) dy = \int_{-\infty}^{\hat{y}} f(y) dy
\]
となる点が予測損失を極小化することがわかる。これは\(\hat{y}\)が中央値となるときである。
\(f(y)\)は確率密度関数なので、\(\int_{-\infty}^{\infty} f(y) dy=1\)になる。\(-\infty\)から\(\hat{y}\)への積分と\(\hat{y}\)から\(\infty\)への積分が等しくなるのはその半分、すなわち
\[
\int_{-\infty}^{\hat{y}} f(y) dy = \frac{1}{2}
\]
である。これは累積分布関数\(\mathrm{P}(\hat{y})\)に等しい。よって\(\hat{y}\)は中央値である。
参考：定積分の微分
定積分の定義
\[
\int_a^x f(t) d t=F(x)-F(a)
\]
より、この導関数は
\[
F'(x)-0 = f(x)
\]
有限な仮説集合を用いた学習
仮説集合が有限集合の場合の予測損失の評価について。2値判別問題で考え、入力空間\(\mathcal{X}\)から2値ラベル\(\{+1,-1\}\)への関数\(h\)の有限な仮説集合
\[
\mathcal{H}=\left\{h_1, \ldots, h_T\right\}
\]
を用いて学習を行う（なお、ベイズ規則が\(\mathcal{H}\)に含まれるとは限らない）。ある分布\(P\)に独立に従う学習データ\(S=\{(X_1, Y_1), \dots, (X_n, Y_n)\}\)が与えられたとき、経験判別誤差を最小にする仮説
\[
h_S=\operatorname*{argmin}_{h \in \mathcal{H}} \hat{R}(h)
\]
を出力する学習アルゴリズムを考える。また、\(\mathcal{H}\)の中で予測誤差を最小にする仮説を\(h_\mathcal{H}\)とする。
仮説
\(h_0\)：ベイズ規則\(h_0 = \inf R(h)\)
\(h_\mathcal{H}\)：\(\mathcal{H}\)の中で予測誤差を最小にする仮説\(h_\mathcal{H}=\operatorname*{argmin}_{h \in \mathcal{H}} R(h)\)
\(h_S\)：仮説集合とサンプルのもとで経験損失を最小化する仮説 \(h_S=\operatorname*{argmin}_{h \in \mathcal{H}} \hat{R}(h)\)
の関係は、定義より
\[
R(h_0) \leq R(h_\mathcal{H}) \leq R(h_S),
\quad
\hat{R}(h_S) \leq \hat{R}(h_\mathcal{H})
\]
となる。
差 \(R(h_S) - R(h_0)\) の上界を次のように評価する。
\[\begin{split}
\begin{aligned}
&R(h_S) - R(h_0)\\
&= R(h_S) - \hat{R}(h_S) + \hat{R}(h_S) - R(h_\mathcal{H}) + R(h_\mathcal{H}) - R(h_0)\\
&\leq R(h_S) - \hat{R}(h_S) + \hat{R}(h_\mathcal{H}) - R(h_\mathcal{H}) + R(h_\mathcal{H}) - R(h_0)\\
&\leq 2 \max_{h\in \mathcal{H}} | \hat{R}(h) - R(h) | + R(h_\mathcal{H}) - R(h_0)\\
\end{aligned}
\end{split}\]
補題（ヘフディングの不等式 Hoeffding’s inequality）
確率変数 \(Z\) は有界区間 \([0,1]\) に値をとり、 また確率変数 \(Z_1, \ldots, Z_n\) は独立に \(Z\) と同じ分布にしたがうとする。
このとき、 任意の \(\varepsilon>0\) に対して
\[
\operatorname{Pr}\left(\left|\frac{1}{n} \sum_{i=1}^n Z_i-\mathbb{E}[Z]\right| \geq \varepsilon\right) \leq 2 e^{-2 n \varepsilon^2}
\]
が成り立つ。
\(Z = \mathbf{1}[h(X)\neq Y]\)として、\(2 \max_{h\in \mathcal{H}} | \hat{R}(h) - R(h) |\) にヘフディングの不等式を用いると
\[\begin{split}
\begin{aligned}
& \operatorname{Pr}\left(2 \max _{h \in \mathcal{H}}\left|\hat{R}(h) - R(h)\right| \geq \varepsilon\right) \\
\leq & \sum_{h \in \mathcal{H}} \operatorname{Pr}\left(\left|\hat{R}(h) - R(h)\right| \geq \varepsilon / 2\right) \\
\leq & \sum_{h \in \mathcal{H}} 2 e^{-2 n(\varepsilon / 2)^2}
=2|\mathcal{H}| e^{-n \varepsilon^2 / 2}
\end{aligned}
\end{split}\]
となり、\(\delta = 2|\mathcal{H}| e^{-n \varepsilon^2 / 2}\)とおくと、学習データの分布のもとで確率\(1-\delta\)以上で
\[
2 \max _{h \in \mathcal{H}}\left|R(h)-\hat{R}(h)\right|
\leq \sqrt{\frac{2}{n} \log \frac{2|\mathcal{H}|}{\delta}}
\]
が成り立つ。よって
\[\begin{split}
\begin{aligned}
&R(h_S) - R(h_0)\\
&\leq 2 \max_{h\in \mathcal{H}} | \hat{R}(h) - R(h) | + R(h_\mathcal{H}) - R(h_0)\\
&\leq \sqrt{\frac{2}{n} \log \frac{2|\mathcal{H}|}{\delta}} + R(h_\mathcal{H}) - R(h_0)\\
\end{aligned}
\end{split}\]
となる。
仮説集合\(\mathcal{H}\)にベイズ規則\(h_0\)が含まれる場合、
\[
R(h_\mathcal{H}) - R(h_0) = 0
\]
となるため、
\[\begin{split}
R(h_S) - R(h_0) \leq \sqrt{\frac{2}{n} \log \frac{2|\mathcal{H}|}{\delta}}\\
\iff
R(h_S) \leq R(h_0) + \sqrt{\frac{2}{n} \log \frac{2|\mathcal{H}|}{\delta}}
\end{split}\]
となり、データ数\(n\)が十分大きければ仮説\(h_S\)の誤差はベイズ誤差に収束し、その確率オーダーは
\[
R(h_S) = R(h_0) + O_P\left( \sqrt{\frac{\log |\mathcal{H}|}{n} } \right)
\]
となる。このオーダーは最悪評価であり、問題設定によってはより速い収束レートが達成できる場合もある。
近似誤差と推定誤差のトレードオフ
一般には仮説集合\(\mathcal{H}\)にベイズ規則\(h_0\)が含まれるとは仮定できず、
\[
R(h_\mathcal{H}) - R(h_0) > 0
\]
となる。近似誤差（approximation error）と推定誤差（estimation error）を次のように定義する
このとき、
\[
R(h_S) - R(h_0)
\leq
\rm{bias}_{\mathcal{H}} + \rm{var}_{\mathcal{H}}
\]
となり、仮説集合を適切に設定することで\(h_S\)の予測誤差を小さくできる。
近似誤差 \(\rm{bias}_{\mathcal{H}}\)と推定誤差\(\rm{var}_{\mathcal{H}}\)の間にはトレードオフの関係がある。複数の有限の仮説集合\(\mathcal{H}_1, \mathcal{H}_2, \ldots, \mathcal{H}_M\)の関係が
\[
\mathcal{H}_1 \subset \mathcal{H}_2 \subset \cdots \subset \mathcal{H}_M
\]
を満たすとする。定義より近似誤差と推定誤差は
\[\begin{split}
\begin{aligned}
& \operatorname{bias}_{\mathcal{H}_1} \geq \operatorname{bias}_{\mathcal{H}_2} \geq \cdots \geq \operatorname{bias}_{\mathcal{H}_M} \\
& \operatorname{var}_{\mathcal{H}_1} \leq \operatorname{var}_{\mathcal{H}_2} \leq \cdots \leq \operatorname{var}_{\mathcal{H}_M}
\end{aligned}
\end{split}\]
となる。仮説集合が大きいほど近似誤差は小さくなるが、推定誤差は大きくなる。
なので最適な仮説集合を選ぶには、これらの和を小さくする仮説集合、すなわち
\[
\hat{m}=\underset{m}{\operatorname{argmin}} \operatorname{bias}_{\mathcal{H}_m}+\operatorname{var}_{\mathcal{H}_m}
\]
とするときの\(\mathcal{H}_\hat{m}\)を選べばよい。
適切な仮説集合はデータの分布やデータ数などによって変わる。推定誤差は\(\sqrt{\frac{1}{n}}\)が含まれるためデータ数\(n\)が大きくなれば小さくなる。データ数が少ないときは近似誤差と推定誤差のバランスを考えて仮説集合のサイズを決める必要がある。
実用的な方法として正則化法がある。
二乗損失のバイアス・バリアンス分解
入力変数\(X\)と出力変数\(Y\)の関係が、関数\(f(X)\)と説明しきれなかった誤差\(\varepsilon\)に分かれる、つまり
\[
Y=f(X)+\varepsilon
\]
から成るとする。
データ点\(X=x_0\)における予測損失
\[
E\left[\{Y-\hat{f}(X)\}^2 \mid X=x_0\right]
\]
を考える。二乗損失は
\[\begin{split}
\begin{aligned}
\{Y-\hat{f}(X)\}^2= & \{f(X)+\varepsilon-E[\hat{f}(X)]+E[\hat{f}(X)]-\hat{f}(X)\}^2 \\
= & \{f(X)-E[\hat{f}(X)]\}^2 + \varepsilon^2 + \{E[\hat{f}(X)] - \hat{f}(X)\}^2 \\
& +2 \varepsilon\{f(X)-E[\hat{f}(X)]\}+2 \varepsilon\{E[\hat{f}(X)]-\hat{f}(X)\} \\
& +2\{f(X)-E[\hat{f}(X)]\}\{E[\hat{f}(X)]-\hat{f}(X)\}
\end{aligned}
\end{split}\]
と展開できる。
これに対して\(X=x_0\)における条件付き期待値をとると
第1項 \(\{f(X)-E[\hat{f}(X)]\}^2\) は確率変数ではないため期待値の外に出せて \(\{f(x_0)-E[\hat{f}(x_0)]\}^2\) となる
第2項 \(\varepsilon^2\) は \(E[\varepsilon] = 0\) であるので \(E[\varepsilon^2] = E[\varepsilon^2] - E[\varepsilon]^2 = V[\varepsilon] = \sigma^2\)
第3項 は \(E\big[ \{E[\hat{f}(X)] - \hat{f}(X)\}^2 \mid X=x_0 \big] = V[\hat{f}(X) \mid X = x_0 ] = V[\hat{f}(x_0)]\)
第4項は \(f(X)-E[\hat{f}(X)]\) が確率変数ではないため期待値の外にでて
\[
E[ 2 \varepsilon \{f(X)-E[\hat{f}(X)]\} \mid X=x_0 ]
= 2 \{f(x_0) - E[\hat{f}(x_0)]\} E[ \varepsilon ] = 0
\]
第5項は \(\hat{f}(X)\)と\(\varepsilon\)が独立であるため
\[\begin{split}
E\big[ 2 \varepsilon\{E[\hat{f}(X)]-\hat{f}(X)\} \mid X=x_0 \big]\\
= 2 E[\varepsilon] \cdot E\big[ \{E[\hat{f}(X)]-\hat{f}(X)\} \mid X=x_0 \big]
= 0
\end{split}\]
最後の項は
\[\begin{split}
2 E \big[ \{f(X)-E[\hat{f}(X)]\}\{E[\hat{f}(X)]-\hat{f}(X)\} \mid X=x_0 \big]\\
= 2 \{f(x_0) - E[\hat{f}(x_0)]\}\{E[\hat{f}(x_0)]-\hat{f}(x_0)\}
= 0
\end{split}\]
となる。よって期待二乗損失は以下のように分解される
\[\begin{split}
\begin{aligned}
E[\{Y-\hat{f}(X)\}^2 \mid X=x_0]
&=
\{ f(x_0)-E[\hat{f}(x_0)] \}^2
+ V[\hat{f}(x_0)]
+ \sigma^2
\\
&= \text{Bias}^2 + \text{Variance} + \text{irreducible error}
\end{aligned}
\end{split}\]
参考：
正則化
正則化 (regularization) は適切な大きさの仮説集合を学習するための代表的な方法。小さな仮説集合で対応できるデータに対して、大きな仮説集合から仮説を選ぶことに対してペナルティを掛ける。
複数の仮説集合 \(\mathcal{H}_1 \subset \cdots \subset \mathcal{H}_M\) を用いて学習を行うとする。仮説 \(h\) に対するペナルティ \(\Phi: \mathcal{H}_M \rightarrow \mathbb{R}_{\geq 0}\) として、 \(m_1<m_2\) に対して
\[
h \in \mathcal{H}_{m_1}, \quad h^{\prime} \in \mathcal{H}_{m_2} \backslash \mathcal{H}_{m_1} \Longrightarrow \Phi(h) \leq \Phi\left(h^{\prime}\right)
\]
を満たすような関数 \(\Phi\) を考えると、 大きな仮説集合に含まれるほうがより大きなペナルティが課されることになる。
仮説の探索範囲は経験損失\(\hat{R}(h)\)を小さくするように学習する
\[
\min_{h \in \mathcal{H}_M}
\hat{R}(h) + \lambda \cdot \Phi(h)
\]
正則化パラメータ\(\lambda \geq 0\)を求める方法は様々なものが提案されている。
「データ数が十分大きいときは、大きな仮説集合を用いても予測誤差があまり大きくならない」という性質があるため、正則化パラメータをデータ数に依存するように定義して適切なオーダーで\(\lambda \to 0 ~ (n \to \infty)\) とする方法が提案されている。この方法は予測誤差を理論的に評価しやすいという利点がある。
しかし実用上は交差検証法（Cross-Validation）を用いて決める方法が有用である。