関数に対する無制約最適化問題
\newcommand{\R} attempting to redefine \R; use \renewcommand
\newcommand{\R}{\mathbb{R}}
\newcommand{\b}[1]{ \boldsymbol{#1} }
\min_{\b{x}\in\R} f(\b{x})
\tag{1}について考える。
凸とは限らない関数の最適化では、局所最適解を求めることが現実的な目標になる
目的関数が微分可能なら、局所最適解における勾配はゼロベクトルとなる
ここで\nabla f(\b{x})は勾配(gradient)
Undefined control sequence: \b at position 10: \nabla f(\̲b̲{x}) = \left(
…
\nabla f(\b{x}) = \left(
\frac{\partial f}{\partial x_1} (\b{x}),
\dots,
\frac{\partial f}{\partial x_n} (\b{x})
\right)^T \in \R^nである
ヘッセ行列の情報で局所最適解かどうかを判定することができる