ベクトル空間

ベクトル空間#

ベクトル空間：実数倍と和が定義されており、任意の元の線形結合がふたたび元となる集合

定義（ベクトル空間）

任意の元\(x, y \in L\)と任意の実数\(a, b\)について実数倍\(ax, by\)とそれらの和\(ax + by\)が定義されており、かならず\(ax + by \in L\)が成り立つような集合\(L\)を**ベクトル空間（vector space）という。また\(L\)の元をベクトル（vector）**という

イメージ的には原点と矢印と、矢印同士の演算（和や積など）だけが決まっている。座標は固定ではない

整数集合\(\mathbb{Z}\)は実数を掛けて線形結合した結果が整数になるとは限らないため、ベクトル空間ではない。実数集合\(\mathbb{R}\)はベクトル空間である。

部分空間#

（定義）部分ベクトル空間

ベクトル空間 \(V\) の空でない部分集合 \(W\) が、 \(V\) における和とスカラー倍の演算によってベクトル空間になるとき、すなわち

\(W \neq \phi \quad\) ( \(\phi\) は空集合)
- \(\boldsymbol{0} \in W\)（\(W\)は\(V\)の零ベクトルを含む）が1番目の条件にくる定義もある
\(\boldsymbol{a}, \boldsymbol{b} \in W \Rightarrow \boldsymbol{a}+\boldsymbol{b} \in W\)
\(\boldsymbol{a} \in W, \quad \lambda \in \boldsymbol{R} \Rightarrow \lambda \boldsymbol{a} \in W\)

を満たすとき、 \(W\) を \(V\) の 部分空間 、または 部分べクトル空間 という。

部分空間の例

ベクトル空間\(V\)自身や\(V\)の零元だけからなる集合\(\{0\}\)
\(K\)上のベクトル空間\(V\)の任意の元\(v\)に対して、集合\(\{av | a \in K\}\)
\(\mathbb{R}^n\)に対し、原点を含む直線、平面、超平面
- 原点を含まない直線、平面、超平面は アフィン部分空間

スパン（ベクトルが張る空間）#

ベクトル空間\(V\)から選ばれたいくつかのベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)を用いて作られる部分集合

（定義）スパン

ベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)（\(\in V\)）の線形結合\(a_1 \boldsymbol{x}_1 + \cdots + a_n \boldsymbol{x}_n\)の集合

\[ W = \{ a_1 \boldsymbol{x}_1 + \cdots + a_n \boldsymbol{x}_n | a_1, \dots, a_n \in \mathbb{R} \} \]

は部分空間であり、これを\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)の**スパン（span）**あるいは\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)が張る空間といい

\[ \text{Span}\{ \boldsymbol{x}_1, \dots, \boldsymbol{x}_n \} \]

と書く

（例）線形回帰モデルとの関わり#

\(\boldsymbol{x}_1\)を「教育を受けた年数」の観測値のベクトル、\(\boldsymbol{x}_2\)を「その職種の経験年数」の観測値のベクトル、\(\boldsymbol{y}\)を「賃金」の観測値のベクトルとしたとき、\(\text{Span}\{ \boldsymbol{x}_1, \boldsymbol{x}_2 \}\)に\(\boldsymbol{y}\)が属するならば

\[ 賃金 = a_1 \times 教育を受けた年数 + a_2 \times その職種の経験年数 \]

という関係が成り立つことになる

線形従属#

（定義）線形従属

ベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n \in V\)と、すべてが0ではない係数\(a_1,\dots,a_n\)を用いて

\[ a_1 \boldsymbol{x}_1 + \cdots + a_n \boldsymbol{x}_n = \boldsymbol{0} \]

とできるとき、\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は**線形従属（linearly dependent）**であるという。

（例）\(\boldsymbol{x}_1\)がそれ以外のベクトルの線形結合で表せる、つまり

\[ \boldsymbol{x}_1 = a_2 \boldsymbol{x}_2 + \cdots + a_n \boldsymbol{x}_n \]

となるとき、\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は線形従属である

（例）線形写像（行列）を使っての例

異なる入力のベクトル\(\boldsymbol{x}, \boldsymbol{x}'\)が同じ\(\boldsymbol{y}\)に移る、つまり単射でない場合、すなわち\(A \boldsymbol{x} = A\boldsymbol{x}'\)の場合、\(A\)を構成する列ベクトルたち\(\boldsymbol{a}_1, \dots, \boldsymbol{a}_m\)は線形従属である

線形独立#

（定義）線形独立

\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n \in L\)について、係数\(a_1,\dots,a_n\)が

\[ a_1 = \cdots = a_n = 0 \]

であるとき、またそのときにのみ

\[ a_1 \boldsymbol{x}_1 + \cdots + a_n \boldsymbol{x}_n = \boldsymbol{0} \]

が成り立つとき、\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は 線形独立（linearly independent） であるという。

例えば、

\[\begin{split} \begin{align} \boldsymbol{x}_1 &= (1, 0, 1)^T\\ \boldsymbol{x}_2 &= (-1, 2, 3)^T \end{align} \end{split}\]

とする。

\[ a_1 \boldsymbol{x}_1 + a_2 \boldsymbol{x}_2 = \boldsymbol{0} \]

とすると、第2成分が0になるためには\(a_2 = 0\)である必要がある。

そして\(a_1 \boldsymbol{x}_1 = \boldsymbol{0}\)となるためには、\(a_1 = 0\)である必要がある。

よって\(a_1 = a_2 = 0\)であるため、\(\boldsymbol{x}_1, \boldsymbol{x}_2\)は1️次独立である。

基底#

（定義）基底

ベクトル空間\(L\)と、それに属するベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n \in L\)を用いて

\[ L = \text{Span}\{ \boldsymbol{x}_1, \dots, \boldsymbol{x}_n \} \]

と書けるとき、「\(L\)の 次元（dimension） は\(n\)である」あるいは「\(L\)は\(n\)次元ベクトル空間である」といい、

\[ \dim L = n \]

と書く。

またこのとき、ベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)を\(L\)の 基底（base） という

例えば\(L=\mathbb{R}^2\)であれば、\(\boldsymbol{x}_1 = (1, 0)^T, \boldsymbol{x}_2 = (0, 1)^T\)という線形独立なベクトルを用いて

\[ \mathbb{R}^2 = \text{Span}\{ \boldsymbol{x}_1, \boldsymbol{x}_2 \} \]

と書くことができる。\(\dim \mathbb{R}^2 = 2\)であり、\(\boldsymbol{x}_1, \boldsymbol{x}_2\)は\(\mathbb{R}^2\)の基底になる。

書籍によっては別の定義を使っていることもある

（定義）基底

ベクトル空間\(L\)と、ベクトルの組\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n \in L\)が次の2つの条件を満たすとき、\(V\)の基底という

\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は1次独立である
\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は\(V\)を生成する