ベクトル空間#
ベクトル空間:実数倍と和が定義されており、任意の元の線形結合がふたたび元となる集合
定義(ベクトル空間)
任意の元\(x, y \in L\)と任意の実数\(a, b\)について実数倍\(ax, by\)とそれらの和\(ax + by\)が定義されており、 かならず\(ax + by \in L\)が成り立つような集合\(L\)を ベクトル空間(vector space) という。また\(L\)の元を ベクトル(vector) という
イメージ的には原点と矢印と、矢印同士の演算(和や積など)だけが決まっている。座標は固定ではない
整数集合\(\mathbb{Z}\)は実数を掛けて線形結合した結果が整数になるとは限らないため、ベクトル空間ではない。 実数集合\(\mathbb{R}\)はベクトル空間である。
部分空間#
(定義)部分ベクトル空間
ベクトル空間 \(V\) の空でない部分集合 \(W\) が \(V\) における和とスカラー倍の演算によってベクトル空間になるとき、すなわち
\(W \neq \phi \quad\) ( \(\phi\) は空集合)
同値の別表現として\(\boldsymbol{0} \in W\)(\(W\)は零ベクトルを含む)が1番目の条件にくる定義もある
\(\boldsymbol{a}, \boldsymbol{b} \in W \Rightarrow \boldsymbol{a}+\boldsymbol{b} \in W\)
\(\boldsymbol{a} \in W, \quad \lambda \in \boldsymbol{R} \Rightarrow \lambda \boldsymbol{a} \in W\)
を満たすとき、 \(W\) を \(V\) の 部分空間 、または 部分べクトル空間 という。
ベクトル空間\(V\)自身や\(V\)の零元だけからなる集合\(\{0\}\)
\(K\)上のベクトル空間\(V\)の任意の元\(v\)に対して、集合\(\{av | a \in K\}\)
\(\mathbb{R}^n\)に対し、原点を含む直線、平面、超平面
原点を含まない直線、平面、超平面は アフィン部分空間
Kerについては:
\(V, W\)をベクトル空間とし、\(f:V\to W\)を線形写像とする。
\(x_1, x_2\in \operatorname{Ker} f\)とする。Kerの定義\(\operatorname{Ker}f :=\{ x\in V \mid f(x) = 0 \}\)から
線形写像の線形性から、\(c_1, c_2 \in \mathbb{R}\)について
なので\(c_1 x_1 + c_2 x_2 \in \operatorname{Ker} f\) であり、和と定数倍に閉じていて空集合でないため\(\operatorname{Ker} f\)は\(V\)の部分空間である。
スパン(ベクトルが張る空間)#
ベクトル空間\(V\)から選ばれたいくつかのベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)を用いて作られる部分集合
(定義)スパン
ベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)(\(\in V\))の線形結合\(a_1 \boldsymbol{x}_1 + \cdots + a_n \boldsymbol{x}_n\)の集合
は部分空間であり、これを\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)の**スパン(span)**あるいは\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)が張る空間といい
と書く
(例)線形回帰モデルとの関わり#
\(\boldsymbol{x}_1\)を「教育を受けた年数」の観測値のベクトル、\(\boldsymbol{x}_2\)を「その職種の経験年数」の観測値のベクトル、\(\boldsymbol{y}\)を「賃金」の観測値のベクトルとしたとき、\(\text{Span}\{ \boldsymbol{x}_1, \boldsymbol{x}_2 \}\)に\(\boldsymbol{y}\)が属するならば
という関係が成り立つことになる
線形独立(1次独立)#
(定義)線形独立
\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n \in V\)について、係数\(c_1,\dots,c_n\)が
であるとき、またそのときにのみ
が成り立つとき、\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は 線形独立(linearly independent) あるいは 1次独立 であるという。
例えば、
とする。
とすると、第2成分が0になるためには\(c_2 = 0\)である必要がある。
そして\(c_1 \boldsymbol{x}_1 = \boldsymbol{0}\)となるためには、\(c_1 = 0\)である必要がある。
よって\(c_1 = c_2 = 0\)であるため、\(\boldsymbol{x}_1, \boldsymbol{x}_2\)は1️次独立である。
(定理)線形独立の同値な別表現
ベクトルの組\(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\)について、次の(1)と(2)は同値である
(1) \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) は線形独立である
(2) \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) の線形結合(1次結合)で表わされる元の表わし方は一意的である。すなわち、
ならば、 \(c_1=c_1^{\prime}, \cdots, c_n=c_n^{\prime}\) である。
証明
(1) \(\Rightarrow\) (2) について:
(2)の等式を移項する。
(1)の仮定より
であるから,表わし方は一意的である。
(2) \(\Rightarrow\) (1)について:
1 次関係 \(c_1 \boldsymbol{a}_1+\cdots+c_n \boldsymbol{a}_n=\mathbf{0}\) をみたす \(c_i\) として, \(c_i=0 \quad (i=1, \cdots, n)\) があるが,仮定よりこの他にはこの式をみたすものはない。
つまり \(c_i=0 \quad(i=1, \cdots, n)\) が成り立ち, これは \(a_1, \cdots, a_n\) が 1 次独立であることを意味する。
例題
ベクトル
が1次独立かどうか判定せよ。
行列のランク(行列\(A\)の列ベクトルの中から選び得る1次独立なベクトルの最大個数)を調べる方法がある。行列式がゼロでない(\(|A|\neq 0\))なら\(\operatorname{rank}(A)=n, A\in\mathbb{R}^{n\times n}\)であるため、\(A\)が正方行列なら行列式がゼロかどうかを判定すればよい。
であるため1次独立である
線形従属(1次従属)#
(定義)線形従属
ベクトル\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n \in V\)と、すべてが0ではない係数\(c_1,\dots,c_n\)を用いて
とできるとき、\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は 線形従属(linearly dependent) あるいは 1次従属 であるという。
線形従属の同値な別表現
ベクトルの組 \(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\) のうち1つのベクトルがそれ以外のベクトルの線形結合で表せるとき、
例えば\(\boldsymbol{x}_1\)を例に取ると
となるとき、\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は線形従属である
証明
\(\boldsymbol{x}_1\)が他の残りのベクトルの線形結合として表示できる場合、それを
とする。この式の右辺を移項すると
となり、\(\boldsymbol{x}_1\)の係数は1であるため、\(\boldsymbol{x}_1, \dots, \boldsymbol{x}_n\)は線形従属である。
\(\boldsymbol{x}_1\)以外の任意のベクトルでも同様のことが言える。
異なる入力のベクトル\(\boldsymbol{x}, \boldsymbol{x}'\)が同じ\(\boldsymbol{y}\)に移る、つまり単射でない場合、すなわち\(A \boldsymbol{x} = A\boldsymbol{x}'\)の場合、\(A\)を構成する列ベクトルたち\(\boldsymbol{a}_1, \dots, \boldsymbol{a}_m\)は線形従属である