基底 - データサイエンス関連+αのメモ

基底¶

例えば $L=\mathbb{R}^2$ であれば、 $\boldsymbol{x}_1 = (1, 0)^T, \boldsymbol{x}_2 = (0, 1)^T$ という線形独立なベクトルを用いて

\mathbb{R}^2 = \text{Span}\{ \boldsymbol{x}_1, \boldsymbol{x}_2 \}

(1)

と書くことができる。 $\dim \mathbb{R}^2 = 2$ であり、 $\boldsymbol{x}_1, \boldsymbol{x}_2$ は $\mathbb{R}^2$ の基底になる。

まず、線形独立であるかを判断する。実数スカラー $c_1,c_2$ を用いて

c_1 \boldsymbol{a}_1 + c_2 \boldsymbol{a}_2 = \boldsymbol{0}

(3)

とおいたときの連立方程式

\begin{cases} c_1 + c_2 &= 0\\ c_1 &= 0 \end{cases}

(4)

を解くと $c_1=c_2=0$ であるため、 $\boldsymbol{a}_1, \boldsymbol{a}_2$ は線形独立である。

次に、 $\boldsymbol{a}_1, \boldsymbol{a}_2$ が $\boldsymbol{R}^2$ を形成するか調べる。

任意のベクトル $\boldsymbol{b}=\begin{pmatrix} b_1\\ b_2 \end{pmatrix}$ に対して、等式

c_1 \boldsymbol{a}_1 + c_2 + \boldsymbol{a}_2 = \boldsymbol{b}

(5)

を満たす $c_1, c_2$ が存在するかどうか調べる。

この方程式を行列で表記すると

\begin{pmatrix} 1 & 1\\ 1 & 0 \end{pmatrix} \begin{pmatrix} c_1\\ c_2 \end{pmatrix} = \begin{pmatrix} b_1\\ b_2 \end{pmatrix}

(6)

であり、未知数 $c_1,c_2$ に解があるかどうかは行列式を用いて判定できる。

\left|\begin{array}{cc} 1 & 1\\ 1 & 0 \end{array}\right| = 0 - 1 = -1

(7)

であり、行列式が零ではないため解が一意的に存在する。よって $\boldsymbol{a}_1, \boldsymbol{a}_2$ は $\boldsymbol{R}^2$ の基底である。

基底に関する例題¶

例題

\boldsymbol{a}_1=\left(\begin{array}{c}\cos \theta \\ \sin \theta \\ 0\end{array}\right), \quad \boldsymbol{a}_2=\left(\begin{array}{c}-\sin \theta \\ \cos \theta \\ 0\end{array}\right), \quad \boldsymbol{a}_3=\left(\begin{array}{l}0 \\ 0 \\ 1\end{array}\right)

(8)

は $\mathbb{R}^3$ の基底であることを示せ

$A = (a_1, a_2, a_3)$ とすると、その行列式は

|A| = 1 \times \left|\begin{array}{ccc} \cos \theta & - \sin \theta\\ \sin \theta & \cos \theta \end{array}\right| = \cos^2\theta + \sin^2\theta = 1

(9)

行列式がゼロでないため、ランク落ちがなく $a_1,a_2,a_3$ は基底である

基底変換と線形写像¶

成分ベクトル¶

ベクトル空間 $V$ の基底 $a_1, \cdots, a_n$ に関して, $V$ の任意のベクトル $a$ は

\boldsymbol{a} =x_1 \boldsymbol{a}_1+x_2 \boldsymbol{a}_2+\cdots+x_n \boldsymbol{a}_n =\left(\begin{array}{lll} \boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \end{array}\right)\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)

(10)

と一意的に表される。

このとき、

\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)

(11)

を、ベクトル $a$ の基底 $a_1, \cdots, a_n$ に関する成分あるいは 成分ベクトル という。

定理

ベクトル空間 $V$ の基底 $a_1, \cdots, a_n$ に関して, $V$ の任意のベクトル $a$ が

\boldsymbol{a} =x_1 \boldsymbol{a}_1+\cdots+x_n \boldsymbol{a}_n =\left(\begin{array}{lll} \boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \end{array}\right)\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)

(12)

と表され、別の基底 $b_1, \dots, b_n$ を用いて

\boldsymbol{a}=y_1 \boldsymbol{b}_1+\cdots+y_n \boldsymbol{b}_n=\left(\begin{array}{lll} \boldsymbol{b}_1 & \cdots & \boldsymbol{b}_n \end{array}\right)\left(\begin{array}{c} y_1 \\ \vdots \\ y_n \end{array}\right)

(13)

と表されるとき、

\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)=P\left(\begin{array}{c} y_1 \\ \vdots \\ y_n \end{array}\right)

(14)

が成り立つ。

ただし、 $P =(p_{ij})$ は正則行列であり、2つの基底の間の関係を

\boldsymbol{b}_j=\sum_{i=1}^n p_{i j} \boldsymbol{a}_i

(15)

と表すものである。

線形写像の行列表現¶

ベクトル空間のあいだの線形写像を行列で表し、行列の理論で解析することができる。

$V, W$ をベクトル空間， $v_1, \cdots, v_n, w_1, \cdots, w_m$ をそれぞれ $V, W$ の基底とする。ここで $n = \operatorname{dim} V, \ m=\operatorname{dim} W$ である。

線形写像 $f: V\to W$ があるとすると、 $f(v_1), \cdots, f(v_n)$ は $W$ のベクトルであるため、 $W$ の基底の1次結合として一意的に

\begin{gathered} f\left(\boldsymbol{v}_1\right)=a_{11} \boldsymbol{w}_1+a_{21} \boldsymbol{w}_2+\cdots+a_{m 1} \boldsymbol{w}_m \\ f\left(\boldsymbol{v}_2\right)=a_{12} \boldsymbol{w}_1+a_{22} \boldsymbol{w}_2+\cdots+a_{m 2} \boldsymbol{w}_m \\ \vdots \\ f\left(\boldsymbol{v}_n\right)=a_{1 n} \boldsymbol{w}_1+a_{2 n} \boldsymbol{w}_2+\cdots+a_{m n} \boldsymbol{w}_m \end{gathered}

(16)

と表すことができる。まとめて書けば

f\left(\boldsymbol{v}_j\right)=\sum_{i=1}^m a_{i j} \boldsymbol{w}_i \quad(j=1,2, \cdots, n)

(17)

である。

この係数 $a$ が作る行列の転置行列を $A_f$ と書くことにすると、この行列 $A_f$ は $f$ により一意的に決まる行列であり、

\left(f\left(\boldsymbol{v}_1\right), \cdots, f\left(\boldsymbol{v}_n\right)\right) =\left(\boldsymbol{w}_1, \cdots, \boldsymbol{w}_m\right) A_f

(18)

と表すことができる。

さて、 $V$ の任意のベクトル $x$ を $\displaystyle \left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)$ とすると、こちらも基底の1次結合として表すことができるため

\boldsymbol{x}=x_1 \boldsymbol{v}_1+\cdots+x_n \boldsymbol{v}_n =\left(\boldsymbol{v}_1, \cdots, \boldsymbol{v}_n\right)\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)

(34)

である。そして $W$ のベクトル $\boldsymbol{y}=f(\boldsymbol{x}) =\left(\begin{array}{c} y_1 \\ \vdots \\ y_m \end{array}\right)$ があるとすると

\boldsymbol{y}=y_1 \boldsymbol{w}_1+\cdots+y_m \boldsymbol{w}_m=\left(\boldsymbol{w}_1, \cdots, \boldsymbol{w}_m\right)\left(\begin{array}{c} y_1 \\ \vdots \\ y_m \end{array}\right)

(35)

である。この式と、式

\begin{aligned} \boldsymbol{y} &=f(\boldsymbol{x})\\ &=\sum_{j=1}^n x_j f\left(\boldsymbol{v}_j\right)\\ &=\left(f\left(\boldsymbol{v}_1\right), \cdots, f\left(\boldsymbol{v}_n\right)\right)\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right) \\ &=\left(\boldsymbol{w}_1, \cdots, \boldsymbol{w}_m\right) A_f\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right) \end{aligned}

(36)

より、 $x$ と $y$ の成分ベクトルの間には

\left(\begin{array}{c} y_1 \\ \vdots \\ y_m \end{array}\right)=A_f\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)

(37)

という関係が成り立つ。

逆に, 任意の $m \times n$ 行列 $A=\left(a_{i j}\right)$ が与えられたとする. $V$ の任意のべクトル $\boldsymbol{x}=\sum_{j=1}^n x_j \boldsymbol{v}_j$ に対して

f(\boldsymbol{x})=\left(\boldsymbol{w}_1, \cdots, \boldsymbol{w}_m\right) A\left(\begin{array}{c} x_1 \\ \vdots \\ x_n \end{array}\right)

(38)

とおくことにより、写像

f: V \longrightarrow W

(39)

が定義されるが、この写像は線形写像である。

線形写像 $f: V \to W$ に対して上の方法で定まる $m\times n$ 行列 $A$ を、 $V$ の基底 $\boldsymbol{v}_1, \dots, \boldsymbol{v}_n$ と $W$ の基底 $\boldsymbol{w}_1,\dots,\boldsymbol{w}_m$ に関する $f$ の 表現行列 または $f$ の 行列表示 または $f$ に 対応する行列 などという。

例題

次の線形写像 $f: \mathbb{R}^2 \rightarrow \mathbb{R}^2$ を考える。

f \binom{x}{y}=\binom{2 x+y}{x-y}

(40)

基底

\boldsymbol{v}_1 = \binom{1}{1}, \quad \boldsymbol{v}_2 = \binom{1}{-1}

(41)

に関する、この線形写像の表現行列を求めよ。

Step 1: 写像による変換後のベクトルを取得

基底ベクトルに線形写像を適用すると、

f(\boldsymbol{v}_1) = f \begin{pmatrix} 1 \\ 1 \end{pmatrix} = f \begin{pmatrix} 2\cdot 1 + 1 \\ 1 - 1 \end{pmatrix} = \begin{pmatrix} 3 \\ 0 \end{pmatrix} \\ f(\boldsymbol{v}_2) = f \begin{pmatrix} 1 \\ -1 \end{pmatrix} = f \begin{pmatrix} 2 \cdot 1 - 1 \\ 1 + 1 \end{pmatrix} = \begin{pmatrix} 1 \\ 2 \end{pmatrix}

(42)

である。

Step 2: 1次結合にして係数を求める

変換後のベクトル $f(\boldsymbol{v}_1)$ を基底の1次結合で表現すると

f(v_1) = \begin{pmatrix} 3 \\ 0 \end{pmatrix} = a_{11} \boldsymbol{v}_1 + a_{12} \boldsymbol{v}_2 = a_{11} \begin{pmatrix} 1 \\ 1 \end{pmatrix} + a_{12} \begin{pmatrix} 1 \\ -1 \end{pmatrix}

(43)

この連立1次方程式を解くと $a_{11} = 3/2, a_{12} = 3/2$

同様に、

f(v_2) = \begin{pmatrix} 1 \\ 2 \end{pmatrix} = a_{21} \boldsymbol{v}_1 + a_{22} \boldsymbol{v}_2 = a_{21} \begin{pmatrix} 1 \\ 1 \end{pmatrix} + a_{22} \begin{pmatrix} 1 \\ -1 \end{pmatrix}

(44)

は $a_{21} = 3/2, a_{22} = -1/2$

よって表現行列は

\left(\begin{array}{cc} \frac{3}{2} & \frac{3}{2} \\ \frac{3}{2} & -\frac{1}{2} \end{array}\right)

(45)

例

python - Unknown Directive

import numpy as np

v1 = np.array([1, 1])
v2 = np.array([1, -1])

A = np.array([
    [3/2, 3/2],
    [3/2, -1/2],
])

print("f(v1) =", A[0, 0] * v1 + A[0, 1] * v2)
print("f(v2) =", A[1, 0] * v1 + A[1, 1] * v2)

f(v1) = [3. 0.]
f(v2) = [1. 2.]

import numpy as np

v1 = np.array([1, 1])
v2 = np.array([1, -1])

A = np.array([
    [3/2, 3/2],
    [3/2, -1/2],
])

print("f(v1) =", A[0, 0] * v1 + A[0, 1] * v2)
print("f(v2) =", A[1, 0] * v1 + A[1, 1] * v2)

f(v1) = [3. 0.]
f(v2) = [1. 2.]

A @ v1
A @ v2

array([0., 2.])

基底の変換¶

基底の取り方を変えると、行列表現も変わる。

ベクトル空間 $V$ の 2つの基底 $v_1, \cdots, v_n, v_1^{\prime}, \cdots, v_n^{\prime}$ をとる。各 $v_j^{\prime}$ は $v_1, \cdots, v_n$ の 1 次結合として表わされるから、

\boldsymbol{v}_j^{\prime}=p_{1 j} \boldsymbol{v}_1+p_{2 j} \boldsymbol{v}_2+\cdots+p_{n j} \boldsymbol{v}_n \quad(j=1, \cdots, n)

(46)

と書かれる。ここで $P=\left(p_{i j}\right)$ とおくと、上の式は

\left(\boldsymbol{v}_1{ }^{\prime}, \cdots, \boldsymbol{v}_n{ }^{\prime}\right)=\left(\boldsymbol{v}_1, \cdots, \boldsymbol{v}_n\right) P

(47)

とまとめて表わされる。 $P$ は2つの基底のあいだの変換行列であり、正則行列である。

定理

$f: V \rightarrow W$ を線形写像とする。

$V$ の基底 $v_1, \cdots, \boldsymbol{v}_n$ と $W$ の基底 $w_1, \cdots, w_m$ に関する $f$ の表現行列を $A$ 、

$V$ の基底 $v_1^{\prime}, \cdots, v_n{ }^{\prime}$ と $W$ の基底 $\boldsymbol{w}_1{ }^{\prime}, \cdots, \boldsymbol{w}_m{ }^{\prime}$ に関する $f$ の表現行列を $B$ とする。

また、基底の変換の行列をそれぞれ $P, Q$ とする。すなわち

\left(\boldsymbol{v}_1^{\prime}, \cdots, \boldsymbol{v}_n{ }^{\prime}\right) = \left(\boldsymbol{v}_1, \cdots, \boldsymbol{v}_n\right) P, \quad \left(\boldsymbol{w}_1{ }^{\prime}, \cdots, \boldsymbol{w}_m{ }^{\prime}\right)=\left(\boldsymbol{w}_1, \cdots, \boldsymbol{w}_m\right) Q \\

(48)

とおく。

このとき

B=Q^{-1} A P

(49)

が成り立つ。

なお、

B=P^{-1} A P

(52)

のような関係にある2つの行列 $A, B$ は相似（similar）、あるいは同値（equivalent）、または共役（conjugate）であるという。