対称行列の固有値#

対称行列に対しては

  • 固有値も固有ベクトルもすべて実数

  • 固有ベクトルは互いに直交する

という性質を持っている。

現実世界やデータサイエンス領域での応用において固有値を求めるとき、相関行列や分散共分散行列など対称行列の固有値を求めることが多いので対称行列に対する固有値のトピックに触れておくと理解しやすい。

対称行列の固有値と固有ベクトルは実数#

定理

対称行列の固有値はすべて実数であり、対応する固有ベクトルも実数ベクトルである

証明

対称行列Aの一つの固有値をλ、対応する固有ベクトルをx=(x1xn) とすると、定義よりAx=λxである。両辺の複素共役をとったものと合わせると次のように書くことができる。

Ax=λx,Ax¯=λ¯x¯

x¯と第1式の両辺を、xと第2式の両辺をそれぞれ内積をとると

x¯,Ax=λx¯,x,x,Ax¯=λ¯x,x¯

となる。「正方行列Aに対して Ax,y=x,Ay が成り立つ」という定理と、またAは対称行列のためA=Aであることから、

x¯,Ax=Ax,x¯=x,Ax¯=x,Ax¯

となり、2つの式の左辺は等しいことがわかる。2つの式の辺々を差し引くと

0=λx¯,xλ¯x,x¯(λλ¯)x,x¯=0

となる。固有ベクトルは0ではないからx,x¯=|x1|2++|xn|2>0であり、したがってλ=λ¯であり、ゆえにλは実数である。

固有ベクトルは連立1次方程式

(λIA)x=0

の解であり、係数がすべて実数であるから解も実数である。

対称行列の固有ベクトルは直交する#

定理

対称行列の異なる固有値に対応する固有ベクトルは互いに直交する

証明

対称行列Aの2つの異なる固有値をλ1,λ2、対応する固有ベクトルをx1,x2とする。

Ax1=λ1x1,Ax2=λ2x2

第1式をx2と内積をとり、第2式をx1と内積をとると

x2,Ax1=x2,λ1x1,x1,Ax2=x1,λ2x2

Aは対称行列なので

x2,Ax1=Ax1,x2()=x1,Ax2()=x1,Ax2(AA=A)

となる。そのため上の2つの式の辺々を差し引くと

x2,λ1x1x1,λ2x2=0λ1x2,x1λ2x1,x2=0(λ1λ2)x1,x2=0

λ1λ20であるから、x1,x2=0であり、x1,x2は互いに直交している

対称行列の対角化#

定理

n×n 対称行列 A の固有値を λ1,,λn とおき、対応する固有ベクトルの正規直交系を x1,,xn とし、 x1,,xn を列とする行列を P=(x1xn) とすると、次式が成り立つ。

PAP=(λ1λ2λn)
証明
AP=A(x1x2xn)=(Ax1Ax2Axn)=(λ1x1λ2x2λnxn)=(x1x2xn)(λ1λ2λn)=P(λ1λ2λn)

対称行列の固有値分解(スペクトル分解)#

定理

n×n 対称行列 A の固有値を λ1,,λn 、対応する固有ベクトルの正規直交系を x1,,xn とし、これらを列とする行列を P=(x1,,xn) とすると、次式が成り立つ。

PAP=(λ1λ2λn)
証明
AP=P(λ1λ2λn)

の両辺に右からPをかけると得られる。