解答
\[\begin{split}
|A-t E|=\left|\begin{array}{ccc}
-t & 0 & 1 \\
0 & -1-t & 0 \\
1 & 0 & -t
\end{array}\right|=-(t-1)(t+1)^2
\end{split}\]
ゆえに固有値は \(1,-1\) (重複度2) である. 次に固有値 \(1,-1\) に属する固有空間 \(V(1), V(-1)\) を求める。固有値1のとき,
\[\begin{split}
\left(\begin{array}{rcr}
-1 & 0 & 1 \\
0 & -1-1 & 0 \\
1 & 0 & -1
\end{array}\right)\left(\begin{array}{l}
x \\
y \\
z
\end{array}\right)=\left(\begin{array}{c}
-x+z \\
-2 y \\
x-z
\end{array}\right)=\left(\begin{array}{l}
0 \\
0 \\
0
\end{array}\right)
\end{split}\]
すなわち, \(x=z, y=0\) であるから
\[\begin{split}
V(1)=\left\{\left.c\left(\begin{array}{l}
1 \\
0 \\
1
\end{array}\right) \right\rvert\, c \text { は任意 }\right\}
\end{split}\]
となる. 固有値 -1 のとき,
\[\begin{split}
\left(\begin{array}{ccc}
-(-1) & 0 & 1 \\
0 & -1-(-1) & 0 \\
1 & 0 & -(-1)
\end{array}\right)\left(\begin{array}{l}
x \\
y \\
z
\end{array}\right)=\left(\begin{array}{c}
x+z \\
0 \\
x+z
\end{array}\right)=\left(\begin{array}{l}
0 \\
0 \\
0
\end{array}\right)
\end{split}\]
すなわち, \(x+z=0, y\) は任意, であるから
\[\begin{split}
V(-1)=\left\{\left.c_1\left(\begin{array}{l}
0 \\
1 \\
0
\end{array}\right)+c_2\left(\begin{array}{r}
1 \\
0 \\
-1
\end{array}\right) \right\rvert\, c_1, c_2 \text { は任意 }\right\}
\end{split}\]
となる. 以上の固有ベクトルの集合のうちから正規直交基底を選んで並べると対角化を与える直交行列になる。 そこで
\[\begin{split}
\boldsymbol{a}_1=\left(\begin{array}{l}1 \\ 0 \\ 1\end{array}\right), \quad \boldsymbol{a}_2=\left(\begin{array}{l}0 \\ 1 \\ 0\end{array}\right), \quad \boldsymbol{a}_3=\left(\begin{array}{r}1 \\ 0 \\ -1\end{array}\right)
\end{split}\]
と おいてシュミットの方法で正規直交化を行う。
定理より \(V(1)\) と \(V(-1)\) の元は互いに直交しているから、それぞれで正規直交化を行えばよい。今回の場合、 \(a_2\) と \(a_3\) はたまたま直交しているので長さのみ調節すればよい。こうして次の正規直交基底を得る。
\[\begin{split}
\boldsymbol{v}_1=\frac{1}{\sqrt{2}}\left(\begin{array}{l}
1 \\
0 \\
1
\end{array}\right), \quad \boldsymbol{v}_2=\left(\begin{array}{l}
0 \\
1 \\
0
\end{array}\right), \quad \boldsymbol{v}_3=\frac{1}{\sqrt{2}}\left(\begin{array}{r}
1 \\
0 \\
-1
\end{array}\right)
\end{split}\]
これらを列ベクトルにもつ行列
\[\begin{split}
P=\left(\begin{array}{ccc}
1 / \sqrt{2} & 0 & 1 / \sqrt{2} \\
0 & 1 & 0 \\
1 / \sqrt{2} & 0 & -1 / \sqrt{2}
\end{array}\right)
\end{split}\]
は定理より直交行列であり、 行列 \(A\) の対角化
\[\begin{split}
P^{-1} A P=\left(\begin{array}{rrr}
1 & 0 & 0 \\
0 & -1 & 0 \\
0 & 0 & -1
\end{array}\right)
\end{split}\]
が得られる。