[선형대수] 고유값과 고유벡터

고유값과 고유벡터 (Eigenvalues & Eigenvector)

정사각 행렬 $A$에 대해 $\mathbf{0}$이 아닌 $\mathbf{x}$가 아래의 식을 만족할 때, $\lambda$를 고유값, $\mathbf{x}$를 고유벡터라고 한다.

\[A\mathbf{x}=\lambda\mathbf{x} \tag{1}\]

즉, 행렬 $A$가 고유벡터 $\mathbf{x}$에 작용하면, $\mathbf{x}$는 방향은 그대로 유지하고 길이만 $\lambda$배로 변한다.

• 고유벡터: 행렬에 의해 공간이 변환되었을 때, 방향이 바뀌는 다른 벡터들과 달리 자신의 방향을 유지하는 특별한 벡터
• 고유값: 고유벡터 방향으로 공간이 얼마나 늘어나거나 줄어드는지를 나타내는 스칼라 값

서로 다른 고유값에 대응하는 고유벡터들은 항상 서로 선형 독립이다.

증명

서로 다른 고유값 $\lambda_1$ , $\lambda_2$에 대응되는 고유벡터 $\mathbf{v}_1$ , $\mathbf{v}_2$가 선형 종속이라고 가정하자.

선형 종속이기 때문에 아래와 같이 표현할 수 있고, 고유벡터는 영벡터가 아니므로 $c\neq0$이다.

\[\mathbf{v}_1=c\mathbf{v}_2\]

양변에 행렬 $A$를 곱해 정리한다.

\[A\mathbf{v}_1=A(c\mathbf{v}_2)=c(A\mathbf{v}_1)\]

$\mathbf{v}_1=c\mathbf{v}_2$를 대입하여 정리한다.

\[\lambda_1\mathbf{v}_1=c(\lambda_2\mathbf{v}_2)~\to~\lambda_1(c\mathbf{v}_2)=c(\lambda_2\mathbf{v}_2)\]

최종적으로 아래와 같이 정리된다.

\[c(\lambda_1-\lambda_2)\mathbf{v}_2=0\]

위 식이 성립하기 위해서는 $c=0$ 또는 $\lambda_1=\lambda_2$ 또는 $\mathbf{v}_2=\mathbf{0}$이어야 한다.

하지만 셋 다 성립할 수 없으므로, 서로 다른 고유값에 대응되는 고유벡터는 선형 독립임을 알 수 있다.

아래의 행렬을 예로 들겠다.

\[A=\begin{bmatrix}2&1\\1&2\end{bmatrix}\]

이 행렬은 다음과 같은 고윳값과 고유벡터를 가진다.

• 고유값: $\lambda_1=3$ , 고유벡터: $\begin{bmatrix}1\\1\end{bmatrix}$
• 고유값: $\lambda_2=1$ , 고유벡터: $\begin{bmatrix}1\\-1\end{bmatrix}$

이때, 행렬 $A$를 두 벡터 $\mathbf{x}_1=\begin{bmatrix}1\\1\end{bmatrix}$, $\mathbf{x}_2=\begin{bmatrix}0\\-1\end{bmatrix}$에 각각 작용시켜 보자.

\[A\mathbf{x}_1=\begin{bmatrix}3\\3\end{bmatrix} ~,~A\mathbf{x}_2=\begin{bmatrix}-1\\-2\end{bmatrix}\]

$A$의 고유벡터가 아닌 $\mathbf{x}_2$는 변환에 의해 길이뿐만 아니라 방향도 함께 변한다.
반면 $\mathbf{x}_1$은 $A$의 고유벡터이므로 변환 후에도 방향이 그대로 유지되고, 길이만 $3$배 (고유값만큼)로 늘어난다.

고유값과 고유벡터 구하는 방법

행렬의 고유값과 고유벡터를 찾기 위해서는 다음의 특성 방정식 (Characteristic Equation)을 만족하는 해를 찾으면 된다.

\[\text{det}(A-\lambda I)=0 \tag{2}\]

증명

$A\mathbf{x}=\lambda\mathbf{x}$를 정리하면, $(A-\lambda I)\mathbf{x}=\mathbf{0}$이라는 동차 방정식이 된다.

고유벡터의 정의에 따르면 고유벡터는 영벡터가 아니어야 한다.
따라서 고유벡터가 존재하려면 $\mathbf{x}\neq\mathbf{0}$인 해가 존재해야 한다.

행렬 $(A-\lambda I)$가 역행렬을 가진다면 해가 $\mathbf{x}=\mathbf{0}$만 존재하므로, $\mathbf{x}\neq\mathbf{0}$인 해가 존재하려면 행렬 $(A-\lambda I)$는 역행렬을 가지면 안된다.

\[(A-\lambda I)^{-1}(A-\lambda I)\mathbf{x}=(A-\lambda I)^{-1}\mathbf{0}~\to~\mathbf{x}=\mathbf{0}\]

따라서 $\text{det}(A-\lambda I)=0$을 만족해야 한다.

Example: 행렬의 고유값과 고유벡터 구하기

\[A=\begin{bmatrix}4&2\\1&3\end{bmatrix}\]

행렬 $A$의 고유값과 고유벡터를 구하는 과정은 다음과 같다.

1. $\text{det}(A-\lambda I)=0$의 해를 구함

\[\text{det}(A-\lambda I)=\begin{vmatrix}4-\lambda&2\\1&3-\lambda\end{vmatrix}=(4-\lambda)(3-\lambda)-2=\lambda^2-7\lambda+10=0\] \[\lambda_1=5~,~\lambda_2=2\]

2. 각 고유값에 대응하는 고유벡터를 구함

1. $\lambda_1=5$에 대응되는 고유벡터

\[~(A-5I)\mathbf{x}_1=\mathbf{0}~\to~\begin{bmatrix}\begin{array}{cc|c}-1&2&0\\1&-2&0\end{array}\end{bmatrix}\] \[x_1=2x_2~\to~\mathbf{x}_1=\begin{bmatrix}x_1\\x_2\end{bmatrix}=c\begin{bmatrix}1\\2\end{bmatrix}\] \[\lambda_1=5:~\mathbf{x}_1=\begin{bmatrix}1\\2\end{bmatrix}\]

1. $\lambda_2=2$에 대응되는 고유벡터

\[~(A-2I)\mathbf{x}_2=\mathbf{0}~\to~\begin{bmatrix}\begin{array}{cc|c}2&2&0\\1&1&0\end{array}\end{bmatrix}\] \[x_1=-x_2~\to~\mathbf{x}_2=\begin{bmatrix}x_1\\x_2\end{bmatrix}=c\begin{bmatrix}1\\-1\end{bmatrix}\] \[\lambda_2=2:~\mathbf{x}_2=\begin{bmatrix}1\\-1\end{bmatrix}\]