고유값과 고유벡터

고유값과 고유벡터 (Eigenvalues & Eigenvector)

정사각 행렬 $A$에 대해 $\vzero$이 아닌 $\vx$가 아래의 식을 만족할 때, $\lambda$를 고유값, $\vx$를 고유벡터라고 한다.

\[A\vx=\lambda\vx \tag{1}\]

즉, 행렬 $A$가 고유벡터 $\vx$에 작용하면, $\vx$는 방향은 그대로 유지하고 길이만 $\lambda$배로 변한다.

• 고유벡터: 행렬에 의해 공간이 변환되었을 때, 방향이 바뀌는 다른 벡터들과 달리 자신의 방향을 유지하는 특별한 벡터
• 고유값: 고유벡터 방향으로 공간이 얼마나 늘어나거나 줄어드는지를 나타내는 스칼라 값

서로 다른 고유값에 대응하는 고유벡터들은 항상 서로 선형 독립이다.

증명

서로 다른 고유값 $\lambda_1$ , $\lambda_2$에 대응되는 고유벡터 $\vv_1$ , $\vv_2$가 선형 종속이라고 가정하자.

선형 종속이기 때문에 아래와 같이 표현할 수 있고, 고유벡터는 영벡터가 아니므로 $c\neq0$이다.

\[\vv_1=c\vv_2\]

양변에 행렬 $A$를 곱해 정리한다.

\[A\vv_1=A(c\vv_2)=c(A\vv_1)\]

$\vv_1=c\vv_2$를 대입하여 정리한다.

\[\lambda_1\vv_1=c(\lambda_2\vv_2)~\to~\lambda_1(c\vv_2)=c(\lambda_2\vv_2)\]

최종적으로 아래와 같이 정리된다.

\[c(\lambda_1-\lambda_2)\vv_2=0\]

위 식이 성립하기 위해서는 $c=0$ 또는 $\lambda_1=\lambda_2$ 또는 $\vv_2=\vzero$이어야 한다.

하지만 셋 다 성립할 수 없으므로, 서로 다른 고유값에 대응되는 고유벡터는 선형 독립임을 알 수 있다.

아래의 행렬을 예로 들겠다.

\[A=\begin{bmatrix}2&1\\1&2\end{bmatrix}\]

이 행렬은 다음과 같은 고윳값과 고유벡터를 가진다.

• 고유값: $\lambda_1=3$ , 고유벡터: $\begin{bmatrix}1\\1\end{bmatrix}$
• 고유값: $\lambda_2=1$ , 고유벡터: $\begin{bmatrix}1\\-1\end{bmatrix}$

이때, 행렬 $A$를 두 벡터 $\vx_1=\begin{bmatrix}1\\1\end{bmatrix}$, $\vx_2=\begin{bmatrix}0\\-1\end{bmatrix}$에 각각 작용시켜 보자.

\[A\vx_1=\begin{bmatrix}3\\3\end{bmatrix} ~,~A\vx_2=\begin{bmatrix}-1\\-2\end{bmatrix}\]

$A$의 고유벡터가 아닌 $\vx_2$는 변환에 의해 길이뿐만 아니라 방향도 함께 변한다.
반면 $\vx_1$은 $A$의 고유벡터이므로 변환 후에도 방향이 그대로 유지되고, 길이만 $3$배 (고유값만큼)로 늘어난다.

고유값과 고유벡터 구하는 방법

행렬의 고유값과 고유벡터를 찾기 위해서는 다음의 특성 방정식 (Characteristic Equation)을 만족하는 해를 찾으면 된다.

\[\text{det}(A-\lambda I)=0 \tag{2}\]

증명

$A\vx=\lambda\vx$를 정리하면, $(A-\lambda I)\vx=\vzero$이라는 동차 방정식이 된다.

고유벡터의 정의에 따르면 고유벡터는 영벡터가 아니어야 한다.
따라서 고유벡터가 존재하려면 $\vx\neq\vzero$인 해가 존재해야 한다.

행렬 $(A-\lambda I)$가 역행렬을 가진다면 해가 $\vx=\vzero$만 존재하므로, $\vx\neq\vzero$인 해가 존재하려면 행렬 $(A-\lambda I)$는 역행렬을 가지면 안된다.

\[(A-\lambda I)^{-1}(A-\lambda I)\vx=(A-\lambda I)^{-1}\vzero~\to~\vx=\vzero\]

따라서 $\text{det}(A-\lambda I)=0$을 만족해야 한다.

Example: 행렬의 고유값과 고유벡터 구하기

\[A=\begin{bmatrix}4&2\\1&3\end{bmatrix}\]

행렬 $A$의 고유값과 고유벡터를 구하는 과정은 다음과 같다.

1. $\text{det}(A-\lambda I)=0$의 해를 구함

\[\text{det}(A-\lambda I)=\begin{vmatrix}4-\lambda&2\\1&3-\lambda\end{vmatrix}=(4-\lambda)(3-\lambda)-2=\lambda^2-7\lambda+10=0\] \[\lambda_1=5~,~\lambda_2=2\]

2. 각 고유값에 대응하는 고유벡터를 구함

1. $\lambda_1=5$에 대응되는 고유벡터

\[~(A-5I)\vx_1=\vzero~\to~\begin{bmatrix}\begin{array}{cc|c}-1&2&0\\1&-2&0\end{array}\end{bmatrix}\] \[x_1=2x_2~\to~\vx_1=\begin{bmatrix}x_1\\x_2\end{bmatrix}=c\begin{bmatrix}1\\2\end{bmatrix}\] \[\lambda_1=5:~\vx_1=\begin{bmatrix}1\\2\end{bmatrix}\]

1. $\lambda_2=2$에 대응되는 고유벡터

\[~(A-2I)\vx_2=\vzero~\to~\begin{bmatrix}\begin{array}{cc|c}2&2&0\\1&1&0\end{array}\end{bmatrix}\] \[x_1=-x_2~\to~\vx_2=\begin{bmatrix}x_1\\x_2\end{bmatrix}=c\begin{bmatrix}1\\-1\end{bmatrix}\] \[\lambda_2=2:~\vx_2=\begin{bmatrix}1\\-1\end{bmatrix}\]