[선형대수] 행렬의 종류
지금까지는 주로 벡터를 중심으로 선형대수의 기본 개념들을 살펴보았다.
이제부터는 벡터를 여러 개 모아 놓은 대상인 행렬에 대해 다뤄보려고 한다.
행렬은 간단히 말해 여러 벡터를 한데 나열한 것으로 볼 수 있다.
예를 들어, 다음 행렬은 세 개의 열벡터 $[1,4]^\top$, $[2,5]^\top$, $[3,6]^\top$를 옆으로 나열한 형태로 생각할 수 있다.
\[\begin{bmatrix}1&2&3\\4&5&6\end{bmatrix}\]행렬의 성질과 연산을 본격적으로 살펴보기 전에, 먼저 자주 등장하는 행렬의 종류부터 정리하겠다.
정사각 행렬 (Square Matrix)
행과 열의 크기가 동일한 행렬을 의미한다.
밑에서 소개할 대각 행렬, 단위 행렬, 삼각 행렬, 대칭 행렬, 직교 행렬은 모두 정사각 행렬에서만 정의된다.
대각 행렬 (Diagonal Matrix)
대각 성분을 제외한 모든 요소가 0인 정사각 행렬을 의미한다.
\[D= \begin{bmatrix} d_1&0&\cdots&0\\ 0&d_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&d_n \end{bmatrix} \in\mathbb{R}^{n\times n}\]대각 행렬의 성질
대각 행렬의 power는 각 대각성분을 $k$승 하면 된다.
\[D^k=\begin{bmatrix}d_1^k&\cdots&0\\\vdots&\ddots&\vdots\\0&\cdots&d_n^k\end{bmatrix}\]대각 행렬의 Inverse는 각 대각 성분에 역수를 취하면 된다.
\[D^{-1}=\begin{bmatrix}d_1^{-1}&\cdots&0\\\vdots&\ddots&\vdots\\0&\cdots&d_n^{-1}\end{bmatrix}\]대각 행렬의 행렬식은 대각 성분들의 곱과 같다.
\[\text{det}(D)=d_1d_2\cdots d_n\]
2번 성질에서 유추할 수 있듯이, 만약 대각 행렬 $D$의 대각 성분 중 하나라도 0이 있다면, $D$의 역행렬은 존재할 수 없다.
단위 행렬 (Identity Matrix)
대각 행렬 중 대각 성분이 모두 1인 대각 행렬을 의미한다.
\[I= \begin{bmatrix} 1&0&\cdots&0\\ 0&1&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&1 \end{bmatrix} \in\mathbb{R}^{n\times n}\]숫자에서의 $1$과 같은 역할을 하며, 어떤 행렬에 단위 행렬을 곱해더라도 원래 행렬이 그대로 유지되기 때문에 항등 행렬이라고도 부른다.
\[\begin{bmatrix}3&1&5\\7&1&4\\2&6&2\end{bmatrix} \begin{bmatrix}1&0&0\\0&1&0\\0&0&1\end{bmatrix} =\begin{bmatrix}3&1&5\\7&1&4\\2&6&2\end{bmatrix}\]삼각 행렬 (Triangular Matrix)
주대각선 아래의 요소들이 모두 0인 정사각 행렬을 Upper Triangular Matrix라고 부른다.
\[U=\begin{bmatrix}3&1&5\\0&1&4\\0&0&2\end{bmatrix} \in\mathbb{R}^{n\times n}\]주대각선 위의 요소들이 모두 0인 정사각 행렬을 Lower Triangular Matrix라고 부른다.
\[L=\begin{bmatrix}4&0&0\\2&1&0\\3&7&1\end{bmatrix} \in\mathbb{R}^{n\times n}\]대칭 행렬 (Symmetric Matrix)
Transpose해도 변하지 않는 행렬을 의미한다.
즉, $S=S^\top$인 행렬을 의미한다.
\[S=\begin{bmatrix}3&1&5\\1&1&4\\5&4&2\end{bmatrix} \in\mathbb{R}^{n\times n}\]대칭 행렬의 성질
- 어떤 행렬 $A$에 대해서도, $A^\top A$와 $AA^\top$는 항상 대칭 행렬이다.
- 행렬 $A$가 대칭 행렬이라면, $A^{-1}$도 대칭 행렬이다.
- 항상 실수 고유값을 가진다.
- 고유벡터가 서로 직교한다. (선형 독립이다)
- 항상 대각화가 가능하다. (참고)
직교 행렬 (Orthogonal Matrix)
행렬의 열벡터 또는 행벡터들이 서로 직교하며, 크기가 1인 정사각 행렬을 의미한다.
\[Q=\begin{bmatrix}\frac{1}{\sqrt{2}}&\frac{1}{\sqrt{2}}\\\frac{1}{\sqrt{2}}&-\frac{1}{\sqrt{2}}\end{bmatrix} \in\mathbb{R}^{n\times n}\]벡터들이 서로 정규 직교 (Orthonormal) 관계에 있지만, Orthonormal Matrix라고 부르지 않는다는 것을 주의해야 한다.
직교 행렬의 성질
- $A$가 직교 행렬이면, $A^\top$도 직교 행렬이다.
- $A^{-1}=A^\top$를 만족하기 때문에 역행렬을 구하기가 쉬워진다. → $A^\top A=I$
- 직교 행렬에 의한 변환은 벡터의 크기와 두 벡터 사이의 각도를 보존한다.
3번 성질 증명
벡터의 크기 보존
벡터 $\mathbf{x}$의 크기는 $\lVert\mathbf{x}\rVert^2=\mathbf{x}^\top\mathbf{x}$로 정의된다.
\[Q\mathbf{x}~\to~\lVert Q\mathbf{x}\rVert^2=\left(Q\mathbf{x}\right)^\top\left(Q\mathbf{x}\right) =\mathbf{x}^\top Q^\top Q\mathbf{x}=\mathbf{x}^\top I\mathbf{x}=\mathbf{x}^\top\mathbf{x} =\lVert\mathbf{x}\rVert^2\]즉, 변환 후의 크기가 유지된다.
두 벡터 사이의 각도 보존
두 벡터 와 $\mathbf{x}$와 $\mathbf{y}$ 사이의 각도는 $\mathbf{x}^\top\mathbf{y}$에 의해 결정된다.
\[(Q\mathbf{x})\cdot(Q\mathbf{y})=(Q\mathbf{x})^\top(Q\mathbf{y})=\mathbf{x}^\top I\mathbf{y}=\mathbf{x}^\top\mathbf{y}\]즉, 변환 후의 내적값이 유지되므로, 두 벡터 사이의 각도도 유지된다.
치환 행렬 (Permutation Matrix)
치환 행렬은 행 또는 열 교환을 수행하는 행렬이다.
\[\begin{bmatrix}1&0&0\\0&0&1\\0&1&0\end{bmatrix} \begin{bmatrix}1&1&1\\\color{red}1&\color{red}{-1}&\color{red}2\\\color{blue}2&\color{blue}0&\color{blue}1\end{bmatrix} =\begin{bmatrix}1&1&1\\\color{blue}2&\color{blue}0&\color{blue}1\\\color{red}1&\color{red}{-1}&\color{red}2\end{bmatrix}\] \[\begin{bmatrix}1&\color{red}1&\color{blue}1\\1&\color{red}{-1}&\color{blue}2\\2&\color{red}0&\color{blue}1\end{bmatrix} \begin{bmatrix}1&0&0\\0&0&1\\0&1&0\end{bmatrix} =\begin{bmatrix}1&\color{blue}1&\color{red}1\\0&\color{blue}0&\color{red}1\\1&\color{blue}{-1}&\color{red}2\end{bmatrix}\]