변환은 어떤 벡터를 입력받아 다른 벡터를 출력하는 함수를 의미한다. 변환이라는 단어를 사용한 이유는 입력 벡터가 특정 규칙에 따라 움직이는 기하학적 이동을 연상하기 쉽기 때문이다. 선형 변환은 선형성을 만족하는 특별한 변환을 의미하며, 다음과 같이 표현된다. [T(a\mathbf{u}+b\mathbf{v})=a\cdot T(\mathbf{u})+...

선형대수학에는 네 가지 주요 부분공간이 있다. 아래의 그림은 행렬 $A\in\mathbb{R}^{m\times n}$에 대한 네 가지 주요 부분공간을 시각화한 것으로, 아래 내용을 보고 난 뒤에는 이해할 수 있을 것이다. [출처] 열공간 (Column space) 열공간 $C(A)$는 행렬 $A\in\mathbb{R}^{m\times n}$의...

Rank는 행렬에서 선형 독립인 행 또는 열의 최대 개수를 의미한다. 즉, 열 벡터로 이루어진 행렬 $A$의 Rank는 열 벡터들이 span하는 공간의 최대 차원을 나타낸다. 예를 들어, 3차원 공간 상의 3개의 벡터가 2차원 평면을 span할 경우, 이 벡터들로 이루어진 행렬 $A$의 Rank는 2가 된다. 가우스 소거법을 적용 후 변환된 R...

행렬 덧셈 두 행렬 $A$, $B$의 덧셈은 다음과 같다. [A+B=C \tag{1}] 행렬의 덧셈은 같은 위치의 성분끼리 더하면 된다. [\begin{bmatrix}1&2\3&4\end{bmatrix}+ \begin{bmatrix}5&6\7&8\end{bmatrix}= \begin{bmatrix}6&8\10...

지금까지는 주로 벡터를 중심으로 선형대수의 기본 개념들을 살펴보았다. 이제부터는 벡터를 여러 개 모아 놓은 대상인 행렬에 대해 다뤄보려고 한다. 행렬은 간단히 말해 여러 벡터를 한데 나열한 것으로 볼 수 있다. 예를 들어, 다음 행렬은 세 개의 열벡터 $[1,4]^\top$, $[2,5]^\top$, $[3,6]^\top$를 옆으로 나열한 형태로...

그람 슈미트 과정은 기저 $B$를, 같은 공간을 span하는 정규 직교 기저 $Q$로 변환하는 방법이다. [B=\lbrace\mathbf{b}_1,\dots,\mathbf{b}_k\rbrace \quad\to\quad Q=\lbrace\mathbf{q}_1,\dots,\mathbf{q}_k\rbrace] $Q$의 벡터들은 정규 직교 기저이기 때문에...

벡터 위로의 사영 (Projection onto a Vector) 기저가 $\mathbf{b}$인 직선 벡터 공간 $\mathcal{U}$가 있을 때, 벡터 $\mathbf{x}$의 $\mathcal{U}$ 위로의 정사영 $\text{proj}_\mathcal{U}(\mathbf{x})$는 다음과 같이 정의된다. [\text{proj}_\mathc...

내적 (Inner Product) 벡터 공간 내의 임의의 두 벡터를 스칼라로 매핑시키는 함수를 내적이라고 한다. 내적의 결과값을 통해 우리는 두 벡터의 방향 유사도나 직교성을 해석할 수 있다. [\langle\cdot,\cdot\rangle:V\times V\to\mathbb{R} \tag{1}] 내적이 정의된 벡터 공간 $(V,\langle\...

Norm Norm은 벡터의 길이로 정의되며, 벡터를 스칼라로 mapping하는 일종의 함수로 볼 수 있다. [\lVert\cdot\rVert:V→\Bbb R \tag{1}] Lp Norm은 아래와 같이 정의되며, 주로 사용하는 Norm은 L1 Norm과 L2 Norm이다. [\lVert\mathbf{v}\rVert_p:=\left(\sum_{i...