[선형대수] 고유값 분해 (EVD)
대각화 (Diagonalization) 정사각 행렬 $A$에 대해, 다음을 만족하는 가역 행렬 $P$와 대각 행렬 $D$가 존재한다면, $A$는 대각화 가능 (Diagonlizable)하다고 한다. [P^{-1}AP=D \tag{1}] 동치적으로 다음과 같이 쓸 수도 있다. [A = PDP^{-1} \tag{2}] 이때 $A$와 $D$는 닮음...
대각화 (Diagonalization) 정사각 행렬 $A$에 대해, 다음을 만족하는 가역 행렬 $P$와 대각 행렬 $D$가 존재한다면, $A$는 대각화 가능 (Diagonlizable)하다고 한다. [P^{-1}AP=D \tag{1}] 동치적으로 다음과 같이 쓸 수도 있다. [A = PDP^{-1} \tag{2}] 이때 $A$와 $D$는 닮음...
확률 공간 (Probability Space) 표본 공간 (Sample space) 표본 공간은 확률 실험에서 나올 수 있는 모든 가능한 결과들의 집합을 의미한다. 예를 들어, 주사위 던지기의 표본 공간은 나올 수 있는 모든 눈이 된다. [\Omega=\lbrace1,2,3,4,5,6\rbrace] 사건 (Event) 사건은 표본 공간의 부...
고유값과 고유벡터 (Eigenvalues & Eigenvector) 정사각 행렬 $A$에 대해 $\mathbf{0}$이 아닌 $\mathbf{x}$가 아래의 식을 만족할 때, $\lambda$를 고유값, $\mathbf{x}$를 고유벡터라고 한다. [A\mathbf{x}=\lambda\mathbf{x} \tag{1}] 즉, 행렬 $A$가 ...
Qudratic Form Qudaratic Form은 어떤 벡터 $\mathbf{x}$를 넣었을 때 2차식이 나오는 형태라고 생각하면 된다. 가장 기본적인 형태는 다음과 같다. [f(\mathbf{x})=\mathbf{x}^\top A\mathbf{x} \tag{1}] 예를 들어 2차원 벡터 $\mathbf{x}$와 대칭 행렬 $A$에 대해 Qu...
Trace는 행렬의 대각 원소를 전부 더한 값을 의미하며, 정사각 행렬에서만 정의된다. [\text{tr}(A)=\sum_{i=1}^na_{ii} \tag{1}] Trace의 성질 $\text{tr}(A+B)=\text{tr}(A)+\text{tr}(B)$ $\text{tr}(\lambda A)=\lambda\text{tr}(A)$ ...
LU Decomposition은 정사각 행렬 $A$를 상삼각 행렬 $U$와 하삼각 행렬 $L$의 곱으로 분해하는 방법을 의미한다. [A=LU \tag{1}] 이때 $L$은 대각 성분이 모두 1인 하삼각 행렬이다. 하나의 행렬 $A$에 대해, 여러 개의 서로 다른 우변 $\mathbf{b}$로 $A\mathbf{x}=\mathbf{b}$를 반복해서...
선형 사상 (Linear Mappings) 아래의 조건을 만족시키는 사상 $\Phi : V\to W$를 선형 사상이라고 부른다. $\Phi(\mathbf{x}+\mathbf{y})=\Phi(\mathbf{x})+\Phi(\mathbf{y})$ $\Phi (\lambda \mathbf{x})=\lambda \Phi (\mathbf{x})$ ...
크래머의 법칙은 연립 선형 방정식을 행렬식으로 푸는 방법이다. 크래머의 법칙은 $A$가 가역 행렬일 때만 적용이 가능하다. [\begin{cases} a_{11}x_1+\cdots+a_{1n}x_n=b_1 \vdots a_{n1}x_1+\cdots+a_{1n}x_n=b_n \end{cases} ~~~\to~ A\mathbf{x}=\mathbf{b}...
행렬식 (Determinant) 정사각 행렬에서만 정의되며, $2\times2$ 행렬에 대해 행렬식은 아래와 같이 정의된다. [A=\begin{bmatrix}a&b\c&d\end{bmatrix}~\to~ \text{det}(A)=\lvert A\rvert=ad-bc] 행렬식의 기하학적 의미는 아래와 같다. [출처] 행렬을...
연립 선형 방정식 (System of Linear Equations) 연립 선형 방정식 (연립 일차 방정식)은 아래와 같이 행렬로 표현할 수 있다. [\begin{cases} x_1+x_2+x_3=3\x_1-x_2+2x_2=2\2x_1+x_3=1 \end{cases} ~\to~ \begin{bmatrix}1&1&1\1&-1&a...