행렬 $A$의 역행렬(inverse matrix)란 $AB=I$를 만족하는 행렬 $B$를 의미한다. 즉 행렬 $A$에 행렬 $B$를 곱한 결과가 단위행렬 $I$이다. 이때 행렬 $B$를 행렬 $A$의 역행렬이라고 부르고, 이를 $A^{-1}$로 표기한다. 따라서
$$ AA^{-1} = A^{-1}A = I $$
가 성립한다.
역행렬은 항상 존재하지 않는다. 역행렬을 구하고자 하는 행렬식이 0이면, 즉 행렬이 선형종속(특이행렬)이면 역행렬은 존재하지 않는다.
만약 어떤 행렬의 역행렬이 존재하는 경우 이런 행렬을 가역행렬(singular matrix)라고 한다.
다음과 같은 간단한 2x2 정사각 행렬이 있다고 해보자.
$$ A = \begin{bmatrix} a & b \\ c & d \end{bmatrix} $$
역행렬을 구하기 위해선 우선 해당 행렬의 역행렬이 존재하는지 확인해야 한다. 즉 $ad - bc \ne 0$ 이어야 한다. 만약 가역행렬일 경우 역행렬은 다음과 같이 구한다.
$$
A^{-1} = \frac{1}{\det(A)} \begin{bmatrix} d & -b \\ -c & a \end{bmatrix}.
$$
여기서 주목할건 $det(A)$가 분모에 있다는 것이다. 따라서 행렬식이 0이면 안된다.
위 식을 풀면 다음과 같다.
$$ A^{-1} = \begin{bmatrix} \frac{d}{ad - bc} & \frac{-b}{ad - bc} \\ \frac{-c}{ad - bc} & \frac{a}{ad - bc} \end{bmatrix}= \begin{bmatrix} \frac{d(ad - bc)}{ad - bc} & \frac{-b(ad - bc)}{ad - bc} \\ \frac{-c(ad - bc)}{ad - bc} & \frac{a(ad - bc)}{ad - bc} \end{bmatrix}. $$
직접 구해보자.