행렬 곱을 하기위해서는 A의 행벡터(row vector)들의 차원과 B의 열벡터(column vector)들의 차원이 같아야 한다.
(X) 아래의 두 행렬같은 경우 A의 행은 2차원 B의 열은 3차원 이기 때문에 계산할 수 없다.
(O) 아래의 두 행렬의 경우 A의 행은 3차원 B의 열도 3차원 이기 때문에 계산이 가능하다.
행렬 곱은 A의 i번째 행벡터와 B의 j번째 열벡터의 내적이다.
즉, 공식은 다음과 같다.
예를 들면 아래와 같다.
$AB= \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{bmatrix} \begin{bmatrix} 7 & 8 \\ 9 & 10 \\ 11 & 12 \end{bmatrix}$
$=\begin{bmatrix}(1, 2, 3)\cdot (7, 9, 11) && (1, 2, 3) \cdot (8, 10, 12) \\ (4, 5, 6) \cdot (7, 9, 11) && (4, 5, 6) \cdot (8, 10, 12) \end{bmatrix}$
$= \begin{bmatrix} 58 && 64 \\ 139 && 154 \end{bmatrix}$