행렬의 곱셈: 조건·계산 순서·예제로 이해하기
행렬의 곱셈이 가능한 조건부터 행과 열을 짝지어 계산하는 방법, 차원 확인과 검산까지 예제로 정리합니다.

행렬 곱셈의 기본 뜻
행렬의 곱셈은 두 표의 같은 위치를 곱하는 연산이 아니라, 왼쪽 행렬의 한 행과 오른쪽 행렬의 한 열을 짝지어 결과의 한 칸을 만드는 규칙입니다. 행 하나의 원소를 가로로 읽고 열 하나의 원소를 세로로 읽은 다음, 같은 순서의 원소끼리 곱해 모두 더합니다.
A의 첫째 행이 1, 2, 3이고 B의 첫째 열이 7, 9, 11이면 첫 칸은 1×7+2×9+3×11로 계산하며 값은 58입니다. 이처럼 한 행과 한 열의 조합이 결과 칸 하나를 만든다는 사실이 모든 행렬 곱셈의 출발점입니다.
곱셈 가능 조건
A가 m×n이고 B가 n×p일 때만 AB를 정의할 수 있습니다. A의 열 수와 B의 행 수가 같아야 각 행의 원소를 B의 열 원소와 빠짐없이 짝지어 곱할 수 있기 때문입니다.
2×3 행렬과 3×4 행렬은 가운데 수 3이 같으므로 곱할 수 있습니다. 반면 2×3과 2×4는 가운데 수가 3과 2로 달라 이 순서에서는 계산할 수 없으며, 먼저 차원부터 확인해야 합니다.
결과의 크기
곱셈이 가능할 때 결과 AB의 크기는 왼쪽 A의 행 수와 오른쪽 B의 열 수를 남긴 m×p입니다. 가운데의 공통 차원은 각 칸에서 곱하는 항의 개수로 쓰이고 결과의 테두리에는 남지 않습니다.
따라서 2×3과 3×4의 곱은 2×4 결과를 냅니다. 계산 전에 2행 4열의 빈 틀을 그려 두면 총 여덟 칸을 채워야 한다는 점과 결과 위치를 동시에 확인할 수 있습니다.

한 칸 계산 절차
결과의 i행 j열을 구할 때 A의 i행과 B의 j열을 고릅니다. 첫 원소끼리, 둘째 원소끼리, 마지막 원소끼리 곱한 값을 모두 더하고, 이 과정을 다른 위치에서도 같은 방식으로 반복합니다.
A의 둘째 행 4, 5, 6과 B의 둘째 열 8, 10, 12를 사용하면 4×8+5×10+6×12가 됩니다. 곱셈값 32, 50, 72를 더한 154를 둘째 행 둘째 열에 적으면 위치와 계산이 함께 보존됩니다.

전체 예제
A=[[1,2,3],[4,5,6]], B=[[7,8],[9,10],[11,12]]라면 AB는 2×2입니다. 첫째 행에서는 58과 64를 얻는데, 이는 같은 A의 첫째 행을 B의 첫째 열과 둘째 열에 각각 적용한 결과입니다.
둘째 행에서는 139와 154를 얻어 AB=[[58,64],[139,154]]가 됩니다. 행 하나를 끝낸 뒤 그 행의 칸 수가 B의 열 수와 같은지 확인하면 계산 결과를 옮기는 실수를 쉽게 줄일 수 있습니다.
순서를 바꾸면 생기는 차이
행렬 곱셈은 보통 교환법칙이 성립하지 않으므로 AB를 BA로 바꾸어 계산하면 안 됩니다. 두 곱은 가능 여부, 결과 크기, 각 칸의 값이 모두 달라질 수 있습니다.
앞 예제에서 AB는 2×2인 반면 BA는 3×3입니다. 결과 모양부터 다르므로 A와 B의 자리를 임의로 바꾸지 말고 문제에 적힌 순서를 유지해야 합니다.
자주 하는 오류
가장 흔한 오류는 A의 행과 B의 행을 곱하는 행동입니다. 오른쪽 행렬에서는 반드시 열을 선택해야 하며, 공통 차원이 3이면 모든 결과 칸에 세 개의 곱셈 항이 있어야 합니다.
음수 원소가 있으면 괄호를 써서 (-2)×5처럼 곱셈을 분명히 표시합니다. 계산한 값에는 c11, c12처럼 위치를 적고 위에서 아래, 왼쪽에서 오른쪽으로 채우면 자리 바꿈 오류도 줄어듭니다.
정리하는 방법
연습장에는 결과 행렬의 빈 틀을 먼저 그리고 각 칸 옆에 사용할 A의 행과 B의 열을 작게 표시해 보세요. 같은 행을 반복해서 사용할 때에도 흐름을 잃지 않고 필요한 계산을 추적할 수 있습니다.
한 칸당 한 줄로 c12=1×8+2×10+3×12=64처럼 적으면 중간 과정이 짧고 검산하기 쉽습니다. 계산기 사용 여부와 관계없이 차원과 행·열 선택은 사람이 먼저 확인해야 합니다.
단위행렬과의 연결
단위행렬 I는 대각선 원소가 1이고 나머지가 0인 정사각행렬로, 크기가 맞으면 AI=A와 IA=A를 만족합니다. 이 성질도 행과 열을 짝지어 계산하는 기본 규칙에서 나옵니다.
역행렬을 다룰 때도 곱셈의 순서와 차원이 핵심입니다. 모든 행렬에 역행렬이 있는 것은 아니지만, 일반 곱셈의 구조를 정확히 이해하면 단위행렬과 역행렬의 식도 훨씬 자연스럽게 읽을 수 있습니다.
30초 검산
제출 전에는 두 행렬 사이의 차원이 같은지, 결과 크기가 바깥 차원인지, 한 칸에 들어간 곱셈 항의 수가 공통 차원과 같은지 차례로 확인합니다. 이 세 단계는 큰 행렬에도 그대로 적용됩니다.
마지막으로 양수 원소만 있는 문제에서 음수 결과가 나왔는지처럼 값의 방향도 살펴봅니다. 앞 행×뒤 열, 가운데 차원 확인, 바깥 차원이 결과라는 세 문장을 기억하면 계산의 뼈대가 흔들리지 않습니다.
문자 행렬에서도 적용되는 규칙
원소가 문자로 주어진 행렬도 계산 순서는 같습니다. 숫자 대신 a, b, c가 들어 있더라도 각 위치의 곱과 합을 전개해 결과 칸을 만듭니다. 다만 문자식에서는 괄호와 계수를 분명히 적어 동류항을 정리하기 전의 구조가 보이도록 해야 합니다. 특히 다항식 원소가 포함되면 분배법칙을 적용한 뒤 차수를 정리하므로, 행과 열을 고르는 단계와 식을 단순화하는 단계를 섞지 않는 편이 안전합니다.
영행렬이 나오는 경우
어떤 행과 열의 대응 곱을 모두 더했을 때 0이 될 수 있습니다. 결과에 0이 있다고 해서 계산이 틀린 것은 아니며, 양수와 음수 항이 상쇄되었는지 또는 실제로 영원소만 곱해졌는지를 중간식으로 확인하면 됩니다. 모든 결과 칸이 0인 영행렬도 가능합니다. 답안에서 0을 빈칸처럼 취급하지 말고 결과 행렬의 정확한 위치에 0을 써야 크기 정보가 보존됩니다.
직사각행렬 연습의 장점
정사각행렬만 연습하면 결과의 크기를 무심코 같은 모양으로 적기 쉽습니다. 2×3과 3×5처럼 직사각행렬을 사용하면 바깥 차원이 결과를 결정한다는 원리가 더 선명해집니다. 문제를 풀 때는 왼쪽 행 수만큼 결과의 가로줄을 만들고 오른쪽 열 수만큼 세로칸을 만든 뒤 계산을 시작하세요. 이 방식은 결과 틀과 입력 행렬의 역할을 구분하는 데 도움이 됩니다.
행렬 덧셈과 구분하기
행렬 덧셈은 같은 위치 원소끼리 더하므로 두 행렬의 크기가 완전히 같아야 합니다. 반면 행렬 곱셈은 왼쪽 열 수와 오른쪽 행 수만 같으면 되고, 결과 크기도 입력과 달라질 수 있습니다. 두 연산의 조건을 혼동하지 않으려면 문제 기호를 먼저 보고, 더하기면 같은 크기인지, 곱하기면 가운데 차원이 같은지 따로 확인해야 합니다. 연산 기호 하나가 계산 구조 전체를 바꾼다는 점이 핵심입니다.
계산 순서를 표시하는 표기
작은 크기의 문제도 원소 위치를 표시하면 오류가 줄어듭니다. A의 i행을 r_i, B의 j열을 c_j처럼 짧게 표시하고, 결과 원소는 r_i와 c_j의 내적이라고 생각해 보세요. 이 표기는 행렬이 커져도 같은 방식으로 확장됩니다. 숫자만 나열된 풀이보다 어떤 행과 어떤 열을 선택했는지 드러나므로, 교사가 풀이를 검토하거나 본인이 다시 확인할 때도 원인을 빠르게 찾을 수 있습니다.
분배법칙 확인
행렬 곱셈은 차원이 맞는 범위에서 분배법칙과 결합법칙을 만족하지만 교환법칙은 일반적으로 만족하지 않습니다. 예를 들어 A(B+C)=AB+AC는 각 항의 크기가 정의될 때 사용할 수 있습니다. 이런 성질을 적용하기 전에도 괄호 안과 바깥의 차원을 먼저 점검해야 합니다. 성질을 외워 계산량을 줄이는 것보다, 어느 곱이 정의되는지 확인하는 일이 우선이라는 원칙을 유지하세요.
현실 자료를 표로 읽는 관점
행렬은 여러 항목의 수치를 표로 묶어 한 번에 변환할 때 자주 쓰입니다. 예를 들어 여러 제품의 수량 행과 단가 열을 연결하면 항목별 합계를 만들 수 있습니다. 실제 자료에서는 행 이름과 열 이름이 숫자만큼 중요합니다. 수학 문제에서도 행과 열의 방향을 잃지 않는 습관은 표 계산, 데이터 처리, 그래픽 변환처럼 행렬이 쓰이는 다른 분야를 이해하는 기반이 됩니다.
손계산에서의 부호 관리
음수와 분수가 섞인 행렬은 곱셈 항마다 부호를 먼저 결정하는 것이 좋습니다. 두 음수의 곱은 양수라는 기본 규칙을 적용한 뒤 분자와 분모를 계산하고, 마지막에 덧셈을 합니다. 여러 항을 한 줄에 몰아 쓰면 부호가 사라지기 쉬우므로, 항 사이에 더하기와 빼기를 분명히 적으세요. 계산값이 예상보다 크거나 작다면 각 항의 부호부터 다시 읽는 검산이 효과적입니다.
연습 문제를 만드는 법
스스로 연습할 때는 2×2와 2×3, 3×2 크기를 번갈아 사용해 보세요. 먼저 차원만 보고 곱셈 가능 여부와 결과 크기를 말한 뒤, 가능한 경우에만 한 칸씩 계산합니다. 답을 만든 다음에는 다른 사람의 풀이처럼 행과 열 선택을 따라가며 검산해 보세요. 같은 숫자라도 배치가 바뀌면 결과가 달라지므로, 원소를 옮겨 적는 연습도 유익합니다.
마무리 학습 기준
행렬 곱셈을 이해했다는 것은 큰 숫자를 빨리 계산한다는 뜻보다 구조를 설명할 수 있다는 뜻에 가깝습니다. 왜 가운데 차원이 같아야 하는지, 왜 결과가 바깥 차원이 되는지, 왜 순서를 바꾸면 달라지는지를 자신의 말로 설명해 보세요. 그 설명이 자연스럽다면 새로운 크기나 문자 원소가 나온 문제에서도 규칙을 안정적으로 적용할 수 있습니다.
행과 열을 색으로 구분하는 연습
처음 배우는 단계에서는 왼쪽 행렬의 행을 파란색, 오른쪽 행렬의 열을 초록색으로 표시해 보세요. 결과 한 칸을 계산할 때 선택된 파란 행과 초록 열만 보이게 하면 어떤 원소가 대응하는지 눈으로 따라갈 수 있습니다. 색을 쓸 수 없는 시험지에서는 행 아래에 작은 밑줄을 긋고 열 옆에 세로 표시를 해도 같은 효과가 있습니다. 시각적으로 분리하는 습관은 특히 3×3 이상의 표에서 빠뜨린 원소를 줄이는 데 유용합니다.
큰 행렬에서의 반복 구조
4×3과 3×5를 곱하는 문제는 결과가 4×5이므로 스무 칸을 계산합니다. 칸이 많아도 새로운 규칙이 생기는 것은 아닙니다. 각 칸은 길이 3인 한 행과 길이 3인 한 열의 곱셈 합입니다. 먼저 첫째 행 전체를 완성하고 다음 행으로 넘어가는 방식으로 작업을 나누면, 같은 행을 계속 참조할 수 있어 눈의 이동이 줄어듭니다. 완성한 행마다 칸 수를 세는 작은 검산을 추가하면 긴 계산의 누적 오류를 막을 수 있습니다.
분수 원소를 다루는 방법
분수가 들어간 행렬에서는 각 대응 원소를 곱할 때 분자끼리와 분모끼리를 곱한 뒤, 마지막에 공통분모로 더합니다. 처음부터 소수로 바꾸면 반올림 오차와 계산 실수가 늘 수 있으므로, 특별한 지시가 없으면 분수 꼴을 유지하는 편이 좋습니다. 결과 한 칸 안에서만 통분을 마치고 다음 칸으로 이동하면 분모를 섞을 위험이 적습니다. 약분 가능한 항은 너무 일찍 지우기보다 곱셈 구조가 확인된 다음 정리하면 풀이를 다시 읽기 쉽습니다.
성분 기호로 읽기
교과서에서는 결과의 i행 j열 성분을 c_ij 또는 (AB)_ij로 적기도 합니다. 이것은 A의 i행과 B의 j열을 사용한다는 뜻이며, 중간 인덱스 k를 따라 a_ik와 b_kj를 곱해 더합니다. 기호가 낯설다면 i는 결과의 행 위치, j는 결과의 열 위치, k는 두 행렬을 이어 주는 공통 순서라고 해석해 보세요. 성분 기호는 계산을 압축해 쓸 뿐, 앞 행과 뒤 열을 짝지어 더하는 기본 동작을 바꾸지 않습니다.
도구 사용 전 확인할 것
스프레드시트나 프로그래밍 도구로 행렬 곱을 구할 때도 입력 범위의 방향과 크기를 확인해야 합니다. 행과 열을 뒤집어 붙이면 도구가 오류를 내거나 전혀 다른 결과를 반환할 수 있습니다. 손으로 한두 칸을 먼저 계산해 예상값을 마련한 뒤 자동 결과와 비교하면 입력 실수를 빨리 발견합니다. 도구는 반복 계산에는 도움이 되지만, 곱셈 가능 조건과 결과 크기를 판단하는 수학적 책임까지 대신해 주지는 않습니다.
학습 후 스스로 묻기
풀이를 마친 뒤 ‘이 결과의 둘째 행 셋째 열은 어느 행과 어느 열을 사용했는가’를 말로 답해 보세요. 또 ‘왜 결과의 열 수가 오른쪽 행렬의 열 수인가’를 설명해 보면 차원 규칙이 암기가 아니라 구조로 남습니다. 답이 막히면 숫자를 다시 계산하기 전에 결과 틀과 선택한 행·열을 표시한 부분을 보세요. 행렬 곱셈은 이러한 질문에 답할 수 있을 때 가장 안정적으로 사용할 수 있습니다.
실전 풀이의 마지막 확인
행렬 곱셈 문제에서 답을 맞히는 가장 확실한 방법은 계산 전과 계산 후에 서로 다른 질문을 하는 것입니다. 시작 전에는 ‘가운데 차원이 같은가’와 ‘결과 틀은 몇 행 몇 열인가’를 확인합니다. 계산 중에는 ‘지금 선택한 것은 왼쪽의 행과 오른쪽의 열인가’를 확인합니다. 끝난 뒤에는 각 칸의 곱셈 항 수가 공통 차원과 같은지, 결과의 행과 열 수가 예상과 같은지 확인합니다. 이 순서를 습관으로 만들면 원소가 커지거나 음수·분수·문자가 섞여도 문제의 구조를 잃지 않고 차분하게 풀 수 있습니다. 계산 속도보다 행과 열의 방향을 끝까지 유지하는 태도가 정확한 답으로 이어집니다.
자주 묻는 질문
행렬 곱셈은 왜 순서를 바꾸면 안 되나요?
AB와 BA는 필요한 차원 조건과 결과 크기가 달라질 수 있으므로 식에 적힌 순서를 지켜야 합니다.
결과의 크기는 어떻게 정하나요?
왼쪽 행렬의 행 수와 오른쪽 행렬의 열 수를 남겨 결과의 크기로 씁니다.