수학 · 삼각함수
코사인 법칙 두 가지: 제1·제2코사인법칙 공식과 문제 풀이

코사인 법칙이 필요한 순간
코사인 법칙은 직각삼각형이 아닌 삼각형에서 변의 길이와 각의 크기를 연결할 때 쓰는 공식입니다. 피타고라스 정리는 한 각이 정확히 90도일 때만 바로 적용할 수 있지만, 코사인 법칙은 예각·직각·둔각을 모두 다룹니다. 그래서 두 변과 그 사이각을 알고 셋째 변을 구하거나, 세 변을 알고 한 각을 구하는 문제에서 중심 도구가 됩니다. 문제를 보자마자 공식을 외워 대입하기보다, 먼저 어떤 값이 비어 있는지와 주어진 각이 어느 두 변 사이에 있는지를 표시하는 습관이 중요합니다. 이 한 단계가 제1코사인법칙과 제2코사인법칙을 자연스럽게 골라 주기 때문입니다.
제1코사인법칙: 변의 길이를 구하는 식
삼각형 ABC에서 각 A의 맞은편 변을 a, 나머지 변을 b와 c라고 두면 제1코사인법칙은 a² = b² + c² − 2bc cos A입니다. 이름만 보면 두 공식이 전혀 달라 보이지만, 이 식은 두 변과 그 사이각으로 맞은편 변을 구하는 형태라고 기억하면 충분합니다. 예를 들어 b=7, c=10, A=60도라면 a² = 49 + 100 − 2×7×10×0.5가 되어 79가 됩니다. 따라서 a는 √79입니다. 계산 중에는 2bc 부분을 빠뜨리거나 cos 60도를 0.6으로 잘못 읽는 실수가 자주 나오므로, 곱셈 덩어리를 괄호로 묶어 한 번에 처리하는 편이 안전합니다.
제2코사인법칙: 각의 크기를 구하는 식
세 변 a, b, c를 알고 각 A를 찾고 싶다면 같은 식을 cos A에 관해 정리합니다. cos A = (b² + c² − a²) ÷ (2bc)가 제2코사인법칙으로 불리는 형태입니다. 여기서 분자는 각 A의 맞은편 변 a의 제곱을 빼는 구조이며, 분모는 각을 끼고 있는 두 변 b와 c의 두 배 곱입니다. 가령 a=9, b=7, c=8이면 cos A=(49+64−81)÷112=2/7이므로 계산기 또는 코사인표로 A를 구할 수 있습니다. 역코사인을 사용할 때는 기기가 도 단위 모드인지 확인해야 하며, 라디안 모드라면 같은 숫자도 전혀 다른 각으로 표시됩니다.
기호부터 정확히 배치하는 방법
코사인 법칙의 절반은 기호 배치입니다. 꼭짓점 A와 그 맞은편 변 a, 꼭짓점 B와 그 맞은편 변 b, 꼭짓점 C와 그 맞은편 변 c는 항상 짝을 이룹니다. 도형을 보고 변의 실제 위치만 따라가면 긴 변을 a라고 임의로 부르고 싶어지지만, 공식에서는 구하려는 각의 맞은편 변을 기준으로 이름을 다시 붙이면 됩니다. 특히 ‘두 변과 끼인각’이라는 말은 두 변의 끝이 만나는 꼭짓점의 각을 뜻합니다. 그 각을 A로 정했다면 바로 a² 식을 쓰면 되고, 다른 각을 기준으로 볼 때는 문자도 함께 바꿔야 합니다. 그림에 작은 화살표를 그려 각에서 맞은편 변으로 연결해 두면 이 혼동을 빠르게 막을 수 있습니다.

둔각과 예각에서 답을 점검하는 법
공식의 부호는 각의 성질을 설명합니다. A가 예각이면 cos A는 양수라서 2bc cos A를 빼는 효과가 있고, a²는 b²+c²보다 작아질 수 있습니다. A가 90도이면 cos A는 0이 되어 피타고라스 정리와 정확히 같습니다. A가 둔각이면 cos A는 음수이므로 음수를 빼게 되어 a²가 커집니다. 즉 둔각의 맞은편 변은 대체로 길게 나와야 자연스럽습니다. 계산 결과가 둔각인데 맞은편 변이 가장 짧게 나왔다면 숫자 입력이나 부호를 다시 살펴야 합니다. 이 성질은 답을 외우지 않고도 검산하는 매우 강력한 기준입니다.
대표 예제 1: 두 변과 끼인각
한 삼각형에서 두 변의 길이가 6cm와 9cm이고, 그 사이각이 120도라고 해 보겠습니다. 구하려는 맞은편 변을 a로 두면 a²=6²+9²−2×6×9×cos120도입니다. cos120도는 −1/2이므로 마지막 항은 −108×(−1/2)이 되어 +54가 됩니다. 따라서 a²=36+81+54=171이고 a=√171cm입니다. 여기서 가장 중요한 부분은 120도가 둔각이라는 사실입니다. 답이 9cm보다 길게 나온 것은 자연스럽고, 만약 2bc cos A를 그냥 빼서 63을 얻었다면 둔각에서 생기는 부호 변화를 놓친 것입니다. 식을 수치로 바꾸기 전에 cos값의 부호를 먼저 적어 두면 이 실수를 줄일 수 있습니다.
대표 예제 2: 세 변으로 각 구하기
세 변이 각각 5cm, 7cm, 8cm인 삼각형에서 길이 8cm의 맞은편 각을 C라고 두겠습니다. cos C=(5²+7²−8²)÷(2×5×7)=(25+49−64)÷70=1/7입니다. 따라서 C는 cos의 값이 1/7인 예각입니다. 이 문제에서 계산기 화면에 arccos 또는 cos⁻¹ 기능을 이용해 값을 찾을 수 있지만, 먼저 1/7이 0과 1 사이인지 보아야 합니다. 코사인 값이 이 범위를 벗어나면 세 변을 잘못 대입했거나 삼각형 자체가 만들어질 수 없는 경우입니다. 또한 8cm가 가장 긴 변이므로 그 맞은편 각 C도 가장 커야 한다는 비교까지 하면 결과의 타당성을 더 확실하게 확인할 수 있습니다.
계산기 사용에서 자주 생기는 오류
계산기에서는 입력 순서보다 설정이 더 큰 문제를 만들 때가 있습니다. 학교 문제에서 각이 60도, 120도처럼 주어졌다면 보통 DEG 표시가 켜져 있어야 합니다. RAD 상태에서 cos60을 누르면 우리가 아는 1/2가 아니라 라디안 60의 코사인값이 나옵니다. 또 cos⁻¹은 ‘1을 코사인으로 나눈다’는 뜻이 아니라 역함수 버튼입니다. 분수 전체를 괄호로 묶지 않으면 분자만 역코사인에 들어가는 실수도 생깁니다. 먼저 분수 값을 소수 또는 분수로 끝까지 계산하고, 그 결과에 한 번만 cos⁻¹을 적용하는 순서가 가장 명료합니다. 결과 각이 0도와 180도 사이에 있는지도 마지막으로 확인하세요.
삼각형이 가능한지 먼저 확인하기
코사인 법칙은 존재하는 삼각형의 값을 연결하는 공식이므로, 세 변이 주어졌을 때는 삼각형 부등식도 함께 확인할 수 있습니다. 가장 긴 변의 길이는 나머지 두 변의 합보다 작아야 합니다. 예를 들어 3, 4, 8은 3+4가 8보다 작아서 삼각형이 될 수 없습니다. 이때 제2코사인법칙에 넣으면 cos값이 −1보다 작거나 1보다 크게 나올 수 있으며, 이는 계산기 오류가 아니라 도형 조건이 성립하지 않는 신호입니다. 시험에서는 모든 수가 깔끔하게 주어지는 경우가 많지만, 실생활 측정값이나 응용 문제에서는 반올림 때문에 경계에 가까운 값이 나올 수 있습니다. 그런 경우 단위를 통일하고 오차 범위를 확인한 뒤 판단하는 것이 좋습니다.

피타고라스 정리와 연결해서 기억하기
코사인 법칙을 별도의 긴 공식으로 외우기보다 피타고라스 정리의 확장이라고 생각하면 기억이 편합니다. a²=b²+c²라는 기본 뼈대 뒤에, 각 A가 직각에서 얼마나 벗어났는지를 나타내는 −2bc cos A가 붙는 구조입니다. A가 90도면 보정항이 사라지고, A가 작아지면 양수를 빼서 맞은편 변이 짧아지며, A가 커지면 음수를 빼서 맞은편 변이 길어집니다. 이 흐름을 이해하면 공식의 부호를 암기하지 않아도 됩니다. 단, 어떤 각을 A로 정했는지와 맞은편 변이 a인지의 짝은 끝까지 유지해야 합니다. 중간에 기준 각을 바꾸면 식 전체의 문자를 다시 맞춰야 합니다.
풀이를 깔끔하게 쓰는 서술 순서
서술형 답안에서는 도형의 정보를 문장으로 다시 정리한 뒤 공식을 적는 방식이 좋습니다. 먼저 ‘각 A의 맞은편 변을 a로 둔다’고 선언하고, 주어진 b, c, A 또는 a, b, c를 한 줄에 모읍니다. 다음 줄에 일반식을 쓰고, 그 아래에서 수치를 대입합니다. 제곱을 계산한 식과 제곱근 또는 역코사인을 적용한 결론을 분리하면 채점자도 과정을 쉽게 확인할 수 있습니다. 단위를 마지막 답에만 붙이지 말고 길이 값에는 cm처럼 일관되게 표시하세요. 근삿값이 필요할 때는 등호 대신 약호를 쓰고, 반올림 자릿수를 문제 조건에 맞추는 것도 정확한 풀이의 일부입니다.
실전에서 기준 각을 고르는 요령
문제에 여러 각과 변이 한꺼번에 표시되어 있으면 가장 먼저 구하려는 값의 반대쪽을 찾습니다. 길이를 구할 때는 그 길이의 양 끝점을 잇는 변이 아니라, 그 길이와 마주 보는 꼭짓점의 각을 기준으로 하는 것이 핵심입니다. 예를 들어 두 변 8과 11, 그리고 그 사이각 45도가 주어졌다면 45도의 맞은편 변을 a로 두고 식을 시작합니다. 반대로 8과 11 사이가 아닌 다른 각을 넣으면 숫자는 모두 그럴듯해도 전혀 다른 삼각형을 계산하게 됩니다. 도형이 비스듬히 그려져 있어도 위치에 속지 말고, 각 양쪽의 두 변이 무엇인지 손가락이나 표시선으로 따라가 보세요. 필요한 정보 세 개가 하나의 꼭짓점에 모이는지를 확인하는 간단한 습관이 풀이의 출발점입니다.
근호와 근삿값을 다루는 방법
제1코사인법칙의 계산 결과는 제곱수로 끝나는 경우가 많습니다. a²가 171처럼 완전제곱수가 아니면 a=√171이라고 정확한 값을 먼저 쓰고, 문제에서 소수점 둘째 자리까지 요구할 때만 약 13.08cm처럼 근삿값을 덧붙입니다. 중간 단계에서 √171을 일찍 소수로 바꾸면 이후 둘레나 넓이를 구할 때 반올림 오차가 누적될 수 있습니다. 특히 여러 단계로 이어지는 문제에서는 계산기 화면의 값을 그대로 복사하기보다, 근호값 또는 충분한 자릿수를 유지하는 편이 좋습니다. 길이는 음수가 될 수 없으므로 제곱근을 풀 때 양의 값을 선택한다는 점도 적어 두면 좋습니다. 제곱식만 보고 ±를 붙이는 것은 방정식 풀이와 길이 계산을 혼동한 사례입니다.
공식 유도를 이해하면 쉬워지는 이유
코사인 법칙은 삼각형 한 변을 수평 방향과 수직 방향으로 나누어 생각하면 납득할 수 있습니다. 한 변의 길이를 c, 다른 변의 길이를 b라고 할 때 b의 수평 성분은 b cos A가 되고, 두 점 사이의 가로 차이와 세로 차이를 제곱해 더하면 피타고라스 정리의 형태가 나타납니다. 전개 과정에서 두 길이의 곱과 cos A가 결합한 −2bc cos A 항이 생깁니다. 모든 유도 과정을 시험 때마다 다시 할 필요는 없지만, 이 항이 ‘각 때문에 생기는 보정’이라는 뜻을 알면 왜 코사인이 들어가는지 기억하기 좋습니다. 또한 A가 90도이면 수평 성분이 사라져 보정항도 0이 되는 모습이 공식과 정확히 맞아떨어집니다.
연습 문제를 풀 때의 단계별 전략
처음에는 숫자가 간단한 60도, 90도, 120도 문제부터 푸는 것이 좋습니다. cos 60도=1/2, cos 90도=0, cos 120도=−1/2를 이용하면 계산 결과가 각의 성질과 어떻게 연결되는지 눈으로 확인할 수 있습니다. 다음에는 세 변이 주어진 문제에서 분수 형태의 cos값을 만들고, 그 값이 −1과 1 사이인지 확인하는 연습을 합니다. 마지막으로 길이와 각이 섞인 응용 문제에서는 도형을 직접 다시 그리고, 기준 각과 맞은편 변을 다른 색으로 표시해 보세요. 한 문제를 맞힌 뒤에도 피타고라스 정리만으로 풀 수 있는 특수한 경우인지, 코사인 법칙이 꼭 필요한 일반삼각형인지 비교하면 공식을 선택하는 감각이 빠르게 자랍니다.
현실 측정과 삼각형 모델
코사인 법칙은 교실 문제뿐 아니라 직접 잴 수 없는 거리를 추정할 때도 유용합니다. 예를 들어 두 지점에서 같은 목표물을 바라보는 방향 사이의 각과 두 지점 사이의 거리를 알면, 삼각형을 만들고 목표물까지의 거리를 계산하는 방식으로 생각할 수 있습니다. 다만 실제 측정에서는 각도와 길이에 오차가 있으므로 소수점 아래의 많은 자리를 지나치게 확정적으로 쓰지 않는 태도가 필요합니다. 입력값이 대략값이라면 결과도 대략값임을 표시하고, 단위를 통일해야 합니다. m와 cm를 섞어 대입하면 공식은 맞아도 해석이 틀립니다. 수학 공식을 현실에 적용할 때는 정확한 식만큼이나 측정 조건과 단위 확인이 중요합니다.
오답에서 원인을 찾는 연습
오답을 고칠 때는 정답만 보고 다시 계산하기보다 어느 단계에서 도형 정보가 바뀌었는지 찾는 것이 효과적입니다. 식의 세 항 가운데 b²+c²까지만 맞고 마지막 항이 다르다면 끼인각 또는 코사인값을 확인합니다. 제곱값은 맞는데 길이가 이상하면 제곱근 처리와 단위를 봅니다. 각을 구하는 문제에서 값이 180도를 넘거나 음수가 되면 역코사인 입력 범위와 각도 모드를 살핍니다. 이런 분류를 해 두면 다음 문제에서 같은 실수를 줄일 수 있습니다. 코사인 법칙은 한 줄의 공식이지만, 도형 읽기·대입·계산·검산이 이어지는 과정이므로 각 단계의 흔적을 답안에 남기는 것이 가장 좋은 안전장치입니다.
마무리 점검 체크리스트
코사인 법칙 문제를 마친 뒤에는 네 가지를 확인하면 됩니다. 첫째, 구하려는 각의 맞은편 변을 같은 문자로 두었는가를 봅니다. 둘째, 두 변과 끼인각이면 a²=b²+c²−2bc cos A 형태를 썼는지, 세 변으로 각을 구하면 cos A=(b²+c²−a²)/(2bc)로 정리했는지 확인합니다. 셋째, 계산기의 도·라디안 설정과 cos값의 부호를 점검합니다. 넷째, 가장 긴 변과 가장 큰 각의 관계, 예각·둔각에 따른 길이 변화를 이용해 답의 크기를 검산합니다. 이 순서를 반복하면 복잡해 보이는 삼각형 문제도 필요한 정보만 골라 안정적으로 풀 수 있습니다. 한 번의 정답보다 같은 절차를 다시 설명할 수 있는지가 진짜 이해를 보여 줍니다.
추가 확인 한 가지
계산이 끝난 뒤에는 도형을 다시 보며 답이 삼각형의 크기 관계와 어울리는지 확인하세요. 기준 각과 맞은편 변의 짝을 끝까지 유지하면 공식 선택과 검산이 모두 쉬워집니다.