최종 업데이트: 2026-06-22

코사인 유사도

코사인 유사도는 두 벡터가 같은 방향을 얼마나 가깝게 가리키는지를 재는 척도입니다. 두 벡터 사이 각도의 코사인 값이므로, 벡터의 방향에만 의존하고 길이에는 의존하지 않습니다. 점수는 정반대 방향을 가리키는 벡터의 경우 −1에서, 직각을 이루는 벡터의 경우 0을 거쳐, 같은 방향으로 정렬된 벡터의 경우 +1까지의 값을 가집니다. 텍스트 임베딩을 비교하는 기본적인 방법으로, 임베딩에서는 벡터의 방향이 의미를 부호화하고 길이는 대체로 부수적입니다. 이 계산기는 산술이 따라가기 쉽도록 3차원에서 동작하지만, 공식과 그 해석은 실제 임베딩이 차지하는 수백 또는 수천 차원에서도 동일합니다.

계산 방법

점수를 얻는 데에는 두 가지 재료가 결합됩니다. 내적은 두 벡터가 성분별로 얼마나 일치하는지를 재고, 크기는 각 벡터의 길이를 잽니다. 벡터 $a$와 $b$에 대해 내적은 다음과 같습니다.

그리고 벡터의 크기는 성분을 제곱해 더한 값의 제곱근입니다.

내적을 두 크기로 나누면 길이의 영향이 상쇄되고 각도만 남습니다.

각도 자체는 코사인을 역으로 취해 구합니다. $\theta = \arccos(\cos\theta)$ 로, 원시 점수보다 다루기 더 쉬울 때가 있습니다. 0.92라는 유사도는 약 23도라는 각도보다 머릿속에 그리기가 어렵기 때문입니다.

풀이 예시

$a = (0.5,\ 0.1,\ -0.3)$ 과 $b = (0.4,\ 0.2,\ -0.1)$ 을 비교해 보겠습니다. 내적은 다음과 같습니다.

크기는 다음과 같습니다.

따라서 코사인 유사도는 다음과 같습니다.

이는 $\arccos(0.9221) \approx 22.76^\circ$ 의 각도에 해당합니다. 두 벡터는 가깝지만 동일하지는 않습니다. 약 20도가 조금 넘는 간격을 두고 같은 방향으로 강하게 기울어 있습니다. 임베딩 검색에서 이 정도로 높은 점수는 두 항목을 강한 일치로 표시할 것입니다.

참고와 변형

벡터를 미리 단위 길이로 정규화하면 두 크기가 모두 1이 되고, 코사인 유사도는 내적만으로 줄어듭니다. 벡터 데이터베이스가 정규화된 임베딩을 저장하고 한 번의 곱셈과 덧셈으로 결과의 순위를 매기는 이유가 바로 이것입니다. 코사인 유사도는 단위 구면 위의 유클리드 거리와도 밀접한 관계가 있습니다. 단위 벡터에서는 코사인 유사도가 높을수록 직선 거리가 항상 더 작아지므로, 두 순위는 서로 일치합니다. 점수는 하나의 임베딩 모델 안에서만 비교할 수 있습니다. 한 모델의 0.8은 다른 모델의 0.8과 같은 것을 뜻하지 않습니다.

활용

코사인 유사도는 임베딩 검색의 점수 산출 단계로, 검색 증강 생성의 토대가 됩니다. 비교 대상이 되는 구절은 청킹 단계에서 만들어지며 — RAG 청킹 계산기을 참고하시기 바랍니다 — 그 비용은 임베딩 비용 계산기로 추정하는 벡터로 임베딩됩니다. 시스템이 비교해야 하는 그러한 벡터의 수는 벡터 데이터베이스 용량 계산기가 계산하는 인덱스 크기를 좌우합니다.