리틀의 법칙(L = λW)을 사용하여 임의의 안정적인 대기열에서 평균 동시성, 처리량, 지연 시간을 연결한다. 시스템 내 개수, 도착률, 평균 시간 중 어느 것이든 구할 수 있다.
입력
입력
항목이 시스템에 들어오는 장기 평균 비율로, 단위 시간당 항목 수로 나타낸다. 평균 시간과 동일한 시간 단위를 사용한다.
항목이 시스템 안에 머무는 평균 시간으로, 대기와 처리를 모두 포함한다. 도착률과 동일한 시간 단위를 사용한다.
결과
값을 입력하면 계산 결과가 표시됩니다.
결과
시스템 내 항목의 평균 개수로, 도착률 120에 평균 시간 0.5을 곱한 값이다.
리틀의 법칙
리틀의 법칙은 대기열 이론에서 가장 널리 쓰이는 결과 중 하나이다. 이 법칙은 모든 성능 엔지니어가 측정하는 세 가지 양, 곧 시스템 안에 항목이 몇 개 있는지, 얼마나 빠르게 도착하는지, 얼마나 오래 머무는지를 거의 모든 안정적인 시스템에서 성립하는 하나의 관계로 묶는다. 이 계산기는 법칙을 어느 방향으로든 풀어, 세 가지 양 중 둘이 주어지면 나머지 하나를 반환한다.
관계식
정상 상태의 시스템에서, 존재하는 항목의 장기 평균 개수 은 장기 평균 도착률 에 항목이 시스템 안에 머무는 평균 시간 를 곱한 값과 같다.
주목할 점은 이 법칙이 요구하는 가정이 매우 적다는 것이다. 존 리틀의 1961년 증명은 시스템이 안정적이어야 한다는 것, 곧 충분히 긴 구간에 걸쳐 항목이 도착하는 만큼 빠르게 떠나야 한다는 것과 평균이 존재해야 한다는 것만을 요구한다. 도착이 무작위인지 폭발적인지, 서비스 시간이 일정한지 변동이 큰지, 대기열이 선입선출로 처리되는지 우선순위로 처리되는지는 따지지 않는다.
세 가지 방식으로 읽기
같은 방정식이 서로 다른 세 가지 질문에 답하며, 이것이 계산기가 각각에 대한 모드를 제공하는 이유이다.
처리량과 지연 시간으로부터 동시성: . 초당 2,000개의 요청을 처리하고 각 요청이 50 ms 걸리는 서비스는 평균적으로 개의 요청을 처리 중으로 보유한다.
동시성과 지연 시간으로부터 처리량: .
동시성과 처리량으로부터 지연 시간: .
이로써 이 법칙은 측정값에 대한 빠른 일관성 점검 수단이자, 목표 부하에 맞추어 풀(연결 풀, 스레드 풀, 작업자 수)의 크기를 정하는 도구가 된다.
단위 일관성 유지
유일한 규칙은 도착률과 시간이 같은 시간 단위를 공유해야 한다는 것이다. 가 초당 요청 수라면 는 초 단위여야 하고 은 순수한 개수로 나온다. 시간당 요청으로 생각하고 싶다면 를 시간 단위로 측정한다.
L=λW=2000req/s×0.05s=100requests in flight
한계
리틀의 법칙은 장기 평균을 기술하므로 순간적인 급증, 꼬리 지연 시간, 분산에 대해서는 말해 주지 않는다. 또한 안정성을 가정한다. 도착이 서비스를 앞질러 적체가 계속 늘어나면 시스템 내 평균 개수가 잘 정의되지 않으며 법칙은 더 이상 적용되지 않는다. 무작위 도착 아래에서 대기 시간과 대기열 길이를 포착하는 모형은 M/M/1 큐 계산기를 참고한다.
자주 묻는 질문 (FAQ)
리틀의 법칙이란 무엇인가?
리틀의 법칙(Little's law)에 따르면, 임의의 안정적인 시스템에서 존재하는 항목의 평균 개수(L)는 평균 도착률(λ)에 각 항목이 시스템 안에 머무는 평균 시간(W)을 곱한 값과 같다. 즉 L = λW이다. 이 법칙은 1961년 존 리틀(John Little)에 의해 완전히 일반적인 형태로 증명되었으며, 시스템이 안정적이고 평균이 충분히 긴 기간에 걸쳐 취해지는 한 도착 패턴, 서비스 시간 분포, 대기열 처리 방식과 무관하게 성립한다.
어떤 단위를 사용해야 하는가?
유일한 요구 조건은 도착률과 시간이 동일한 시간 단위를 사용하는 것이다. 도착률이 초당 요청 수라면 평균 시간은 초 단위여야 하며, 시스템 내 개수는 순수한 개수이다. 처리량을 시간당으로 측정한다면 평균 시간도 시간 단위로 나타낸다. 시스템 내 개수는 항상 무차원으로, 항목, 요청, 고객 등의 개수이다.
컴퓨팅에서는 어디에 사용되는가?
리틀의 법칙은 엔지니어가 가장 자주 측정하는 세 가지 양, 곧 동시성, 처리량, 지연 시간을 연결한다. 이 중 둘이 주어지면 나머지 하나가 따라 나온다.
이 법칙은 연결 풀과 스레드 풀의 크기를 정하고, 서비스가 보유하는 처리 중 요청 수를 추론하고, 측정된 요청률과 응답 시간을 예상 동시성으로 변환하고, 부하 시험 결과를 검증하는 데 쓰인다. 분포에 관한 가정을 하지 않으므로 단일 대기열뿐 아니라 시스템 전체에도 적용된다.
언제 적용되지 않는가?
이 법칙은 도착과 이탈이 균형을 이룰 만큼 충분히 긴 구간에 걸쳐 관측되는 안정적인 시스템을 요구한다. 즉 시스템 내 평균 개수가 한없이 증가해서는 안 된다. 이 법칙은 장기 평균을 기술하므로 순간적인 급증, 꼬리 지연 시간, 대기열의 분산에 대해서는 아무것도 말해 주지 않는다. 적체가 계속 늘어나는 과도 상태나 과부하 시스템에서는 이 단순한 관계가 성립하지 않는다.
