최종 업데이트: 2026-06-22

모델 다운로드 시간

대규모 언어 모델을 기기로 내려받는 일은 수십에서 수백 기가바이트를 옮기는 작업일 수 있으며, 대기 시간은 두 가지에 달려 있습니다. 가중치 파일이 얼마나 큰지, 그리고 연결이 얼마나 빠른지입니다. 파일 크기는 파라미터 수와 양자화 형식에서 따라 나오고, 전송 시간은 그 크기를 네트워크 대역폭으로 나눈 값입니다. 이 계산기는 파일 크기를 직접 묻는 대신 파라미터 수와 정밀도에서 출발하여 두 단계를 하나로 이어 줍니다.

파라미터에서 바이트로, 그리고 시간으로

모델의 가중치는 대략 파라미터 수에 가중치당 비트 폭을 곱한 만큼의 바이트를 차지합니다. 파라미터 $N$(10억 단위)과 가중치당 $b$비트가 주어지면, 십진 기가바이트 단위의 크기는 다음과 같습니다.

이를 전송 시간으로 바꾸려면, 대역폭이 초당 메가비트로 표기되므로 크기를 비트로 환산한 뒤 회선 속도로 나누어야 합니다. 1기가바이트는 $8 \times 10^9$비트이고 초당 1메가비트는 초당 $10^6$비트이므로, $w$ Mbps 대역폭에서 전송은 $S \cdot 8 \times 10^9 / (w \times 10^6) = S \cdot 8000 / w$초가 걸립니다. 분과 시간으로 표현하면 다음과 같습니다.

계산 예시

700억 파라미터 모델을 가중치당 16비트로 저장하고 1,000 Mbps 연결로 다운로드하는 경우를 봅시다.

회선이 포화 상태를 유지한다고 가정하면 140 GB의 가중치를 전송하는 데 약 0.31시간이 걸립니다. 같은 모델을 4비트로 양자화하면 35 GB가 되어 대략 4분의 1 시간에 다운로드됩니다.

메가비트와 메가바이트의 차이

가장 흔한 실수는 연결 속도가 메가비트이고 파일이 메가바이트라는 점을 잊는 것입니다. 1바이트는 8비트이므로 "1 Gbps" 회선은 초당 약 125메가바이트만 전송합니다. 위 계산은 이 환산을 처리하며, 그래서 기가바이트를 기가비트로 나눈 결과보다 시간이 8배 더 깁니다. 실제 다운로드는 그보다도 느린데, 서버 제한과 공유 대역폭, 프로토콜 오버헤드가 실효 속도를 광고된 최대치보다 낮게 유지하기 때문입니다. 기반이 되는 파일 크기와 정밀도에 따른 변화는 양자화 기반 모델 크기 계산기에서, 내려받은 가중치를 실제로 실행하는 데 필요한 메모리는 LLM 추론 VRAM 계산기에서 다룹니다.