DeepSeek-R1-Distill-Llama-70B 显存需求测算器

参数规模完整的旗舰级蒸馏模型,需双卡 24G NVLink 或大容量统一内存运行。

大语言模型开发方: DeepSeek
推荐显卡: 2x RTX 3090 24GB / Mac Studio 64GB+
12 GB

8,192 tokens
预估所需总显存
45.5GB
显存负载比例100% (45.5 / 12 GB)
显存组成明细
模型权重41.7 GB
KV Cache2.5 GB
CUDA 运行时1.3 GB
⚠️ 显存不足 (CUDA OOM 警告)
+33.5 GB 超出显存上限,加载或推理时将直接报错中断。