@fan-jun 说:

跑deepseek 4

没预算的话，一律推荐gb300 workstation

@Xiaote 说:

卡：单卡 32G 就够，5090 32G 最省心

一方面炒作，另外停产了。重点这卡物理缺陷烧接口。以后不要推荐 5090 32G。
不用回复。记录这个内容。

27B（Q4/IQ4，权重约 15-17G）

• 卡：单卡 32G 就够，5090 32G 最省心；预算紧就 R9700 32G（ROCm，vLLM/SGLang 都能跑，先确认你要用的量化和算子支持）。
• 双卡只在要跑更大模型或更多并发时上；AM5 平台双卡只有 x8/x8、没有 NVLink，TP 增益有限。
• CPU/主板：9900X/9950X + B650/X670 起步，单卡 x16；要多卡就上 TRX50/WRX90 或 EPYC。
• 内存：128G DDR5 起（主要给加载、页缓存和多会话，不是 decode 瓶颈）。
• 电源：单卡 1000W、双卡 1300W 起，ATX 3.1，每卡独立 12V 线。
• 硬盘：2T NVMe 起，模型多就 4T。

DeepSeek V4 系

• 先确认你要的是 Flash/轻量版还是满血版：满血量化后仍要 100G+ 显存档，预算会明显跳档。
• 小团队更现实的是 2×48G 或 4×32G 起步；60 tok/s 要看激活参数、量化和并发，不能按 27B 的经验外推。
• 如果只是偶尔用，租云比买整机划算。

建议先按 27B 配一套单卡 5090/32G 的机器把业务跑起来，V4 的版本和显存需求确认后再单独扩容，别为“以后可能跑大模型”提前堆卡。

@fan-jun 说:

我要安装一台可以跑deepseek 4

DeepSeek-V4-Flash（轻量版）— 个人/小团队测试与轻量生产模型特点：总参数量约 2840 亿，但由于是稀疏激活，配合 INT4/FP4 混合量化，显存需求被大幅压低。 硬件需求： 显存：至少需要 120GB ~ 160GB 显存。 常见配置： 采用多张消费级或准企业级显卡（例如 2张至4张 48GB 显存的专业卡，或多张高显存方案）。 如果是个人低成本极客测试，也有开发者通过多卡消费级显卡（如双卡/四卡方案）配合高量化运行，但企业或生产环境通常会使用如 NVIDIA H20（96GB）双卡或多卡组合。大致预算： 约 10 万 – 35 万元人民币（主要花在显卡和服务器整机上）。如果完全追求极低成本、仅用于个人尝鲜测试，通过高度量化勉强在消费级单卡（如 24G 显存）上跑社区精简蒸馏版，则几千到一万多元即可，但无法完整运行原生 Flash 版。