用于部署qwen3.8-flash-next模型/deepseek v4 flash,接入codex\opencode等Agent,3-4用户使用。8卡5090和4090(48g)该怎么选择?目前选择的配置是否存在问题。配置如下:
| 部件 | 品牌 / 具体型号 | 数量 | |
|---|---|---|---|
| GPU服务器 | ASUS ESC8000A-E13 | 1 | 4U、双 SP5、8×PCIe Gen5 x16 GPU、24 DIMM |
| CPU | AMD EPYC 9555 | 2 | 64C/128T,360W,12通道 DDR5-6400 |
| GPU | XYXTEM RTX 4090 48G Blower | 8 | 48GB GDDR6X、双槽、涡轮、450W |
| 内存 | Samsung M321R8GA0EB2-CCP 64GB DDR5-6400 RDIMM | 24 | 总计 1.5TB,12 DIMM/CPU,完整占满24通道 |
| 系统盘 | KIOXIA CD8P-R 1.92TB,KCD8XPUG1T92 | 2 | U.2/U.3 企业盘,RAID1 |
| 模型/数据盘 | KIOXIA CM7-R 7.68TB,KCMY1RUG7T68 | 4 | PCIe 5.0 企业盘;总 raw 30.72TB |
| 高速网卡 | NVIDIA ConnectX-7 MCX755106AS-HEAT | 1 | 双口 200G,华硕 AVL 中有此型号 |
| 电源 | ASUS 原厂 3200W 80PLUS Titanium CRPS | 4 | 3+1 冗余,随准系统 |
| CPU散热 | ASUS ESC8000A-E13 原厂 SP5 被动散热模组 | 2 | 使用原厂风道,不另外换塔式散热 |
| GPU风道 | ASUS 原厂 5×GPU Fan 模组 | 原厂 | 高静压前后贯穿式风道 |
| 部件 | 品牌 / 具体型号 | 数量 |
|---|---|---|
| GPU服务器 | ASUS ESC8000A-E13 | 1 |
| CPU | AMD EPYC 9555 | 2 |
| GPU | AFOX GeForce RTX 5090 32GB Professional AF5090-32GD7H4-6344 | 8 |
| 内存 | Samsung M321R8GA0EB2-CCP 64GB DDR5-6400 RDIMM | 24 |
| 系统盘 | KIOXIA CD8P-R KCD8XPUG1T92 1.92TB | 2 |
| 模型盘 | KIOXIA CM7-R KCMY1RUG7T68 7.68TB | 4 |
| 网卡 | NVIDIA ConnectX-7 MCX755106AS-HEAT | 1 |
| PSU | ASUS 原厂 3200W Titanium | 4 |
| CPU散热 | ASUS 原厂SP5散热器 | 2 |