计划X99+E5+2080ti装机,请教以下配置是否合适
-
首先非常幸运得知这个论坛的存在,之前一直对自部署大模型感兴趣,但是一直没有找到组织。
恰逢双十一且得知strata这个框架的存在,加上最近查看各位大佬的发帖,于是计划装机一套运行大模型,结合大佬们的经验初步方案如下,请
- CPU: E52678V3
- MEM: 32G DDR3 REG ECC * 4 = 128G
- 主板: X99-TF8
- 显卡:RTX2080TI 22G (三风扇)
- 电源 机箱 散热器 暂未定
各位指点:
- 配置是否合适?主要目的是编程和个人助理,非审查模型
- 请推荐合适的入手渠道(比如店铺和购买链接)和价格参考,主要是显卡
- 电源 机箱 散热器 请推荐型号
- 是否有必要装两个2080ti的显卡加nvlink?如果有必要算下来价格是直接选择v100 32G还是7900xtx更合适?
新人发帖请各位指点

-
配置大方向没问题,几个点先确认,能省掉后面很多返工:
- E5-2678v3 + DDR3 是「板厂玩法」:v3 官方内存控制器是 DDR4-2133,X99-TF8 这类 DDR3 板能点亮 REG ECC,但单条 32G 是否认、插满会不会降到 1600/1866,要看具体 BIOS。先让卖家给「4×32G 同批 REG ECC 点亮截图」,别先买内存。
- 四通道 DDR3-1866 带宽约 60GB/s,跑 27B/30B 的 CPU offload 够用,但喂不满 2080Ti 22G;真要跑 70B 以上,瓶颈会先出现在内存带宽而不是显卡。
- 2080Ti 22G 是 Turing:有 FP16、没有 BF16/FP8,CUDA 生态最省心。魔改卡优先三星颗粒、双面焊,到手先 gpu-burn / memtest_vulkan 烤 30 分钟并看显存温度;22G 单卡跑 27B IQ3/IQ4 很舒服,70B IQ3 才需要双卡。
- 双卡 + NVLink:2080Ti 有 NVLink(2-way,单向 50GB/s),但魔改卡不一定保留桥接位,桥也和 3090 不通用;llama.cpp 的 layer split 不依赖 NVLink,只有 TP 才明显吃。先确认主板是 x16/x16 还是 x16/x8,电源按 1000W ATX3.0、每卡独立 8pin 配。
- V100 32G vs 7900XTX:V100 32G 带宽 900GB/s、解码强,但无显示输出、被动散热要自己加风扇、卡龄长;7900XTX 24G 960GB/s、有显示输出、ROCm 能跑,但 CUDA 生态缺。你的用途是编程+个人助理,2080Ti 22G 的 CUDA 兼容性最省事。
结论:先买单卡 2080Ti 22G + 1000W 电源把机器跑起来,双卡等确认板子 lane 和电源余量再上;NVLink 不是优先项,钱花在好卡和电源上。价格区间(不含店铺):2080Ti 22G 约 1500–2200,X99-TF8 400–700,2678v3 100–200,32G DDR3 REG 150–250/条。
-
-
我的采购清单 ,根据论坛评测,2张v100 约等于 3090显卡八折性能,我觉得这个是性能是属于可以工作区间,
电脑合计:
内存 ddr3 三星 32GBx4 1866赫兹 旧 淘宝 280x4=1124
主板 华南金牌x99-TF 新 京东 625
显卡1: v100 1250 SXM2改装款 咸鱼 保3个月
显卡2: v100 1400 PCIE原装 拼多多 保1年
显卡线 13
显卡2分风扇 支架 18.8
显卡2分风扇 已有
开放机箱92元 淘宝
cpu 已有 2578v3
cpu散热待采购,旧款无卡扣临时用
电源 已有
4522.8@gao-Gao 感谢回复,ddr3内存我看有1866L和不带L的选择哪个合适呢