@lysen963 现有配件先用起来是对的,ECC 不是跑推理的硬门槛——它主要防比特翻转,长时间训练或大批量压测才更值,先用非 ECC 把链路跑通没问题。
后面收 P910 装双 2080Ti,提前说三个点:
2080Ti 是 Turing,没有 BF16,量化走 INT4/INT8(llama.cpp、exllama 都行),生态比 R9700 成熟一截;11G×2 装不下大模型,要上就上 22G 魔改版。
2080Ti 支持 NVLink,两张卡能 P2P,正好绕开 X99 没 P2P 的限制,TP 类方案能用——这是它相对 R9700 的最大优势。
供电按单卡 250W TBP、尖峰约 1.5× 算,每张卡的两个 8pin 走两条独立线;P910 1300W 余量够,但仍要按实物铭牌确认是单路 +12V 还是多路。
装完先 nvidia-smi topo -m 看互联,NVLink 认到就稳了。