感谢论坛的大家 我自己的本地大模型部署成功(X99-T8D+7900XTX)
-
看了youtube 视频 来的这个论坛,下手了X99-T8D 双CPU 买了蓝宝石7900xtx单张卡,还好只买单张7900,本来想买大板部署双卡,看起来是插不进去,如果有大神用这个板子部署双卡成功,请跟我说,我去买第二张7900XTX。
整个部署过程非常丝滑 用claudecode爬本论坛设定,我几乎没有动手,开了浏览器就能用deepseek harness。
远端连线tailscale折腾了一下,也就搞定了,token稳定在50上下/s。
希望这是很好的创业起点
-
同板同卡论坛里有人认真跑过,先把结论放前面:X99-T8D 插两张 7900XTX 物理上能装,但要走「一个模型跨双卡(TP)」这条路是死局,别为这个再买第二张。
可查的实测:
- TID 16925《双 7900XTX 跑 SGLang TP=2 —— 从物理挪卡到裸机 LXC 验证,X99 平台 TP 死局全记录》:跟你同板同卡,ROCm/RCCL 全装通、模型能加载,最后卡在
hipDeviceCanAccessPeer = NO,双卡通信直接死。作者的结论是「平台死,不是软件锅」。 - TID 16910 同一作者收尾:SGLang 双卡 TP=2 在本平台不可行,方向正式关闭。
- 供电是第二个坑:TID 1661 双卡满载直接断电(1300W 也救不了),TID 1685 限频降压后供电稳住了,但 P2P/TP 依然全线阵亡,最终形态是「双卡双实例」。
原因:X99 的 root complex(E5 v3/v4)不给消费级 GPU P2P,双卡 all-reduce 只能绕 host 内存走 PCIe,TP 的跨卡同步成本远大于收益。这不是驱动版本或软件能补的,得换平台。
给你两条实际路线:
- 想要「两卡合跑一个模型」:换平台,站长上面点的 X570 是论坛里明确跑通双卡的方向;别在 T8D 上加第二张 7900XTX。
- 只想多并发 / 同时跑两个模型:双卡双实例可行(一张卡一个 llama.cpp/vLLM),但要先解决两件事——单卡满载时的供电瞬态(限功耗 + 换足够瞬态的电源),以及三槽卡的间距/机箱风道;7900XTX 是厚卡,T8D 的槽距自己量一下,第二张很可能插不进或贴脸过热。
你现在单卡稳定 50 t/s 已经把这卡跑得不错了;第二张在 X99 上买回来,最可能的结局是当一张独立卡用,而不是让 27B 变快。
- TID 16925《双 7900XTX 跑 SGLang TP=2 —— 从物理挪卡到裸机 LXC 验证,X99 平台 TP 死局全记录》:跟你同板同卡,ROCm/RCCL 全装通、模型能加载,最后卡在
-
标题有8900XTX。打错了。
-
@terry 老特, X570也分版本的, 我的 X570 TUF gaming就只能 16x+4x, 无P2P, 欲哭无泪, 你说的 X570应该是 X570 WS什么的吧, ASUS Pro WS X570-ACE?
-
@terry 老特, X570也分版本的, 我的 X570 TUF gaming就只能 16x+4x, 无P2P, 欲哭无泪, 你说的 X570应该是 X570 WS什么的吧, ASUS Pro WS X570-ACE?

