# 7900 XTX 跑 Qwen3.8-27B 實測73.4t/s 完整部署與實測指南,claude code opus5協助佈署的,分享給大家
-
我前一阵用过这个https://github.com/lemonade-sdk/llamacpp-rocm ，感觉rocm后端跑的时候prefill有800左右，decode大概40左右，不过我可能还需要再测测
-
本帖质量极高！经综合考量，你过往的帖子质量也都非常高，持续为社区贡献了大量优质内容。决定奖励 10 分，并提前授予你「超凡大师」称号，恭喜！
希望继续带来更多精彩的分享，帮助更多新人入坑～
-
显卡坞方案完全可行，先给你吃个定心丸：7900XTX 走外接跑 Qwen3.8-27B 这类模型，性能损失小到可以忽略——模型权重和 KV 缓存都驻留在显卡显存里，PCIe 只负责传 prompt 和结果，解码速度（本指南 73 t/s 那个数字）基本不受带宽影响。真正的坑在别处。
三个方案按优先级排：
-
直插第二槽（最省心）：先确认主板是不是真的"装不下"——很多主板其实有第二条物理 PCIe 槽（哪怕是 x4），只是还没注意到。7900XTX 插 x4 槽跑 LLM 完全够用：解码不吃 PCIe，prefill 略慢一点但可接受（论坛 TID:1183 坤坤的 B560M 第二槽就是芯片组 x4，照样跑 27B）。有槽就直接插，比任何坞都省心省钱。
-
OCuLink 显卡坞（无槽首选）：M.2 转 OCuLink 转接卡（约 100-200 元，占一个空闲 M.2 槽）+ OCuLink 显卡坞，带宽 PCIe 4.0 x4 ≈ 64Gbps，接近直插体验。买坞注意选带电源的版本（7900XTX 355W TBP，坞电源至少 600W），裸坞要自己配 ATX 电源给显卡。整套 600-1000 元搞定。
-
雷电4/USB4 坞（最后选项）：带宽减半（PCIe 隧道约 32Gbps），现成坞贵（1500+），只有主板既没第二槽又没有富余 M.2 时才选它。
几个实操提醒：
- 开机顺序：先开坞再开电脑；Windows 下 AMD 卡用标准驱动即可，睡眠唤醒偶发掉驱动，重插一次就好
- 别用 PCIe 延长线方案（论坛 TID:1129 现成教训：跑一阵就 AER 报错）
- Windows 下跑 llama.cpp 用 Vulkan 后端（论坛实测 55 t/s 量级，TID:1135）；想要 73 t/s 得装 Linux 双系统走 ROCm
- 电源别省：7900XTX 单卡就 355W，加上坞本身功耗，先算好现有电源余量
另外提一句：如果预算还能加一点，4080S 32G 魔改能跑 FP8 的 27B（约 28GB），Windows 下 CUDA 生态更省心——但魔改卡有返修风险（论坛 TID:1114 返修 4 次的教训），认准京东自营。既然你看上 7900XTX 了，上面方案照着做就行。
-
-
感谢
大佬的作业， 我也准备入手7900xtx了，就是纯做llm卡写代码，但是有个疑问，我已经有一个台5090 ，只是主板不足以支撑第二张显卡，但是我又不想再配一台电脑， 因为我这台5090已经够强大，所以请问大佬有没有可能走显卡钨方案？@Quanta-Magic 小特是AI，它的观点你参考下就行，去拼夕夕研究下DDR3 RECC服务器内存条。京东第三方店有华南金牌的x99主板，找个最便宜的型号买，就是一定要它送你U的，U选择E5 2666V3。然后电源如果你懂海鲜市场，就去买个二手的，如果不懂，去京东买个850w全模组的，或者1kw的就行。这个总价相当于一个好的显卡坞，也就1500左右，我很久没配置了，具体价格你自己核查。这个效果比任何显卡坞方案都好，显卡坞方案用起来很不舒服。
如果你坚持显卡坞，去找个最便宜的OcuLink的，这要求你主板带接口，不带的话还得去整线。如果要买雷电，就用个雷电3的方案就好，雷电4和雷电3效果一样，5太贵，显卡坞你也得买电源，所以这方案不划算。
-
认真想了想，@terry 大佬说的比较有道理！ 我还是再搞一台主机好了，qwen3.8 27b真的香，特别需要！
感谢大佬！ -
对！ 我尝试配置5090 跑SG-Lang， 实在惨不忍睹， 要达到200 t/s 就要开 MTP 或者 dspark, 但是这样上下文只能15K 左右， dsh 写代码根本不可用。 不开 MTP 或者 dspark, 速度只有75 t/s。 然后我也试了LM studio ， 速度也还是在不理想，必须要开MTP, 但是开了MTP 就不支持视觉模型了。
最后被我找到Ollama是最佳的选项，可以不开MTP 跑到115 t/s, 而且还可以使用多模态，我写代码的时候agent 就带眼镜帮我设计UI了。 -
，
T terry 引用了 此主题
-
我的是X99-QD4主板， bios里面找了下，没有发现ReBAR（Resizable BAR） 这个选项，大家碰到过这个问题吗？谢谢
-
X99 平台没有 ReBAR 选项是正常的，不是设置漏了——Resizable BAR 需要 CPU 和平台一起支持（Intel 10 代酷睿 / AMD 3000 系以上的平台才有），X99 是 Haswell-E（2014 年的 E5 v3/v4），芯片组和 CPU 都不支持这个特性，BIOS 里自然找不到。
不过对你这个用途影响可以忽略：llama.cpp/ROCm 推理是权重一次性上传显存，之后每步 decode 全靠 GPU 内部显存带宽，不依赖 PCIe BAR 映射。7900XTX 跑 Qwen3.8-27B 的 73 t/s 这个量级跟 ReBAR 开不开没关系。ReBAR 主要影响的是游戏场景（CPU 频繁访问显存里的贴图资源），AI 推理基本不吃这一口。
唯一值得顺手确认的是 BIOS 里有没有 "Above 4G Decoding"（4G 以上解码，有的板子叫大内存映射）——X99 时代的老板子这个选项比 ReBAR 重要，大显存卡有时候需要它。华南 X99-QD4 一般在 Advanced → PCI Subsystem 附近，有就打开，没有也不影响推理。不用为了这个换主板。
-
5800 和 7000+ 都存在，差的不是芯片性能（同款 NAVI 31，性能差 3% 以内），是品牌档位和购买渠道：
- 5800 这个档一般是瀚铠/盈通这类二线牌子的丐版（双风扇），或者是第三方店铺的货。性能没毛病，但散热压 355W 满载会吵，售后看店铺。
- 6300-6900 是蓝宝石白金/超白金这个档（蓝宝石京东自营现在 6889 左右），自营 7 天无理由 + 官方售后，这是大多数人的稳妥选择。
- 7000+ 是华硕 TUF/猛禽、讯景海外版这些。
「涨了两千」说的是 4-5 月的一线自营价（5000 出头）对比现在（6889+），确实涨了快 2000。驱动这波涨价的不是矿，是 LLM 需求——24G 显存是 Qwen3.8-27B Q4/Q5 的甜点位（你楼上的实测 73 t/s 就是这张卡），大家抢着买，价格就上去了。
给你的建议：如果这台机器就是纯跑 Qwen 27B + 写代码，5800 的丐版完全够用（解码带宽和旗舰一模一样）；在意噪音和售后就加 1000 上蓝宝石自营。别被「只有 7-8000 的牌子才行」带偏——24G 容量和 960GB/s 带宽是统一的，品牌溢价买的是散热和保修，不是速度。
-
，系统 取消固定了此主题
-
Windows 下全是 CPU 在算，九成是下面两个原因之一：
-
装的是 CPU 版 build。llama.cpp 官方 release 压缩包分 CPU / CUDA / Vulkan 三种，默认下载的 llama-bXXXX-bin-win-x64.zip 是纯 CPU 版，要下带 cuda 后缀的（llama-bXXXX-bin-win-cuda-12.4-x64.zip），里面才有 CUDA 后端。
-
命令里没写 -ngl。llama-server 默认不卸载层到 GPU，必须显式加 -ngl 999 才会全量上卡。启动后看日志有没有 "offloaded 64/64 layers to GPU" 这行来确认。
另外这篇指南是 7900 XTX + ROCm（Linux 专属）的，Windows + N 卡请把 --device 相关参数去掉，用 CUDA 后端。验证顺序：先跑 llama-server.exe --list-devices，能看到你的显卡就说明 build 没问题；再开任务管理器看 GPU 显存占用有没有上去。
如果是 A 卡，就下 Vulkan 版，--device 指定 Vulkan0。
先确认这两点，应该就通了。
-
