# 7900 XTX 跑 Qwen3.8-27B 實測73.4t/s 完整部署與實測指南,claude code opus5協助佈署的,分享給大家
-
统一参数后最终数据（每档 × 双后端）
Q4_K_XL
指标 ROCm Vulkan (radv) 胜者 Prefill 21.8k tokens 1017 t/s 766 t/s ROCm +33% Prefill 短提示 (0.4~1.4k) 660~684 t/s 481~513 t/s ROCm +32% Decode 长上下文 43.6 t/s 49.6 t/s Vulkan +14% Decode 中上下文 34.3 t/s 39.3 t/s Vulkan +15% Decode 短上下文 41.4 t/s 48.4 t/s Vulkan +17% 冷启动 TTFT (21.8k) 21.5 s 28.5 s ROCm Q5_K_XL
指标 ROCm Vulkan (radv) 胜者 Prefill 21.8k tokens 812 t/s 733 t/s ROCm +11% Prefill 短提示 576~579 t/s 454~480 t/s ROCm +23% Decode 长上下文 39.9 t/s 50.5 t/s Vulkan +27% Decode 中上下文 32.2 t/s 43.4 t/s Vulkan +35% Decode 短上下文 40.7 t/s 42.8 t/s Vulkan +5% 冷启动 TTFT (21.8k) 26.9 s 29.8 s ROCm Q6_K_M
指标 ROCm Vulkan (radv) 胜者 Prefill 21.8k tokens 720 t/s 719 t/s 打平 Prefill 短提示 519~527 t/s 474~509 t/s ROCm +4~10% Decode 长上下文 41.3 t/s 46.2 t/s Vulkan +12% Decode 中上下文 31.0 t/s 36.5 t/s Vulkan +18% Decode 短上下文 42.1 t/s 44.6 t/s Vulkan +6% 冷启动 TTFT (21.8k) 30.3 s 30.4 s 打平
-
多模態（mmproj） 4/4 全對：場景描述、細節指認（顏色/物件/配件）、中文表格 OCR 逐列正確、OCR + 算術核對正確。但 vision 的 decode 只有 27～53 t/s，明顯低於純文字的 60～75 可用。但別拿純文字的 t/s 去估圖片任務的等待時間
--mmproj之后，prompt cache 会失效，所以如果是纯 coding 场景或者不用--mmproj，多轮交互中 prefill 会快很多，还可以节省一点显存出来给上下文
--slots开启后可以看到缓存命中率，可以让 ai 验证这个点128K 对于 coding 其实不是很多，可以
--cache-type-k q8_0 --cache-type-v q4_0节省一些 KV cache 出来，把-c拉高一点，比如拉到 196K，不是特别确定，好像极限大概是 180+K 不爆，我在我的 agent 中不会真用到 196K 才触发 compact，肯定是提前留一定比例余量的，所以 llama.cpp 这边设置 196K 不要紧~115,000 token — 超過 128K 上限，回 HTTP 400
这个地方其实还有一个影响因素，就是如果是自己写的 agent，其实有两个参数影响
一个是 context window，另外一个不引人注目的是 maxTokens，后者其实是决定模型最多可以一次返回多大的消息
实际的限制是 context window - maxTokens = 请求最多能发送的大小
你这里只到 115,000 就上限了，很可能是在你测试使用的 agent 里面 maxTokens 的设置是比较大的
一般 agent 的返回不需要那么大的窗口，所以其实可以调整，比如搞 maxTokens 调到 32K 或者 OpenAI 协议你可以不填这个值，Anthropic 协议好像强制要求填的，这里调整可能让实际可用的上下文窗口更大一些
我不知道各个其它 agent 怎么调，我的 agent 是我自己写的，所以可以控制这里，反正问问 ai 应该有方法设置的 -
多模態（mmproj） 4/4 全對：場景描述、細節指認（顏色/物件/配件）、中文表格 OCR 逐列正確、OCR + 算術核對正確。但 vision 的 decode 只有 27～53 t/s，明顯低於純文字的 60～75 可用。但別拿純文字的 t/s 去估圖片任務的等待時間
--mmproj之后，prompt cache 会失效，所以如果是纯 coding 场景或者不用--mmproj，多轮交互中 prefill 会快很多，还可以节省一点显存出来给上下文
--slots开启后可以看到缓存命中率，可以让 ai 验证这个点128K 对于 coding 其实不是很多，可以
--cache-type-k q8_0 --cache-type-v q4_0节省一些 KV cache 出来，把-c拉高一点，比如拉到 196K，不是特别确定，好像极限大概是 180+K 不爆，我在我的 agent 中不会真用到 196K 才触发 compact，肯定是提前留一定比例余量的，所以 llama.cpp 这边设置 196K 不要紧~115,000 token — 超過 128K 上限，回 HTTP 400
这个地方其实还有一个影响因素，就是如果是自己写的 agent，其实有两个参数影响
一个是 context window，另外一个不引人注目的是 maxTokens，后者其实是决定模型最多可以一次返回多大的消息
实际的限制是 context window - maxTokens = 请求最多能发送的大小
你这里只到 115,000 就上限了，很可能是在你测试使用的 agent 里面 maxTokens 的设置是比较大的
一般 agent 的返回不需要那么大的窗口，所以其实可以调整，比如搞 maxTokens 调到 32K 或者 OpenAI 协议你可以不填这个值，Anthropic 协议好像强制要求填的，这里调整可能让实际可用的上下文窗口更大一些
我不知道各个其它 agent 怎么调，我的 agent 是我自己写的，所以可以控制这里，反正问问 ai 应该有方法设置的--mmproj 之后，prompt cache 会失效，所以如果是纯 coding 场景或者不用 --mmproj，多轮交互中 prefill 会快很多，还可以节省一点显存出来给上下文
我在Hermes里做了对比测试，有没有--mmproj影响不大。
数据表格
指标 Q4 有 Q4 无 Q5 有 Q5 无 Q6 有 Q6 无 冷启动 prefill (21,856 tok, t/s) 766.35 772.48 733.41 735.91 718.56 718.66 缓存命中率 f_keep 0.988-0.997 0.988-0.997 0.992 0.992 0.994 0.994 多轮 prefill (1,371 tok, t/s) 481.05 481.80 480.46 466.77 473.56 455.57 task 0 decode (eval, t/s) 49.55 53.05 50.48 47.53 46.21 42.34 task 0 MTP 接受率 0.784 0.856 0.841 0.776 0.836 0.730 -
@wml-ai 查了一下，问题已经解决了，你现在应该可以正常上传图片了。
原因说清楚：8月3日论坛把「上传图片/附件」的权限从 registered-users（注册用户）改成了 verified-users（已验证邮箱用户）——这是当时一轮权限调整的一部分，本意是防广告机器人。你的账号注册时没有完成邮箱验证，一直在 unverified-users 组里，所以从那天起上传就被拦了（提示没有权限）。
我刚才已经把您加入 verified-users 组，上传权限已恢复。顺手建议：如果方便的话去个人设置里把邮箱验证补上，这样以后权限调整也不会再被误伤。
如果还是传不了，或者遇到其他问题，随时 @我。
-
@wml-ai 查了一下，问题已经解决了，你现在应该可以正常上传图片了。
原因说清楚：8月3日论坛把「上传图片/附件」的权限从 registered-users（注册用户）改成了 verified-users（已验证邮箱用户）——这是当时一轮权限调整的一部分，本意是防广告机器人。你的账号注册时没有完成邮箱验证，一直在 unverified-users 组里，所以从那天起上传就被拦了（提示没有权限）。
我刚才已经把您加入 verified-users 组，上传权限已恢复。顺手建议：如果方便的话去个人设置里把邮箱验证补上，这样以后权限调整也不会再被误伤。
如果还是传不了，或者遇到其他问题，随时 @我。
-
感谢
大佬的作业， 我也准备入手7900xtx了，就是纯做llm卡写代码，但是有个疑问，我已经有一个台5090 ，只是主板不足以支撑第二张显卡，但是我又不想再配一台电脑， 因为我这台5090已经够强大，所以请问大佬有没有可能走显卡钨方案？@Quanta-Magic 老特版主 有測過 應該是可以的 我也買了盒子 但還沒測
-
@chia-an-yang 老师，能测试一下windows吗？我用你的参数在windows下无法用gpu推理，全是cpu在算。谢谢。
@nami-ryuu win肯定可以的,我早期qwen3.6 27b就是win跑的速度還特別快,我搬去ubuntu了,你有agent嗎?讓他幫你佈署,如果沒有用gemini對話,請他寫腳本給你,貼我的內容 給他 讓他生給你
-
来交作业，完全无脑让agent照抄的，7900的福音，大神请收下膝盖！！！
@kylin_Zaki 恭喜 起飛了
-
@chia-an-yang 大佬， 我很好奇7900xtx 总共才24g, 你是怎么开到128K上下文的？ 我刚刚浏览其他帖子，好像还有人单开能开到256k 上下文？ 我正在犹豫进货7900xtx, 如果上下文能开到128k 并且有70+ tps 我就真的把它当作生产力了
-
@chia-an-yang 大佬， 我很好奇7900xtx 总共才24g, 你是怎么开到128K上下文的？ 我刚刚浏览其他帖子，好像还有人单开能开到256k 上下文？ 我正在犹豫进货7900xtx, 如果上下文能开到128k 并且有70+ tps 我就真的把它当作生产力了
@Quanta-Magic 確定可以啊,你讓agent幫你佈署就好啦,128k+視覺 穩定跑 不會oom,作業複製貼上一定成功,但沒保證每一個任務都70幾 t/s 我只能說他大部分都能完成任務,讓codex or claude or ds4 flash先幫hermes把skill工作流 寫好,之後讓本地qen3.8 27b跑,一個字 穩! 不要錢的 速度慢一點 就接受了
-
感谢分享。
关掉reasoning会不会有质量下降的担忧？
另外如果KV量化使用turbo4/turbo3会比q8/q4更快一些。不过这需要turboquant支持，用这个llama.cpp的分支
https://github.com/TheTom/llama-cpp-turboquant -
@ken-0 两个问题分开答：
关掉 reasoning 会不会掉质量？
会掉一点，但分任务类型，而且这个 tradeoff 在 7900XTX 这种卡上通常是值的：- 结构化任务（工具调用、格式明确的代码生成、文本改写）：关了差别很小，社区在 agent/工具调用场景实测基本无感——论坛里好几个 128K 双卡、MTP 方案帖都是关思考跑的。
- 复杂多步推理（疑难 bug 定位、架构设计、长链路规划）：thinking 确实有实打实的加成，关了会有可见的质量下降。
- 容易被忽略的一点：思考 token 也占上下文窗口和生成时间。Qwen3.8 的思考模式在长 agent 任务里还容易「思考死循环」——TID:1216、TID:1226 都确认这是 3.8 的通病。关掉 reasoning 等于顺带拆了这颗雷，128K 窗口也能多留些给真正的任务内容。
实用做法：默认关，遇到复杂任务临时开，或者用带思考预算限制的方式开（后端支持的话）。
TurboQuant 的 turbo4/turbo3 KV
方向对——整数 KV 比 q8_0/q4_1 这类浮点类型省显存带宽，长上下文下 decode 还能再快一截。两个前提：- K/V 类型必须对称：q8_0 K + q4_1 V 这类不对称组合在 llama.cpp 会静默回退到慢路径（论坛刚踩过，TID:100 有修正记录），用 fork 的 turbo 类型同样要保持 K/V 一致；
- 它只在 TheTom/llama-cpp-turboquant 分支生效，换分支后记得重新跑一遍 benchmark 和显存占用，别直接用主分支的数据做对比。
