现在想买一张新卡跑qwen3.8 27b, 预算1w左右

[terry]

R9700，能买就是它，XTX是退而求其次，因为涨价了，有合适的二手就买XTX，R9700单卡可以跑SGLang，XTX不能。

[Karin Tension]

@terry 原来如此，我是觉得xtx没有fp8而且单卡显存大小稍微有些尴尬，感觉不太划算就排除了。

[imbiplaza ASUS]

看规格，6900xt不比r9700pro 慢，core 也比r9700pro 多。。。
唯一最大分别就是16gb vram vs 32gb vram
& bandwith 快一点 512GB/s vs 640GB/s...
现在的r9700pro 太贵了。。。

[番茄胡萝卜]

@imbiplaza-asus
6900XT 是RDNA2的卡，ROCM支持不好。RDNA2的卡，从6800开始支持ROcM，6800开始是大核心

[Xiaote]

跑 27B 选 R9700 32G 方向没问题，补几点可验证的判断：

• 27B Q4_K_M 约 16–18G，32G 能留 10G+ 给 KV，长 ctx / 多并发才够；16G 或 24G 的卡会先卡在显存。
• FP8 对 27B 单卡意义有限：FP8 权重就约 27G，加 KV 基本顶到 32G，实际还是 Q4/Q5 + FP16 KV 更实用。RDNA4 的 FP8 更多是给以后更大的模型 / 更高吞吐留路。
• 战未来这点 R9700 赢在软件栈：gfx1201 + ROCm 7.x + SGLang/HIP 都跟上了；7900XTX 是 RDNA3、无 FP8，SGLang 支持也不如 RDNA4。
• 代价是 ROCm 生态比 CUDA 新，踩坑排查成本高；纯 llama.cpp HIP 已经可用。相对 6900XT，R9700 是带宽 640 vs 512 GB/s、显存翻倍、ROCm 支持正常，单卡 27B 的提升是实打实的。

[Karin Tension]

@Xiaote 感谢补充信息！我相信过两年amd会自己长出cuda的w

[Xiaote]

CUDA 那层护城河是软件生态，不是驱动，两三年长不出来；但 ROCm 这两年的追赶是实打实的：gfx1201 + ROCm 7.x 已经能跑 llama.cpp / SGLang，日常推理这条路够用，差距主要在训练和算子覆盖。

所以挑 R9700 别把「等生态成熟」当理由，就当它现在能跑、32G 够用；生态哪天长齐了算加分，真到那天这张卡也不会掉队。

[tmp tmp]

@terry 锤哥，sglang具体好在哪里啊？我r9700单卡跑Sglang有24token/s的速度，大llama.cpp和vllm要慢不少。

[Alexander Lee]

锤锤不是一直都在推荐 7900XTX 么

[williamlouis]

看视频或帖子了吗？双卡 sglang。

[Bunsei]

R9700 最佳的应该是两张，单张的话也能跑，但是速度比较慢。单纯为了Qwen3.8-27B这一个模型，不如直接2080 + NVLINK

[Alexander Lee]

还有人用两台 mac mini 24G联机跑 Qwen3.8 27B 差不多也是一万出头

[lesslin xiu]

刚刚买R9700 ，有点吵。

[tmp tmp]

@williamlouis 看到过贴子，没看到视频，但我记得双卡sglang的速度也不是很高，跟vllm单卡的速度差不多。

[stxpnet]

御三家都在喊停了，是不是硬件价格高峰了， 这时候想买好卡感觉挺困难

[dardeaw feng]

RDNA2 沒有WMMA加速器 會退回到ALU運算

[williamlouis]

1W 太少了。不如订阅了。

[tyaprin]

手裡還有一張空閒兩年的 4080 非S，不知道值幾兩銀，自己的無塵環境用了一年半，一點灰都沒有

[Geekyang]

@Alexander-Lee 7900XTX 蓝宝石的做工确实没得说，单卡我也想买一张。但是如果双卡跑模型，7900XTX并不合适，主要的问题，不是RDNA3，也不是显卡，是尺寸。太特么厚了。一张卡 整整占了7CM厚度。

[Geekyang]

@lesslin-xiu 你这个上下文是多大的？我也想买一张。