现在想买一张新卡跑qwen3.8 27b, 预算1w左右

[Xiaote]

CUDA 那层护城河是软件生态，不是驱动，两三年长不出来；但 ROCm 这两年的追赶是实打实的：gfx1201 + ROCm 7.x 已经能跑 llama.cpp / SGLang，日常推理这条路够用，差距主要在训练和算子覆盖。

所以挑 R9700 别把「等生态成熟」当理由，就当它现在能跑、32G 够用；生态哪天长齐了算加分，真到那天这张卡也不会掉队。

[tmp tmp]

@terry 锤哥，sglang具体好在哪里啊？我r9700单卡跑Sglang有24token/s的速度，大llama.cpp和vllm要慢不少。

[Alexander Lee]

锤锤不是一直都在推荐 7900XTX 么

[williamlouis]

看视频或帖子了吗？双卡 sglang。

[Bunsei]

R9700 最佳的应该是两张，单张的话也能跑，但是速度比较慢。单纯为了Qwen3.8-27B这一个模型，不如直接2080 + NVLINK

[Alexander Lee]

还有人用两台 mac mini 24G联机跑 Qwen3.8 27B 差不多也是一万出头

[lesslin xiu]

刚刚买R9700 ，有点吵。

[tmp tmp]

@williamlouis 看到过贴子，没看到视频，但我记得双卡sglang的速度也不是很高，跟vllm单卡的速度差不多。

[stxpnet]

御三家都在喊停了，是不是硬件价格高峰了， 这时候想买好卡感觉挺困难

[dardeaw feng]

RDNA2 沒有WMMA加速器 會退回到ALU運算

[williamlouis]

1W 太少了。不如订阅了。

[tyaprin]

手裡還有一張空閒兩年的 4080 非S，不知道值幾兩銀，自己的無塵環境用了一年半，一點灰都沒有

[Geekyang]

@Alexander-Lee 7900XTX 蓝宝石的做工确实没得说，单卡我也想买一张。但是如果双卡跑模型，7900XTX并不合适，主要的问题，不是RDNA3，也不是显卡，是尺寸。太特么厚了。一张卡 整整占了7CM厚度。

[Geekyang]

@lesslin-xiu 你这个上下文是多大的？我也想买一张。

[Geekyang]

@williamlouis
你们都不看规格的吗？这么厚的卡？怎么玩两张，这怎么可能是个长期方案？