抡锤者

@rongda-weng 其实，我是ITX, 我还是希望能单张卡解决所有问题，而不是两张卡。

@applejuice 你视觉模型怎么放进去了

不是 Strata P2P方案没有意义啊，因为Strata 双卡方案不是并行。

@风满楼 说:

两张 R9700

不建议两张 R9700，你最后会发现根本不值这个钱。

Strata 会不会是昙花一现的推理框架，我其实考虑过扩大内存去跑Strata，但是后来发现Strata其实是鸡肋。

@rongda-weng NV 估计没到顶， AMD 就算了，单卡RDNA4 最大就32G, AMD 没想过好好发展本地模型。搞出了一个不伦不类的小主机，然后向天要价。

@Michael-ZHANG 其实我觉得A卡就值10000块，花17000买A卡的真是脑袋被踢到了。这个价格应该马上就会回落。

@Bunsei 认同啊，在找替代方案，17000 R9700 没有任何可参考性了。

@Bunsei 我也认为现在 两张4080 32GB 性价比更高，远比R9700高

rongda-weng 6900 可以考虑

R9700 17900元 是否还有价值? 两张R9700 价格和一张4090 48GB 价格一样。4090 48GB 是否更有性价比？

R9700 单卡 Qwen 27B 只能用vllm, 不能sglang, Qwen 27B NVFP4不能开vision， 不能把KV缓存放到内存。却可以卖到17000？

双卡 R9700 价格和4090 48GB 一样，性能差了一大截，但部署调试的难度高了好几倍。同时，comfyUI 双卡R9700 完败和4090 48GB。

双卡 R9700的价值点在哪里？

在吗 我用dsh 0.2rc 也发现了和你一样的问题，我运行本地qwen27B 很多任务都做不下来，dsh一边压缩信息，一边大规模阅读我本地信息，导致很长时间上下文都被占满，再压缩。但是我换成codex 或者hermes就正常了。

@q1726092075

你是哪个X99平台？这几个都开了吗？

Above 4G Decoding = ON
Resizable BAR = ON
CSM = OFF

@xiang-xu
X99 不知道，但是单卡应该可以，不过上线文就是192k 那种

让AI回答一个问题：“如果我要去50米外的修车店洗车， 是走着去好， 还是骑车去好， 还是开车去好？“

你的27B 怎么回答？

单卡 干净 实用

对了，你这个裸机装驱动了嘛？还是只是拉的docker

@Ben-Lee

@applejuice

我感觉都需要 MTP/dflash2 吧，这是5090的贴子，也是加了投机解码
https://lcz.me/topic/1228/9?_=1790458084310

4090 不加也就那样。
https://github.com/sergiuszm/ninfer-4090

R9700 整体性能 对标的就是4080S，也不能指望太高了。

@fcme

这个哥们双卡R9700 vllm 可以跑出比较好的性能。
https://lcz.me/topic/1668?_=1790438007305

但是配置也太高了:

@paul-hou 说:

qwen3.8 flash

qwen3.8 flash 更适合脚本和文字修改工作，如大量的翻译，字幕校对，在线咨询。