-
但是带宽影响比较大的是视频生成，和语音生成。大模型TP未必这么敏感，这个还得有人测。主要成本实在太高，要不然我自己早上手了。
-
按说这个sglang方案是没有问题的
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese双卡7900xtx 跑出了这样的水平，R9700 应该更高才对。
-
@suboyang 视频对vram 大小 带宽都有要求
只是vram更重要因为大小决定了可以生成更长的视频
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese
这个方案实际上论坛里是没有人测试过R9700双卡的，需要换一下模型，和KV参数。需要有人完全测过这个方案才行，就算R9700带宽只有640G，也不至于双卡TP 50多token，这还玩个毛线。R9700 就只能单卡方案了，那么AMD本地模型还差的很远。
-
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese
这个方案实际上论坛里是没有人测试过R9700双卡的，需要换一下模型，和KV参数。需要有人完全测过这个方案才行，就算R9700带宽只有640G，也不至于双卡TP 50多token，这还玩个毛线。R9700 就只能单卡方案了，那么AMD本地模型还差的很远。
-
https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese
这个方案实际上论坛里是没有人测试过R9700双卡的，需要换一下模型，和KV参数。需要有人完全测过这个方案才行，就算R9700带宽只有640G，也不至于双卡TP 50多token，这还玩个毛线。R9700 就只能单卡方案了，那么AMD本地模型还差的很远。
-
-
@suboyang
这一点你说错了，我好好求证过，sglang只支持到RDNA3，R9700是RDNA4，一字之差就是不支持，NND。所以就得等民间大神的移花接木技术了。
现在有了更牛逼的在线模型估计也快了吧 -
-
不对啊
https://github.com/mattbucci/2x-R9700-RDNA4-GFX1201-sglang-inference这不是有sglang 支持吗？你说的是双7900xtx 不支持，对吧？
-
-
-
@suboyang
上下文200k（带识图，不带可以到240k左右），pp3800，tg100左右。
所以目前这个单卡的状态就已经很好用了，再折腾动力不足了，因为他基本上可以替代deepseek v4 flash了，比4.1flash差一些，但是日用工作太够了。 -
现在最大的问题是，Qwen3.8-27B-MXFP4 这类模型，我还没有看到双卡 R9700 可以稳定100t/s 以上的，尤其是250K上下文的测试，如果在250K 还能保持80~100t/s，本地模型部署才有意义，要不然干活太慢了，这个时间等不起。
-
-
-
-
-
-
雙卡想玩qwen3.8 flash 的可參考一下這個。
https://github.com/Dyluhn/R9Vprefill 3600
decode 70 -
@suboyang
这个库我看是9月19号才发出来的，我的9700是在7月初买的。那时候我是搜遍了，全网都没有支持rdna4的sglang包。这个库里面还有Claude.md文件呢，所以大概和我想的差不多，这也是在AI帮助下搞的一个私人库。
总的来说，发展还是挺快的，两个月就把这个东西跑通了。
感觉，这个库挺有意思的，我回头研究一下可不可以搞一个单卡的SGlang，有这个打底了应该问题不太大。只是现在动力不足，paiton的那个目前来讲对R9700来说太够用了，个太好用了。
你上下文开的是多大的？
