X99 + 双 AMD Radeon AI PRO R9700 跑通跨 Root Port P2P：从内核、RCCL 到 SGLang Qwen3.8 实战
-
对，本地模型要能普及，先不提智商程度，必须是真的可以让本地模型的使用者，有一个较为流畅的体验，如果只是跑起来，意义不大。
不过用R9700做做图还行，但是如果这样的话，还不如直接买7900xtx.
现在出行很方便, 共享单车,公交,出租,高铁,飞机...都可以选择. 这也不妨碍自己买小车/电驴/自行车...个人折腾个本地小模型, 就算给自己捣鼓一辆单车玩玩吧.
-
对，本地模型要能普及，先不提智商程度，必须是真的可以让本地模型的使用者，有一个较为流畅的体验，如果只是跑起来，意义不大。
不过用R9700做做图还行，但是如果这样的话，还不如直接买7900xtx.
现在出行很方便, 共享单车,公交,出租,高铁,飞机...都可以选择. 这也不妨碍自己买小车/电驴/自行车...个人折腾个本地小模型, 就算给自己捣鼓一辆单车玩玩吧.
-
-
@suboyang 用线上模型怎样都比本地模型值得
线上模型怎样都比本地模型值得
不谈comfyUI 和其他语音视频生成模型这类模型。
本地模型的重要性：
第一，如果纯编程，是那种逻辑很清晰的情况下，下线模型qwen3.8-27B是可以做大量工作的，并且可以反复测试demo脚本。
第二，本地模型最大的优势是可以弥补API焦虑。例如，有一次去客户现场，我把agent 登录到问题服务器检查问题。事后，我想简单问题还好，如果用量大了，token限流了怎么办？这个时候有个本地模型作为补充，就安心很多了。但是前提是本地模型首先速度得跟得上，
100 token/s 以下基本就做不了这样的工作了。第三，本地模型几乎没有限制，很多渗透爬虫的工作，线上模型有安全模块，不给你做。只有本地模型可以做，而且比较私密。
第四，很多股票分析，大量数据分析那种算MA均线，画量化图那种，你写好pipeline，一个job就十几万token。 线上模型几天就用完了。
当然，所有前提是本地模式的速度得跟得上，准确率可以慢慢等。我现在经常处于这样的状态：
-
但是看起来好像你这个运行速度也不是太好啊，Pp才1000左右。看看https://github.com/Eliovp-BV/paiton-vllm-plugin。 单卡运行速度就炸裂，昨天刚配置好的
Paiton 单卡确实很强，这个后面有时间我也会测。
我这篇主要验证的是 X99 双 R9700 的 P2P 可行性和双卡 scaling，SGLang 只是目前先跑通的 serving stack。现在这些 PP/TG 数据主要看单卡→双卡提升，不是在做 SGLang vs vLLM 横评。
后续会补 vLLM/Paiton，同模型同参数下再比较。 -
线上模型怎样都比本地模型值得
不谈comfyUI 和其他语音视频生成模型这类模型。
本地模型的重要性：
第一，如果纯编程，是那种逻辑很清晰的情况下，下线模型qwen3.8-27B是可以做大量工作的，并且可以反复测试demo脚本。
第二，本地模型最大的优势是可以弥补API焦虑。例如，有一次去客户现场，我把agent 登录到问题服务器检查问题。事后，我想简单问题还好，如果用量大了，token限流了怎么办？这个时候有个本地模型作为补充，就安心很多了。但是前提是本地模型首先速度得跟得上，
100 token/s 以下基本就做不了这样的工作了。第三，本地模型几乎没有限制，很多渗透爬虫的工作，线上模型有安全模块，不给你做。只有本地模型可以做，而且比较私密。
第四，很多股票分析，大量数据分析那种算MA均线，画量化图那种，你写好pipeline，一个job就十几万token。 线上模型几天就用完了。
当然，所有前提是本地模式的速度得跟得上，准确率可以慢慢等。我现在经常处于这样的状态：
-
@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了
-
@suboyang 你这种需求 上rtx6000也不亏
最低都要两块5090
-
，系统 取消固定了此主题
-
@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了这两天懈怠了，十一前把dflash2测了
🔧 X99 × Dual R9700 P2P Lab
https://lcz.me/projects/local/x99-amd-gpu-p2p -
差不多，最后就得两个5090。但是这个成本也太高，其实单卡R9700 跑qwen3.8 27B 100token/s 也可以了。就是看看双卡R9700 能不能优化到120~130token/s 或者更高
-
-
，
T terry 固定了此主题
-
@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了这两天懈怠了，十一前把dflash2测了
-
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
谢谢老特提醒，创建了个项目，需要的兄弟们可以参考，也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p🔧 X99 × Dual R9700 P2P Lab
https://lcz.me/projects/local/x99-amd-gpu-p2p -
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
谢谢老特提醒，创建了个项目，需要的兄弟们可以参考，也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p -
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
谢谢老特提醒，创建了个项目，需要的兄弟们可以参考，也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p@PhoenixRise2026 显卡还在路上 已经 star 了，沙发
-
@Terry 已加到签名栏。
正在测试dflash2，目前看比mtp的decode要更快，还在调试参数
🔧 X99 × Dual R9700 P2P Lab
https://lcz.me/projects/local/x99-amd-gpu-p2p -
，系统 取消固定了此主题
-
-
@Terry 已加到签名栏。
正在测试dflash2，目前看比mtp的decode要更快，还在调试参数
@PhoenixRise2026 看看这玩意能不能和strata蹭上，搞不好也很有意义
-
，
P PhoenixRise2026 引用了 此主题
-
-
@PhoenixRise2026 看看这玩意能不能和strata蹭上，搞不好也很有意义
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！