X99 + 双 AMD Radeon AI PRO R9700 跑通跨 Root Port P2P：从内核、RCCL 到 SGLang Qwen3.8 实战
-
双卡性能最大的问题就在这。我是用本地模型写过代码，58t/s 这个速度我最后是放弃了。这个时间根本等不起，一个脚本的输出，很多需要1小时以上。换成deepseek大模型10分钟搞定。
如果在长上下文，双卡单流58t/s，那折腾双卡TP意义就不大。这也是我一直不敢搞的原因，双卡TP必须有绝对性能优势单流 150t/s 以上，做这个方案才可以真的干活。
Deepseek 是250t/s, 本地模型速度虽然不能完全去比，但是至少得有50%的效率，才有折腾的意义。做项目，本地模型双卡TP如果需要5倍以上的时间，那意义不大。
确实. 只能把一些优先级比较低的任务, 而且边界/需求描述的比较明确的任务, 在睡觉前交给它, 第二天起床再看看结果. 不过现在线上模型价格好像也没那么贵, 所以就有点尴尬了.
对不能上外网的场景, 一般都是正式的工作内容, 还是有那么一点点意义; 不过既然是正式的工作内容, 太慢了对老板来讲也是不划算的;
对于爱折腾的人来讲, 就是一个不断学习的过程...能达到这一个目标就很好了. 呵呵
-
对，本地模型要能普及，先不提智商程度，必须是真的可以让本地模型的使用者，有一个较为流畅的体验，如果只是跑起来，意义不大。
不过用R9700做做图还行，但是如果这样的话，还不如直接买7900xtx.
-
双卡性能最大的问题就在这。我是用本地模型写过代码，58t/s 这个速度我最后是放弃了。这个时间根本等不起，一个脚本的输出，很多需要1小时以上。换成deepseek大模型10分钟搞定。
如果在长上下文，双卡单流58t/s，那折腾双卡TP意义就不大。这也是我一直不敢搞的原因，双卡TP必须有绝对性能优势单流 150t/s 以上，做这个方案才可以真的干活。
Deepseek 是250t/s, 本地模型速度虽然不能完全去比，但是至少得有50%的效率，才有折腾的意义。做项目，本地模型双卡TP如果需要5倍以上的时间，那意义不大。
确实. 只能把一些优先级比较低的任务, 而且边界/需求描述的比较明确的任务, 在睡觉前交给它, 第二天起床再看看结果. 不过现在线上模型价格好像也没那么贵, 所以就有点尴尬了.
对不能上外网的场景, 一般都是正式的工作内容, 还是有那么一点点意义; 不过既然是正式的工作内容, 太慢了对老板来讲也是不划算的;
对于爱折腾的人来讲, 就是一个不断学习的过程...能达到这一个目标就很好了. 呵呵
-
对，本地模型要能普及，先不提智商程度，必须是真的可以让本地模型的使用者，有一个较为流畅的体验，如果只是跑起来，意义不大。
不过用R9700做做图还行，但是如果这样的话，还不如直接买7900xtx.
现在出行很方便, 共享单车,公交,出租,高铁,飞机...都可以选择. 这也不妨碍自己买小车/电驴/自行车...个人折腾个本地小模型, 就算给自己捣鼓一辆单车玩玩吧.
-
对，本地模型要能普及，先不提智商程度，必须是真的可以让本地模型的使用者，有一个较为流畅的体验，如果只是跑起来，意义不大。
不过用R9700做做图还行，但是如果这样的话，还不如直接买7900xtx.
现在出行很方便, 共享单车,公交,出租,高铁,飞机...都可以选择. 这也不妨碍自己买小车/电驴/自行车...个人折腾个本地小模型, 就算给自己捣鼓一辆单车玩玩吧.
-
-
@suboyang 用线上模型怎样都比本地模型值得
线上模型怎样都比本地模型值得
不谈comfyUI 和其他语音视频生成模型这类模型。
本地模型的重要性：
第一，如果纯编程，是那种逻辑很清晰的情况下，下线模型qwen3.8-27B是可以做大量工作的，并且可以反复测试demo脚本。
第二，本地模型最大的优势是可以弥补API焦虑。例如，有一次去客户现场，我把agent 登录到问题服务器检查问题。事后，我想简单问题还好，如果用量大了，token限流了怎么办？这个时候有个本地模型作为补充，就安心很多了。但是前提是本地模型首先速度得跟得上，
100 token/s 以下基本就做不了这样的工作了。第三，本地模型几乎没有限制，很多渗透爬虫的工作，线上模型有安全模块，不给你做。只有本地模型可以做，而且比较私密。
第四，很多股票分析，大量数据分析那种算MA均线，画量化图那种，你写好pipeline，一个job就十几万token。 线上模型几天就用完了。
当然，所有前提是本地模式的速度得跟得上，准确率可以慢慢等。我现在经常处于这样的状态：
-
但是看起来好像你这个运行速度也不是太好啊，Pp才1000左右。看看https://github.com/Eliovp-BV/paiton-vllm-plugin。 单卡运行速度就炸裂，昨天刚配置好的
Paiton 单卡确实很强，这个后面有时间我也会测。
我这篇主要验证的是 X99 双 R9700 的 P2P 可行性和双卡 scaling，SGLang 只是目前先跑通的 serving stack。现在这些 PP/TG 数据主要看单卡→双卡提升，不是在做 SGLang vs vLLM 横评。
后续会补 vLLM/Paiton，同模型同参数下再比较。 -
线上模型怎样都比本地模型值得
不谈comfyUI 和其他语音视频生成模型这类模型。
本地模型的重要性：
第一，如果纯编程，是那种逻辑很清晰的情况下，下线模型qwen3.8-27B是可以做大量工作的，并且可以反复测试demo脚本。
第二，本地模型最大的优势是可以弥补API焦虑。例如，有一次去客户现场，我把agent 登录到问题服务器检查问题。事后，我想简单问题还好，如果用量大了，token限流了怎么办？这个时候有个本地模型作为补充，就安心很多了。但是前提是本地模型首先速度得跟得上，
100 token/s 以下基本就做不了这样的工作了。第三，本地模型几乎没有限制，很多渗透爬虫的工作，线上模型有安全模块，不给你做。只有本地模型可以做，而且比较私密。
第四，很多股票分析，大量数据分析那种算MA均线，画量化图那种，你写好pipeline，一个job就十几万token。 线上模型几天就用完了。
当然，所有前提是本地模式的速度得跟得上，准确率可以慢慢等。我现在经常处于这样的状态：
-
@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了
-
@suboyang 你这种需求 上rtx6000也不亏
最低都要两块5090
-
，系统 取消固定了此主题
-
@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了这两天懈怠了，十一前把dflash2测了
🔧 X99 × Dual R9700 P2P Lab
https://lcz.me/projects/local/x99-amd-gpu-p2p -
差不多，最后就得两个5090。但是这个成本也太高，其实单卡R9700 跑qwen3.8 27B 100token/s 也可以了。就是看看双卡R9700 能不能优化到120~130token/s 或者更高
-
-
，
T terry 固定了此主题
-
@PhoenixRise2026
又看了一遍这个帖子，老哥牛逼了。看来RDNA4的驱动你在sglang里面搞定了，就像版主说的，由于SGlang优秀的缓存机制，其实pp这一块重要性没有那么高，那你可以考虑把dflash2给加进去吗？这样的话，这个蛋疼的tg速度就可以解决了。SGlang本身是支持的。
你要是把这个也搞定的话，那你基本上功德无量了这两天懈怠了，十一前把dflash2测了
-
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
谢谢老特提醒，创建了个项目，需要的兄弟们可以参考，也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p🔧 X99 × Dual R9700 P2P Lab
https://lcz.me/projects/local/x99-amd-gpu-p2p -
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
谢谢老特提醒，创建了个项目，需要的兄弟们可以参考，也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p -
@PhoenixRise2026 可以继续优化，或许可以出个github项目，这玩意还挺重要的。
谢谢老特提醒，创建了个项目，需要的兄弟们可以参考，也是第一次为社区做点贡献。
https://github.com/PhoenixRise2026/x99-amd-gpu-p2p@PhoenixRise2026 显卡还在路上 已经 star 了，沙发
-
@Terry 已加到签名栏。
正在测试dflash2，目前看比mtp的decode要更快，还在调试参数
🔧 X99 × Dual R9700 P2P Lab
https://lcz.me/projects/local/x99-amd-gpu-p2p -
，系统 取消固定了此主题
-
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！