X99 + 双 AMD Radeon AI PRO R9700 跑通跨 Root Port P2P：从内核、RCCL 到 SGLang Qwen3.8 实战

[suboyang]

内核应该用 kernel 7.2.7,

还要使用Triton

[fcme]

但是看起来好像你这个运行速度也不是太好啊，Pp才1000左右。看看https://github.com/Eliovp-BV/paiton-vllm-plugin。 单卡运行速度就炸裂，昨天刚配置好的

[suboyang]

@fcme 精度，精度，版主是FP8，官方精度。
Qwen3.8 27B MXFP4 + DFlash2 比 Qwen3.8 27B FP8 精度少一半

[fcme]

@suboyang
精度差不了一半，估计也就百分之几吧。按你这个算法，原始精度32位量化到Q4就没法用了，事实上Q4也可以保留差不多95%以上的有用信息。而且真要是干啥大活，跑云端不是更靠谱么，本地模型毕竟是本地。

[suboyang]

@fcme 不是，搞本地模型不就是为了干大活，24小时推理着。不过精度差的不多。
Qwen3.8 27B MXFP4 + DFlash2 比 Qwen3.8 27B FP8 精度，

云端模型真心跑不起，每个月100亿token

[fcme]

对啊，2%不到的差距没啥可担心的，Agent时代验收一下就可以了，也就可能是有时候需要多做个一步两步的。我现在发现搭配的agent某种程度上更重要，dsh明显比Hermes干活的效率要高。

[PhoenixRise2026]

@fcme 说:

但是看起来好像你这个运行速度也不是太好啊，Pp才1000左右。看看https://github.com/Eliovp-BV/paiton-vllm-plugin。 单卡运行速度就炸裂，昨天刚配置好的

Paiton 单卡确实很强，这个后面有时间我也会测。
我这篇主要验证的是 X99 双 R9700 的 P2P 可行性和双卡 scaling，SGLang 只是目前先跑通的 serving stack。现在这些 PP/TG 数据主要看单卡→双卡提升，不是在做 SGLang vs vLLM 横评。
后续会补 vLLM/Paiton，同模型同参数下再比较。

[terry]

@fcme 弟人家这个帖子是的关键是速度吗？人家是打通P2P，第一这是个人实验项目，刚刚开始，以后还可以优化。解决的是有无问题，是原创，就算纯粹从炫技的角度来看，也很有意义。它不是我发现了某个插件，某个方案很牛逼，这种技能很多人都能掌握，并不特别值得炫耀。
第二，PP在有SGLang的情况下，影响并不那么大，Agent场景只做增量Prefill，并不会一直做如此大的Prefill工作，所以可以接受。还是有应用价值的，不是所有场景都看测试数据的。
第三，这个方案对24G的7900XTX意义很大，它没有mxfp4的红利，可以抄作业，只要用上SGLang，双卡TP的意义在过往的帖子中有过大量测试，很有意义。
第四，VLLM有它的强项，也有弱项，Agent上它就是不如SGLang，不如NInfer，HaloGen，它没有硬核增量缓存计算，更没有跨会话缓存复用，并不是数字好看，体验就好的。
第五，对VLLM的用户而言，在X99上打通P2P难道没意义？你怎么知道人家不会vLLM呢？

论坛藏龙卧虎，低调交流。不能总学我，有点知识就吹牛逼，我都被打脸太多次，不太在乎了，不要学我。谦虚使人进步，骄傲使人落后。

[张光璞]

我已经跑起来了，4并发160k ，现在单会话在58t/s 双会话 就是55 x 2

[terry]

@张光璞 单独更新个帖子可以，详细弄下数据。其实最主要的，我不希望大家总是发一大堆内容，就几个关键的，吐字速度，长上下文多并发的实际使用体验。然后再展开prefill，decode等具体数据，先给结论。这玩意能普及，也算是开了个新的玩法。