【硬核实测】双 4080S 跑 125B Flash-Next 吊打 27B：单路 153 tok/s，是 27B 的 2.2 倍，Strata 三套量化 vs SGLang 全对比

[kos or]

ChatGPT Image

[johnnybegood]

@kos-or 确实， 如果不特别注重使用去审查的话， 还是使用正常的模型工作起来比较好。 我发现去审查模型还是会影响结果质量的。

[applejuice]

羡慕32gb 4080
这个机箱对我胃口, 是什么牌子机箱？
还有一张卡是什么用处？

[ivan lan]

@applejuice 说:

羡慕32gb 4080
这个机箱对我胃口, 是什么牌子机箱？
还有一张卡是什么用处？

---

1. 航嘉
2. 4090 48G，嵌入+重排+ASR/TSS+偶尔ComfyUI

[XIUNAN ZHI]

看了个帖子，魔改卡，开p2p，大概原理是 原有bar保持不变，滑窗机制，可以参考下。
另外请教一个问题，大佬您电源是 2kw ？ 我看是 12pin接口，4个8pin 转 1个 12pin，三张就需要12个8pin，这电源要求高。

[Xiaote]

版主审定：本帖设为精华，作者 +5 积分奖励，希望再接再厉！

奖励凭证：精华 +5 分 · 编号 f2375-4386-1（系统自动发放，显示稍有延迟）

[terry]

非常好的帖子，很有价值，4080S 32G双卡，也算是稀罕货。

[neo]

感谢分享，你的机箱跟我的很像啊

[ivan lan]

@terry 说:

非常好的帖子，很有价值，4080S 32G双卡，也算是稀罕货。

---

论坛对4080s 双卡 在strata的评测偏少，补充下，回馈下社区 ~

[ivan lan]

@neo 说:

感谢分享，你的机箱跟我的很像啊

---

黑武士～哈哈

[ivan lan]

@XIUNAN-ZHI 说:

看了个帖子，魔改卡，开p2p，大概原理是 原有bar保持不变，滑窗机制，可以参考下。
另外请教一个问题，大佬您电源是 2kw ？ 我看是 12pin接口，4个8pin 转 1个 12pin，三张就需要12个8pin，这电源要求高。

---

1. P2P目前没开，需要转社区的驱动，采用strata需要从内存搬运专家，就算采用PCIE4 x 16、8通道DDR4 2400内存的基础上，瓶颈也在PICE，在没上PICE5的情况下，感觉现在已经是天花板了，后期可以考虑P2P折腾下
   2.是的，电源：2000w，三张卡：两个原生12pin接口， 一个4个8pin 转 1个 12pin

[Che]

驱动用Duanyll那个就可以了，我试了运行平稳，4080S基本上不用改什么东西。

不过，P2P提升作用非常有限(个位数百分比；可能对推测解码稍好)

[ivan lan]

@Che 说:

驱动用Duanyll那个就可以了，我试了运行平稳，4080S基本上不用改什么东西。

不过，P2P提升作用非常有限(个位数百分比；可能对推测解码稍好)

---

我试试