【硬核实测】双 4080S 跑 125B Flash-Next 吊打 27B:单路 153 tok/s,是 27B 的 2.2 倍,Strata 三套量化 vs SGLang 全对比
-
羡慕32gb 4080
这个机箱对我胃口, 是什么牌子机箱?
还有一张卡是什么用处? -
看了个帖子,魔改卡,开p2p,大概原理是 原有bar保持不变,滑窗机制,可以参考下。
另外请教一个问题,大佬您电源是 2kw ? 我看是 12pin接口,4个8pin 转 1个 12pin,三张就需要12个8pin,这电源要求高。 -
,
T terry 固定了此主题
-
-
-
-
-
-
看了个帖子,魔改卡,开p2p,大概原理是 原有bar保持不变,滑窗机制,可以参考下。
另外请教一个问题,大佬您电源是 2kw ? 我看是 12pin接口,4个8pin 转 1个 12pin,三张就需要12个8pin,这电源要求高。看了个帖子,魔改卡,开p2p,大概原理是 原有bar保持不变,滑窗机制,可以参考下。
另外请教一个问题,大佬您电源是 2kw ? 我看是 12pin接口,4个8pin 转 1个 12pin,三张就需要12个8pin,这电源要求高。
- P2P目前没开,需要转社区的驱动,采用strata需要从内存搬运专家,就算采用PCIE4 x 16、8通道DDR4 2400内存的基础上,瓶颈也在PICE,在没上PICE5的情况下,感觉现在已经是天花板了,后期可以考虑P2P折腾下
2.是的,电源:2000w,三张卡:两个原生12pin接口, 一个4个8pin 转 1个 12pin
- P2P目前没开,需要转社区的驱动,采用strata需要从内存搬运专家,就算采用PCIE4 x 16、8通道DDR4 2400内存的基础上,瓶颈也在PICE,在没上PICE5的情况下,感觉现在已经是天花板了,后期可以考虑P2P折腾下
-
看了个帖子,魔改卡,开p2p,大概原理是 原有bar保持不变,滑窗机制,可以参考下。
另外请教一个问题,大佬您电源是 2kw ? 我看是 12pin接口,4个8pin 转 1个 12pin,三张就需要12个8pin,这电源要求高。
- P2P目前没开,需要转社区的驱动,采用strata需要从内存搬运专家,就算采用PCIE4 x 16、8通道DDR4 2400内存的基础上,瓶颈也在PICE,在没上PICE5的情况下,感觉现在已经是天花板了,后期可以考虑P2P折腾下
2.是的,电源:2000w,三张卡:两个原生12pin接口, 一个4个8pin 转 1个 12pin
- P2P目前没开,需要转社区的驱动,采用strata需要从内存搬运专家,就算采用PCIE4 x 16、8通道DDR4 2400内存的基础上,瓶颈也在PICE,在没上PICE5的情况下,感觉现在已经是天花板了,后期可以考虑P2P折腾下
-
-
,系统 取消固定了此主题
版主审定:本帖设为精华,作者 +5 积分奖励,希望再接再厉!