3080 20G*2的有没有，来交流啊兄弟们

[stxpnet]

最好发一下上下文过半之后的速度，反正 我的经验，上下文过半之后，速度也掉到一半，比较难受。

[stxpnet]

@HighNie 3090显卡只有PCIE4.0

[neo]

@stxpnet 说:

最好发一下上下文过半之后的速度，反正 我的经验，上下文过半之后，速度也掉到一半，比较难受。

用sglang速度还好，4bit模型不带MTP初始速度50+，超过128k以后也有40+。而且并发速度也不错。

[ezios]

没接nvlink吗？我记得3080能接

[neo]

@ezios 不能的，3090才能

[ezios]

@neo 哦对，但是3090似乎没有魔改显存版本？

[finenan finenan]

最新的QWEN3.8跑一下，感觉很妙啊这个版本

[neo]

@ezios 嗯，没见过3090魔改显存的呢

[ezios]

@neo 看了眼又涨价了，之前6k能拿下，现在涨到9k了

[neo]

@ezios 9k，不如上4080s 32G了