
我的3090是三风扇卡, 研究了一下我若卖掉3080换3090组Nvlink,需要4槽的才行,好像淘宝都没有卖的了。
而且查了不少博主的数据显示,在3090这样的卡,跑CPU直连的Pcie4.0*16通道,只比Nvlink大概损失10%的速度。因此我决定还是改成3960X TRX40主板,3090+双3080 20G,让两张3080加载Qwen, 让3090加载comfy UI的模型。
我最在乎prefill阶段的速度应该可以通过更换平台得到很大提升,生成阶段速度应该是在20tk/s左右,是能接受范围。到时候实测看看。