双5060TI 16G跑英伟达专门为50显卡优化的Qwen3.6-27B-NVFP4-MTP的表现比双3080-20G还好,NVFP4的优化号称无损Q4,速度40-70T,论坛里面有人发的。
双5060TI 16G跑英伟达专门为50显卡优化的Qwen3.6-27B-NVFP4-MTP的表现比双3080-20G还好,NVFP4的优化号称无损Q4,速度40-70T,论坛里面有人发的。
我也是双卡3080 20G跑qwen3.6 27b在llama能跑32T,MTP=3能写代码能达到47T
速度差距有时候不是硬件差距是模型不同,我原版的27B-Q4KM能跑62,同样的27B-Q4KM另一个就只能跑57,配置和MTP都一样.