买了2张5060Ti，谁能跑最便宜的Qwen 27B？
-
@Tide 限制显卡功率，同时给显存超频，测试一下稳定性。
我用着2080Ti 22GB改水冷的，用Nvidia Inspector工具，把功率限制在200W~230W，核心超频+40Mhz（也可以不超核心），显存超频+1200Mhz，跑下来温度最高只有不到50°C，热点不超过65°C，室温27°C左右。
显存超频后带宽721.6GB/s，相比默认的616GB/s，提升超过17%，完美抵消限制功率导致的核心频率下降带来的性能损失，直接节约100W，33%的功率Qwen 27B Q4_K_M，上下文开32K跑下来，decode 25 tok/s
用Llama.cpp benchmark跑分如图：
全默认，显卡功率300W：
核心超频+40Mhz，显存超频+1200Mhz：
核心超频+40Mhz，显存超频+1200Mhz，显卡功率锁67%限制在200W：
大语言模型主的矩阵运算要跑在GPU的Tensor Cores上，对GPU其他部分如大量的SM单元里的CUDA核心占用不高，GPU此时对功率的实际消耗并不需要太高。
并且大语言模型prefill阶段对核心频率有一定依赖，但降频对prefill性能影响不太大。
decode吐字阶段，对显存带宽的依赖程度大于核心算力，经常是显存带宽不足，喂不饱核心，核心有很多时间都在空转等数据。综上，你的3080可以尝试限制功率，并小超显存，给显卡背板加装散热铝片+风扇。
然后实测看看数据。@Vivid-Vector 牛逼，我也想限制一下3080的功率，显卡背板太烫手。这贴我留下了。感谢
-
我的3080跑3.6-27B-Q4KM 上下文65536刚刚够用，每秒差不多32token。对我来说也满足了，毕竟3080玩本地部署才刚刚够入门。刚加载的时候占用18181M显存，随着对话没啥变化。我一般开着watch -n 2 nvidia-smi实时监控显卡，我现在就怕它高温。显存温度最高来到92度，让我揪心。
@Tide 上下文64K有点不够，128K就很棒。不过估计再几个月，用V4架构的新的小模型出来，上下文就足够大了。
-
-
@terry 我有张改的4090散热器的TESLA V100 32G，想问下能不能跑本地QWEN3.6 27B？
-
@terry OK ,谢谢，马上处理掉
-
@Tide 限制显卡功率，同时给显存超频，测试一下稳定性。
我用着2080Ti 22GB改水冷的，用Nvidia Inspector工具，把功率限制在200W~230W，核心超频+40Mhz（也可以不超核心），显存超频+1200Mhz，跑下来温度最高只有不到50°C，热点不超过65°C，室温27°C左右。
显存超频后带宽721.6GB/s，相比默认的616GB/s，提升超过17%，完美抵消限制功率导致的核心频率下降带来的性能损失，直接节约100W，33%的功率Qwen 27B Q4_K_M，上下文开32K跑下来，decode 25 tok/s
用Llama.cpp benchmark跑分如图：
全默认，显卡功率300W：
核心超频+40Mhz，显存超频+1200Mhz：
核心超频+40Mhz，显存超频+1200Mhz，显卡功率锁67%限制在200W：
大语言模型主的矩阵运算要跑在GPU的Tensor Cores上，对GPU其他部分如大量的SM单元里的CUDA核心占用不高，GPU此时对功率的实际消耗并不需要太高。
并且大语言模型prefill阶段对核心频率有一定依赖，但降频对prefill性能影响不太大。
decode吐字阶段，对显存带宽的依赖程度大于核心算力，经常是显存带宽不足，喂不饱核心，核心有很多时间都在空转等数据。综上，你的3080可以尝试限制功率，并小超显存，给显卡背板加装散热铝片+风扇。
然后实测看看数据。 -
小白如果要即插即用，兩張5060TI 16G 插X99，用windows LMstudio，直接載QWEN3.6 27B Q4KM，KV Q8量化，可以拉到120k context，速度大概18token/s。以上是個人親測，屬於可用的程度。
-
卡终于到货。等到天荒地老..。
马上把双卡插进去，测试.历尽星霜岁月长， 天荒地老守3090。
苍天有眼怜痴客， 5060Ti双剑合璧试锋芒！觉得很可以用。用电少。不发热 ~ MTP TG 50 t/s
通常可以跑到30 tk/s. 用 Q6_K Ctx 96k 比 Q4_K_M Ctx128k 还快.
LM Studio Split:
3090:
5060Ti:
Q6_K 96k 显存几乎用满了
