抡锤者

看过一个视频，里面提到他的卡散热很不错。其余的不清楚

我的3080跑3.6-27B-Q4KM 上下文65536刚刚够用，每秒差不多32token。对我来说也满足了，毕竟3080玩本地部署才刚刚够入门。刚加载的时候占用18181M显存，随着对话没啥变化。我一般开着watch -n 2 nvidia-smi实时监控显卡，我现在就怕它高温。显存温度最高来到92度，让我揪心。

给你当个参考，我的x99 3080待机70W左右。目前普通用的时候按照论坛大佬的方法sudo nvidia-smi -pl 200设置显卡最大功率200W。温度下来了。