毕竟不是便宜的东西,售后保障还是非常重要的。我是套HP的洋垃圾服务器已经用了3年了,配上这个显卡。也不打算继续折腾了。除非AI变天
Takano RR
@Takano RR
-
4080s,32g魔改版与R9700价钱接近,怎么选,本地跑大模型 -
4080s,32g魔改版与R9700价钱接近,怎么选,本地跑大模型我这张是今年 3 月在淘宝“睡不醒的85后显卡研究所”买的 4080S 32G 配用40903风扇的魔改卡,目前一直正常。购买后一直折腾在找适合自己的模型和推理配置。
现在日常主力用的是 dealignai/Qwen3.8-27B-CRACK-GGUF,已经稳定跑了一段时间。实测同模型、上下文262144,Q8 KV、MTP=3、单并发实测:满格320W 约 63.56 tok/s,250W 约 53.81 tok/s,320W 快约 18%。 这个速度算是够用了。
我平时用能耗墙锁定 248/250W 挂机风扇非常安静,需要跑视频、压测或追吞吐时再开 320W风扇自适配82%转速虽然有点吵,但是和服务器单风扇版本完全不是一个量级的安静。个人感觉,只要卖家靠谱、散热供电正常、不乱超显存,4080S 32G 魔改卡完全可以做本地大模型主力卡。