4080s,32g魔改版与R9700价钱接近,怎么选,本地跑大模型
-
两个我都买了张,个人感觉4080s 32g跑llm更快,跑视频也更好,就是有时候会奇怪的有点像花屏了一样,魔改卡还是比较不省心。r9700这张卡感觉跑llm有点慢,不如7900xtx,跑模型最好找rocm特化版的,能稍微快一点
-
两个我都买了张,个人感觉4080s 32g跑llm更快,跑视频也更好,就是有时候会奇怪的有点像花屏了一样,魔改卡还是比较不省心。r9700这张卡感觉跑llm有点慢,不如7900xtx,跑模型最好找rocm特化版的,能稍微快一点
@stormaround 闲鱼这个老卖家4080s是水冷版,发热与噪音应该问题不大,就怕显存时间长了,出问题。另外,价钱贵了,9700,京东价钱也到12000,所以,不好选择
-
除非你能自己 DIY 4080S 不然魔改怎么玩儿。没太看明白。
修显卡的老张我问了。最近拒绝维修 魔改显卡。。。。。。。 -
除非你能自己 DIY 4080S 不然魔改怎么玩儿。没太看明白。
修显卡的老张我问了。最近拒绝维修 魔改显卡。。。。。。。@williamlouis 好的,确实风险很大,还计划买个16g的,让老张换显存呢
-
两个我都买了张,个人感觉4080s 32g跑llm更快,跑视频也更好,就是有时候会奇怪的有点像花屏了一样,魔改卡还是比较不省心。r9700这张卡感觉跑llm有点慢,不如7900xtx,跑模型最好找rocm特化版的,能稍微快一点
@stormaround 花屏,应该就是过热,显存焊点接触不良,冷却以后就好了吧
-
@stormaround 花屏,应该就是过热,显存焊点接触不良,冷却以后就好了吧
@stormaround 花屏,应该就是过热,显存焊点接触不良,冷却以后就好了吧
不常出现,就是突然有点彩色点
-
两个我都买了张,个人感觉4080s 32g跑llm更快,跑视频也更好,就是有时候会奇怪的有点像花屏了一样,魔改卡还是比较不省心。r9700这张卡感觉跑llm有点慢,不如7900xtx,跑模型最好找rocm特化版的,能稍微快一点
@stormaround 你在哪个平台买的4080s,魔改卡呢,我找找
-
@gzctgj 维修概率几乎是100%。你没看老特的视频吗?自营不担心。肯定能修好。
注意购买途径吧。@williamlouis 好的,知道了
-
我这张是今年 3 月在淘宝“睡不醒的85后显卡研究所”买的 4080S 32G 配用40903风扇的魔改卡,目前一直正常。购买后一直折腾在找适合自己的模型和推理配置。
现在日常主力用的是 dealignai/Qwen3.8-27B-CRACK-GGUF,已经稳定跑了一段时间。实测同模型、上下文262144,Q8 KV、MTP=3、单并发实测:满格320W 约 63.56 tok/s,250W 约 53.81 tok/s,320W 快约 18%。 这个速度算是够用了。
我平时用能耗墙锁定 248/250W 挂机风扇非常安静,需要跑视频、压测或追吞吐时再开 320W风扇自适配82%转速虽然有点吵,但是和服务器单风扇版本完全不是一个量级的安静。个人感觉,只要卖家靠谱、散热供电正常、不乱超显存,4080S 32G 魔改卡完全可以做本地大模型主力卡。
-
我这张是今年 3 月在淘宝“睡不醒的85后显卡研究所”买的 4080S 32G 配用40903风扇的魔改卡,目前一直正常。购买后一直折腾在找适合自己的模型和推理配置。
现在日常主力用的是 dealignai/Qwen3.8-27B-CRACK-GGUF,已经稳定跑了一段时间。实测同模型、上下文262144,Q8 KV、MTP=3、单并发实测:满格320W 约 63.56 tok/s,250W 约 53.81 tok/s,320W 快约 18%。 这个速度算是够用了。
我平时用能耗墙锁定 248/250W 挂机风扇非常安静,需要跑视频、压测或追吞吐时再开 320W风扇自适配82%转速虽然有点吵,但是和服务器单风扇版本完全不是一个量级的安静。个人感觉,只要卖家靠谱、散热供电正常、不乱超显存,4080S 32G 魔改卡完全可以做本地大模型主力卡。
@Takano-RR 这种就是没自营靠谱 这个人闲鱼和淘宝都有 问了核心挂了保不保 也说保的 但感觉毕竟是个人 淘宝店铺这种说没就没了 闲鱼更是没法管
-
我这张是今年 3 月在淘宝“睡不醒的85后显卡研究所”买的 4080S 32G 配用40903风扇的魔改卡,目前一直正常。购买后一直折腾在找适合自己的模型和推理配置。
现在日常主力用的是 dealignai/Qwen3.8-27B-CRACK-GGUF,已经稳定跑了一段时间。实测同模型、上下文262144,Q8 KV、MTP=3、单并发实测:满格320W 约 63.56 tok/s,250W 约 53.81 tok/s,320W 快约 18%。 这个速度算是够用了。
我平时用能耗墙锁定 248/250W 挂机风扇非常安静,需要跑视频、压测或追吞吐时再开 320W风扇自适配82%转速虽然有点吵,但是和服务器单风扇版本完全不是一个量级的安静。个人感觉,只要卖家靠谱、散热供电正常、不乱超显存,4080S 32G 魔改卡完全可以做本地大模型主力卡。
@Takano-RR 现在14600,涨了5000,有点不值得了
-
@Takano-RR 现在14600,涨了5000,有点不值得了
-
@stormaround 你在哪个平台买的4080s,魔改卡呢,我找找
@stormaround 你在哪个平台买的4080s,魔改卡呢,我找找
就是某宝买的,买的贵的14420快,改的三风扇
-
@Takano-RR 现在14600,涨了5000,有点不值得了
@Takano-RR 现在14600,涨了5000,有点不值得了
比我买的时候涨了400,睡不醒的85后那家,一个多月前买的
