用3090如果只跑llm, 平均一个月用多少kwh 的电?好像比订阅的费用还要贵

[terry]

@mankit-fu 便宜了啊，我春节时候6100买的。AMD的卡没人炒的，买到手你得会用....

[Tide]

给你当个参考，我的x99 3080待机70W左右。目前普通用的时候按照论坛大佬的方法sudo nvidia-smi -pl 200设置显卡最大功率200W。温度下来了。

[applejuice]

这位大哥 跟我的处境很想
坐等大神回复
现在对我来说，如果只搞本地模型 不搞视频， 不比较2手3090
我觉得性价比amd 最好， 最安全 有保修 但是需要折腾.
27b dense Q4 模型 ,64k 上下文context.
如果在搞个gateway 把难度大的 分给云模型，私密资料先本地过滤

当然我最想要是4090 48gb 但是财力有限
我是不是应该先把X99 先买回来

[im17me]

按350w算，大概一天5度电左右

[怪叔叔]

@davidwei0826 其实还有一个场景也比较多。就是断互联网情况下。

[terry]

@mankit-fu 我还真没考虑过大陆地区之外电费那么贵，大陆电费就几毛钱一度，夜间很便宜。但是如果干活，电费确实不值一提，香港地区你买什么3080？在香港要饭一个月也有一万港币吧，你买3080 3090和洋垃圾干嘛？R9700 RTXPro4500买起来，xtx也够用了。50w不可能。买新的CPU能接近，香港房子普遍狭小，你不要省钱了，弄新平台就是了。

[applejuice]

@terry 求解释 新平台ddr5比较好吗？

[applejuice]

据ai 了解
用新平台的钱够付很多年的电费了 5年都回不了本

[williamlouis]

@mankit-fu 软路由里装个 Hermes 管理你的AI服务器。远程开机。AI服务器做个线程限制。没工作流休眠然后关机（不要直接关机，一定要休眠后关机）。这样你的功耗就降下来了。软路由 对CPU没什么要求。内存最好1G 存储8G够用了。能做很多项目。不建议docker 方案。我做过。很闹心。需要的项目都直接安装。稳定性nice。

[tomcatzh]

@怪叔叔 为啥会有这个场景，荒岛求生吗？

[怪叔叔]

@tomcatzh 比较多的是某些技术比赛时

[mankit fu]

@terry 我最后买了 7900xtx 淘宝5560元
组一台新的服务器用来跑qwen 3.6 27b
cpu 13400ef
32gb ddr4
我能直接把hermes 或openclaw 装在里面吗

[mankit fu]

@williamlouis 我先等硬件都到了之后再慢慢研究
你这个方案好像挺不错
但激活模型的时间会不会比较长？

[applejuice]

@mankit-fu 刚好跟我走了不同的方向
不建议吧hermers 装在一个地方 不然hermers 失控 你的llm也完蛋

不然就llm装在proxmox lxc 然后另开vm装hermers
我应该直接装在ubuntu 懒得折腾

想问为什么不选3090 吗

[williamlouis]

@mankit-fu 又不是 intel 显卡。 关机后 再开机到底多久你是机主。你现场看看。不就知道多久了。 远程启动的时候你再看看表。OK？

[terry]

@mankit-fu 你把龙虾和hermes放在虚拟机里，不要给它宿主机权限。除非你这宿主机也无所谓被搞死。