用3090如果只跑llm, 平均一个月用多少kwh 的电?好像比订阅的费用还要贵

[williamlouis]

@mankit-fu 软路由里装个 Hermes 管理你的AI服务器。远程开机。AI服务器做个线程限制。没工作流休眠然后关机（不要直接关机，一定要休眠后关机）。这样你的功耗就降下来了。软路由 对CPU没什么要求。内存最好1G 存储8G够用了。能做很多项目。不建议docker 方案。我做过。很闹心。需要的项目都直接安装。稳定性nice。

[tomcatzh]

@怪叔叔 为啥会有这个场景，荒岛求生吗？

[怪叔叔]

@tomcatzh 比较多的是某些技术比赛时

[mankit fu]

@terry 我最后买了 7900xtx 淘宝5560元
组一台新的服务器用来跑qwen 3.6 27b
cpu 13400ef
32gb ddr4
我能直接把hermes 或openclaw 装在里面吗

[mankit fu]

@williamlouis 我先等硬件都到了之后再慢慢研究
你这个方案好像挺不错
但激活模型的时间会不会比较长？

[applejuice]

@mankit-fu 刚好跟我走了不同的方向
不建议吧hermers 装在一个地方 不然hermers 失控 你的llm也完蛋

不然就llm装在proxmox lxc 然后另开vm装hermers
我应该直接装在ubuntu 懒得折腾

想问为什么不选3090 吗

[williamlouis]

@mankit-fu 又不是 intel 显卡。 关机后 再开机到底多久你是机主。你现场看看。不就知道多久了。 远程启动的时候你再看看表。OK？

[terry]

@mankit-fu 你把龙虾和hermes放在虚拟机里，不要给它宿主机权限。除非你这宿主机也无所谓被搞死。

[mankit fu]

opencode go 我還沒退訂, 但發現perplexica 和chatbox 這些開始不能用了, 不知道是甚麼原因

[Sam Hsu]

@mankit-fu 就算你用訂閱 你還是要開機 一樣需要用電 3090滿載300w 加上其他預計150w
總共0.45w 你不可能24小時滿載

[wwcd]

纠结电费的。可以不用：华南 x99 +e 2685 +3090

1. 实测显卡没有加载任何东西的时候，50w 左右
   2.显卡一旦跑过模型，然后没有任何负载，也有 20w 功耗
   实测待机 70w
   然后华南的主板没有 s3.也就是没有内存待机功能，只能休眠，休眠需要把内存写入 ssd。内存越大越慢开机也慢。而且服务器这么休眠重启后稳定性大为下降。所以根本不可能休眠

我的方案是，淘宝，拼多多，买一个 pci 的开机卡，然后把文档发给 herems。做一个开机就好了。
我的 hermes 默认用 deepseek。模型可以随时切换到本地，用完切换回 deepseek 就好了，顺便让 herems 把服务器关闭。
一切都可以在 hermes 的管理下，不需要人去动。

这么用还解决一个服务器噪音问题。

[applejuice]

@wwcd 我买了带有IPMI 接口的主板 晚上睡前关机 早上开机自动加载LLM