跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 用3090如果只跑llm, 平均一个月用多少kwh 的电?好像比订阅的费用还要贵

用3090如果只跑llm, 平均一个月用多少kwh 的电?好像比订阅的费用还要贵

已定时 已固定 已锁定 已移动 AI硬件
35 帖子 14 发布者 459 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 张老师张 离线
    张老师张 离线
    张老师
    编写于 最后由 编辑
    #3

    3090又不是长时间的满功率在运行,你不用的话,应该可以设置让它睡眠吧!我没有亲自实测,只是觉得这应该能做到

    mankit fuM 1 条回复 最后回复
    0
    • 张老师张 张老师

      3090又不是长时间的满功率在运行,你不用的话,应该可以设置让它睡眠吧!我没有亲自实测,只是觉得这应该能做到

      mankit fuM 离线
      mankit fuM 离线
      mankit fu
      编写于 最后由 编辑
      #4

      @张老师 但如果加载了模型还能睡眠吗

      terryT 1 条回复 最后回复
      0
      • mankit fuM mankit fu

        @张老师 但如果加载了模型还能睡眠吗

        terryT 在线
        terryT 在线
        terry
        编写于 最后由 编辑
        #5

        @mankit-fu 它只有高负载的时候才耗电,待机功耗很低,加载了数据又没运算,就相当于放到硬盘中一样,最低功耗而已。你写个脚本坚实下功耗,让Gemini教你,跑通了来贴下脚本。让它统计一天的真实功耗。

        1 条回复 最后回复
        3
        • mankit fuM mankit fu

          虽然大哥影片有说过不要太纠结电费
          但因为我是住香港的,电费比较贵
          我现在手上只有一台3080 10G的电脑
          cpu 是12700k
          因为有一段时间需要长期电脑不关机
          我有用opencode 帮忙做了一个软件去监控
          发现平均下来待机一天就2.5kwh 左右,待机功耗也能到100w以上
          cpu 30-40w, cpu 40w左右
          也就是说一个月大概75kwh, 香港家用电费大概是一度电1.7元, 那待机就一个月127块

          所以自己订阅了opencode go用来用openclaw
          就10美元一个月, 但我在算一笔帐

          待机电费都比我订阅还贵
          得现在很纠结的是, 如果我买一张3090 24G
          真的让它跑llm 的话我想电费可能要到250块以上
          这价钱都够我订阅好几个模型...
          有没有好的方法能压一下功耗
          我也明白token 自由很重要
          但那个电费是有点不划算
          7900xtx 有比较省电吗
          如果建一台新的话用老的ryzen 处理器要到那个性能级别比较好
          有什么好的搭配能把待机压到50w左右

          yesen19771004Y 离线
          yesen19771004Y 离线
          yesen19771004
          编写于 最后由 编辑
          #6

          @mankit-fu 其实opencode go还是在按token打折卖,并不是原来那种计算请求次数的方式。有人算过,opencode的deepseek v4 flash相当于官方api价格的8折,所以如果你配了机器不多用,机器配置的费用就白瞎了,如果你配了机器用得很多,肯定是比coding plan划算的。当然,你这个电费是有点高的。如果你用量不大,一天干不过1000万token,搞个coding plan算了。

          1 条回复 最后回复
          0
          • D 离线
            D 离线
            davidwei0826
            编写于 最后由 编辑
            #7

            我觉得本地化部署就两个场景适合:

            1. 你有私密的数据。local agents场景,Openclaw或者Hermes真要能帮你干活,你得给他很多私密的数据,服务器的用户名密码,邮箱密码什么的。
            2. 你的需求没有现成的外部算力平台,比如老特的那种定制化的数字人生产流水线。
              其他你要是写代码,爬资料之类的公共信息相关需求,直接买coding plan肯定更划算。
            terryT 怪 2 条回复 最后回复
            4
            • D davidwei0826

              我觉得本地化部署就两个场景适合:

              1. 你有私密的数据。local agents场景,Openclaw或者Hermes真要能帮你干活,你得给他很多私密的数据,服务器的用户名密码,邮箱密码什么的。
              2. 你的需求没有现成的外部算力平台,比如老特的那种定制化的数字人生产流水线。
                其他你要是写代码,爬资料之类的公共信息相关需求,直接买coding plan肯定更划算。
              terryT 在线
              terryT 在线
              terry
              编写于 最后由 编辑
              #8

              @davidwei0826 言简意赅

              1 条回复 最后回复
              0
              • A 离线
                A 离线
                applejuice
                编写于 最后由 applejuice 编辑
                #9

                如果用性价比 一定是云coding plan 便宜
                但是那是我觉得真的要用 一定需要一个本地来处理私密数据

                难度大的本地处理过数据再交给云端解决

                我本身就是纠结 没必要本地 但是又想要保护私密数据
                个人只是读文件 写代码
                但是文件是公司文件 严格来说不应该上云

                我在马来西亚 保修麻烦不然死活搞双3090 玩
                本地3090 都不是涡轮版

                有没有大哥有可靠卖家

                terryT P 2 条回复 最后回复
                0
                • A applejuice

                  如果用性价比 一定是云coding plan 便宜
                  但是那是我觉得真的要用 一定需要一个本地来处理私密数据

                  难度大的本地处理过数据再交给云端解决

                  我本身就是纠结 没必要本地 但是又想要保护私密数据
                  个人只是读文件 写代码
                  但是文件是公司文件 严格来说不应该上云

                  我在马来西亚 保修麻烦不然死活搞双3090 玩
                  本地3090 都不是涡轮版

                  有没有大哥有可靠卖家

                  terryT 在线
                  terryT 在线
                  terry
                  编写于 最后由 terry 编辑
                  #10

                  @applejuice 不是涡轮版,只要不是中国大陆的货,你们当地的可以买,中国一定要涡轮版是因为中国的卡都是矿渣。

                  A 1 条回复 最后回复
                  1
                  • A applejuice

                    如果用性价比 一定是云coding plan 便宜
                    但是那是我觉得真的要用 一定需要一个本地来处理私密数据

                    难度大的本地处理过数据再交给云端解决

                    我本身就是纠结 没必要本地 但是又想要保护私密数据
                    个人只是读文件 写代码
                    但是文件是公司文件 严格来说不应该上云

                    我在马来西亚 保修麻烦不然死活搞双3090 玩
                    本地3090 都不是涡轮版

                    有没有大哥有可靠卖家

                    P 离线
                    P 离线
                    pilipala
                    编写于 最后由 编辑
                    #11

                    @applejuice 我和你一样,也是想本地+云端llm协同,最大的问题就是会话上下文共享,云端便宜且上下文窗口大可以直接把本地的上下文都注入提示词,就是需要做一个智能路由的网关,我本来想自己搞一个分支,但是想想社区更新那么快,自己搞完后续还要持续维护兼容社区新的release,而且可能后面新版本会带类似的功能,想想就算了。

                    1 条回复 最后回复
                    2
                    • terryT terry

                      @applejuice 不是涡轮版,只要不是中国大陆的货,你们当地的可以买,中国一定要涡轮版是因为中国的卡都是矿渣。

                      A 离线
                      A 离线
                      applejuice
                      编写于 最后由 编辑
                      #12

                      @terry 双3090 不用涡轮 另一张卡不就吸入热空气吗?

                      terryT 1 条回复 最后回复
                      0
                      • A applejuice

                        @terry 双3090 不用涡轮 另一张卡不就吸入热空气吗?

                        terryT 在线
                        terryT 在线
                        terry
                        编写于 最后由 编辑
                        #13

                        @applejuice 买个平放的镂空机箱,或者直接镂空机架,总之就地取材,无非就是散热的问题,不要过度纠结,总有解决方案。因地制宜。

                        P 1 条回复 最后回复
                        0
                        • terryT terry

                          @applejuice 买个平放的镂空机箱,或者直接镂空机架,总之就地取材,无非就是散热的问题,不要过度纠结,总有解决方案。因地制宜。

                          P 离线
                          P 离线
                          pilipala
                          编写于 最后由 编辑
                          #14

                          @terry 特哥的原则就是,先跑起来,等赚到钱了想升级啥就升级啥

                          1 条回复 最后回复
                          2
                          • A 离线
                            A 离线
                            applejuice
                            编写于 最后由 编辑
                            #15

                            我也不拿来赚钱 主要拿来学习 如果可以帮助工作更好 😆

                            1 条回复 最后回复
                            0
                            • A 离线
                              A 离线
                              applejuice
                              编写于 最后由 编辑
                              #16

                              @pilipala 既然你有机器 就搞搞呗

                              P 1 条回复 最后回复
                              0
                              • mankit fuM mankit fu

                                虽然大哥影片有说过不要太纠结电费
                                但因为我是住香港的,电费比较贵
                                我现在手上只有一台3080 10G的电脑
                                cpu 是12700k
                                因为有一段时间需要长期电脑不关机
                                我有用opencode 帮忙做了一个软件去监控
                                发现平均下来待机一天就2.5kwh 左右,待机功耗也能到100w以上
                                cpu 30-40w, cpu 40w左右
                                也就是说一个月大概75kwh, 香港家用电费大概是一度电1.7元, 那待机就一个月127块

                                所以自己订阅了opencode go用来用openclaw
                                就10美元一个月, 但我在算一笔帐

                                待机电费都比我订阅还贵
                                得现在很纠结的是, 如果我买一张3090 24G
                                真的让它跑llm 的话我想电费可能要到250块以上
                                这价钱都够我订阅好几个模型...
                                有没有好的方法能压一下功耗
                                我也明白token 自由很重要
                                但那个电费是有点不划算
                                7900xtx 有比较省电吗
                                如果建一台新的话用老的ryzen 处理器要到那个性能级别比较好
                                有什么好的搭配能把待机压到50w左右

                                M 在线
                                M 在线
                                mark
                                编写于 最后由 编辑
                                #17

                                @mankit-fu 别纠结了, 先动手做起来, 好多人折腾硬件,最后 硬件买全了. 结果活没干.钱百花了.

                                1 条回复 最后回复
                                1
                                • mankit fuM 离线
                                  mankit fuM 离线
                                  mankit fu
                                  编写于 最后由 mankit fu 编辑
                                  #18

                                  我看看现在 7900xtx 蓝宝石在京东买大概 5900 元,是不是已经比原来的贵了?
                                  7900xtx 会比起 3090 用电少一点吗?
                                  现在要买京东自营的话 3090 大概要八千块。
                                  如果暂时不太需要画图的话,是不是买 7900xtx 更划算?
                                  而且 7900xtx 我看了大哥说也没到不能用 ComfyUI,只是有些特定工作流不行。
                                  現在是不是7900xtx 更好

                                  terryT 1 条回复 最后回复
                                  0
                                  • A applejuice

                                    @pilipala 既然你有机器 就搞搞呗

                                    P 离线
                                    P 离线
                                    pilipala
                                    编写于 最后由 编辑
                                    #19

                                    @applejuice 好,明天白天上班有时间就抽空搞,回头来给大家汇报测试结果。

                                    1 条回复 最后回复
                                    2
                                    • mankit fuM mankit fu

                                      我看看现在 7900xtx 蓝宝石在京东买大概 5900 元,是不是已经比原来的贵了?
                                      7900xtx 会比起 3090 用电少一点吗?
                                      现在要买京东自营的话 3090 大概要八千块。
                                      如果暂时不太需要画图的话,是不是买 7900xtx 更划算?
                                      而且 7900xtx 我看了大哥说也没到不能用 ComfyUI,只是有些特定工作流不行。
                                      現在是不是7900xtx 更好

                                      terryT 在线
                                      terryT 在线
                                      terry
                                      编写于 最后由 编辑
                                      #20

                                      @mankit-fu 便宜了啊,我春节时候6100买的。AMD的卡没人炒的,买到手你得会用....

                                      1 条回复 最后回复
                                      0
                                      • TideT 离线
                                        TideT 离线
                                        Tide
                                        编写于 最后由 编辑
                                        #21

                                        给你当个参考,我的x99 3080待机70W左右。目前普通用的时候按照论坛大佬的方法sudo nvidia-smi -pl 200设置显卡最大功率200W。温度下来了。

                                        1 条回复 最后回复
                                        1
                                        • A 离线
                                          A 离线
                                          applejuice
                                          编写于 最后由 applejuice 编辑
                                          #22

                                          这位大哥 跟我的处境很想
                                          坐等大神回复
                                          现在对我来说,如果只搞本地模型 不搞视频, 不比较2手3090
                                          我觉得性价比amd 最好, 最安全 有保修 但是需要折腾.
                                          27b dense Q4 模型 ,64k 上下文context.
                                          如果在搞个gateway 把难度大的 分给云模型,私密资料先本地过滤

                                          当然我最想要是4090 48gb 但是财力有限
                                          我是不是应该先把X99 先买回来 🤓

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组