跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 用3090如果只跑llm, 平均一个月用多少kwh 的电?好像比订阅的费用还要贵

用3090如果只跑llm, 平均一个月用多少kwh 的电?好像比订阅的费用还要贵

已定时 已固定 已锁定 已移动 AI硬件
35 帖子 14 发布者 459 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • mankit fuM mankit fu

    @张老师 但如果加载了模型还能睡眠吗

    terryT 在线
    terryT 在线
    terry
    编写于 最后由 编辑
    #5

    @mankit-fu 它只有高负载的时候才耗电,待机功耗很低,加载了数据又没运算,就相当于放到硬盘中一样,最低功耗而已。你写个脚本坚实下功耗,让Gemini教你,跑通了来贴下脚本。让它统计一天的真实功耗。

    1 条回复 最后回复
    3
    • mankit fuM mankit fu

      虽然大哥影片有说过不要太纠结电费
      但因为我是住香港的,电费比较贵
      我现在手上只有一台3080 10G的电脑
      cpu 是12700k
      因为有一段时间需要长期电脑不关机
      我有用opencode 帮忙做了一个软件去监控
      发现平均下来待机一天就2.5kwh 左右,待机功耗也能到100w以上
      cpu 30-40w, cpu 40w左右
      也就是说一个月大概75kwh, 香港家用电费大概是一度电1.7元, 那待机就一个月127块

      所以自己订阅了opencode go用来用openclaw
      就10美元一个月, 但我在算一笔帐

      待机电费都比我订阅还贵
      得现在很纠结的是, 如果我买一张3090 24G
      真的让它跑llm 的话我想电费可能要到250块以上
      这价钱都够我订阅好几个模型...
      有没有好的方法能压一下功耗
      我也明白token 自由很重要
      但那个电费是有点不划算
      7900xtx 有比较省电吗
      如果建一台新的话用老的ryzen 处理器要到那个性能级别比较好
      有什么好的搭配能把待机压到50w左右

      yesen19771004Y 离线
      yesen19771004Y 离线
      yesen19771004
      编写于 最后由 编辑
      #6

      @mankit-fu 其实opencode go还是在按token打折卖,并不是原来那种计算请求次数的方式。有人算过,opencode的deepseek v4 flash相当于官方api价格的8折,所以如果你配了机器不多用,机器配置的费用就白瞎了,如果你配了机器用得很多,肯定是比coding plan划算的。当然,你这个电费是有点高的。如果你用量不大,一天干不过1000万token,搞个coding plan算了。

      1 条回复 最后回复
      0
      • D 离线
        D 离线
        davidwei0826
        编写于 最后由 编辑
        #7

        我觉得本地化部署就两个场景适合:

        1. 你有私密的数据。local agents场景,Openclaw或者Hermes真要能帮你干活,你得给他很多私密的数据,服务器的用户名密码,邮箱密码什么的。
        2. 你的需求没有现成的外部算力平台,比如老特的那种定制化的数字人生产流水线。
          其他你要是写代码,爬资料之类的公共信息相关需求,直接买coding plan肯定更划算。
        terryT 怪 2 条回复 最后回复
        4
        • D davidwei0826

          我觉得本地化部署就两个场景适合:

          1. 你有私密的数据。local agents场景,Openclaw或者Hermes真要能帮你干活,你得给他很多私密的数据,服务器的用户名密码,邮箱密码什么的。
          2. 你的需求没有现成的外部算力平台,比如老特的那种定制化的数字人生产流水线。
            其他你要是写代码,爬资料之类的公共信息相关需求,直接买coding plan肯定更划算。
          terryT 在线
          terryT 在线
          terry
          编写于 最后由 编辑
          #8

          @davidwei0826 言简意赅

          1 条回复 最后回复
          0
          • A 离线
            A 离线
            applejuice
            编写于 最后由 applejuice 编辑
            #9

            如果用性价比 一定是云coding plan 便宜
            但是那是我觉得真的要用 一定需要一个本地来处理私密数据

            难度大的本地处理过数据再交给云端解决

            我本身就是纠结 没必要本地 但是又想要保护私密数据
            个人只是读文件 写代码
            但是文件是公司文件 严格来说不应该上云

            我在马来西亚 保修麻烦不然死活搞双3090 玩
            本地3090 都不是涡轮版

            有没有大哥有可靠卖家

            terryT P 2 条回复 最后回复
            0
            • A applejuice

              如果用性价比 一定是云coding plan 便宜
              但是那是我觉得真的要用 一定需要一个本地来处理私密数据

              难度大的本地处理过数据再交给云端解决

              我本身就是纠结 没必要本地 但是又想要保护私密数据
              个人只是读文件 写代码
              但是文件是公司文件 严格来说不应该上云

              我在马来西亚 保修麻烦不然死活搞双3090 玩
              本地3090 都不是涡轮版

              有没有大哥有可靠卖家

              terryT 在线
              terryT 在线
              terry
              编写于 最后由 terry 编辑
              #10

              @applejuice 不是涡轮版,只要不是中国大陆的货,你们当地的可以买,中国一定要涡轮版是因为中国的卡都是矿渣。

              A 1 条回复 最后回复
              1
              • A applejuice

                如果用性价比 一定是云coding plan 便宜
                但是那是我觉得真的要用 一定需要一个本地来处理私密数据

                难度大的本地处理过数据再交给云端解决

                我本身就是纠结 没必要本地 但是又想要保护私密数据
                个人只是读文件 写代码
                但是文件是公司文件 严格来说不应该上云

                我在马来西亚 保修麻烦不然死活搞双3090 玩
                本地3090 都不是涡轮版

                有没有大哥有可靠卖家

                P 离线
                P 离线
                pilipala
                编写于 最后由 编辑
                #11

                @applejuice 我和你一样,也是想本地+云端llm协同,最大的问题就是会话上下文共享,云端便宜且上下文窗口大可以直接把本地的上下文都注入提示词,就是需要做一个智能路由的网关,我本来想自己搞一个分支,但是想想社区更新那么快,自己搞完后续还要持续维护兼容社区新的release,而且可能后面新版本会带类似的功能,想想就算了。

                1 条回复 最后回复
                2
                • terryT terry

                  @applejuice 不是涡轮版,只要不是中国大陆的货,你们当地的可以买,中国一定要涡轮版是因为中国的卡都是矿渣。

                  A 离线
                  A 离线
                  applejuice
                  编写于 最后由 编辑
                  #12

                  @terry 双3090 不用涡轮 另一张卡不就吸入热空气吗?

                  terryT 1 条回复 最后回复
                  0
                  • A applejuice

                    @terry 双3090 不用涡轮 另一张卡不就吸入热空气吗?

                    terryT 在线
                    terryT 在线
                    terry
                    编写于 最后由 编辑
                    #13

                    @applejuice 买个平放的镂空机箱,或者直接镂空机架,总之就地取材,无非就是散热的问题,不要过度纠结,总有解决方案。因地制宜。

                    P 1 条回复 最后回复
                    0
                    • terryT terry

                      @applejuice 买个平放的镂空机箱,或者直接镂空机架,总之就地取材,无非就是散热的问题,不要过度纠结,总有解决方案。因地制宜。

                      P 离线
                      P 离线
                      pilipala
                      编写于 最后由 编辑
                      #14

                      @terry 特哥的原则就是,先跑起来,等赚到钱了想升级啥就升级啥

                      1 条回复 最后回复
                      2
                      • A 离线
                        A 离线
                        applejuice
                        编写于 最后由 编辑
                        #15

                        我也不拿来赚钱 主要拿来学习 如果可以帮助工作更好 😆

                        1 条回复 最后回复
                        0
                        • A 离线
                          A 离线
                          applejuice
                          编写于 最后由 编辑
                          #16

                          @pilipala 既然你有机器 就搞搞呗

                          P 1 条回复 最后回复
                          0
                          • mankit fuM mankit fu

                            虽然大哥影片有说过不要太纠结电费
                            但因为我是住香港的,电费比较贵
                            我现在手上只有一台3080 10G的电脑
                            cpu 是12700k
                            因为有一段时间需要长期电脑不关机
                            我有用opencode 帮忙做了一个软件去监控
                            发现平均下来待机一天就2.5kwh 左右,待机功耗也能到100w以上
                            cpu 30-40w, cpu 40w左右
                            也就是说一个月大概75kwh, 香港家用电费大概是一度电1.7元, 那待机就一个月127块

                            所以自己订阅了opencode go用来用openclaw
                            就10美元一个月, 但我在算一笔帐

                            待机电费都比我订阅还贵
                            得现在很纠结的是, 如果我买一张3090 24G
                            真的让它跑llm 的话我想电费可能要到250块以上
                            这价钱都够我订阅好几个模型...
                            有没有好的方法能压一下功耗
                            我也明白token 自由很重要
                            但那个电费是有点不划算
                            7900xtx 有比较省电吗
                            如果建一台新的话用老的ryzen 处理器要到那个性能级别比较好
                            有什么好的搭配能把待机压到50w左右

                            M 在线
                            M 在线
                            mark
                            编写于 最后由 编辑
                            #17

                            @mankit-fu 别纠结了, 先动手做起来, 好多人折腾硬件,最后 硬件买全了. 结果活没干.钱百花了.

                            1 条回复 最后回复
                            1
                            • mankit fuM 离线
                              mankit fuM 离线
                              mankit fu
                              编写于 最后由 mankit fu 编辑
                              #18

                              我看看现在 7900xtx 蓝宝石在京东买大概 5900 元,是不是已经比原来的贵了?
                              7900xtx 会比起 3090 用电少一点吗?
                              现在要买京东自营的话 3090 大概要八千块。
                              如果暂时不太需要画图的话,是不是买 7900xtx 更划算?
                              而且 7900xtx 我看了大哥说也没到不能用 ComfyUI,只是有些特定工作流不行。
                              現在是不是7900xtx 更好

                              terryT 1 条回复 最后回复
                              0
                              • A applejuice

                                @pilipala 既然你有机器 就搞搞呗

                                P 离线
                                P 离线
                                pilipala
                                编写于 最后由 编辑
                                #19

                                @applejuice 好,明天白天上班有时间就抽空搞,回头来给大家汇报测试结果。

                                1 条回复 最后回复
                                2
                                • mankit fuM mankit fu

                                  我看看现在 7900xtx 蓝宝石在京东买大概 5900 元,是不是已经比原来的贵了?
                                  7900xtx 会比起 3090 用电少一点吗?
                                  现在要买京东自营的话 3090 大概要八千块。
                                  如果暂时不太需要画图的话,是不是买 7900xtx 更划算?
                                  而且 7900xtx 我看了大哥说也没到不能用 ComfyUI,只是有些特定工作流不行。
                                  現在是不是7900xtx 更好

                                  terryT 在线
                                  terryT 在线
                                  terry
                                  编写于 最后由 编辑
                                  #20

                                  @mankit-fu 便宜了啊,我春节时候6100买的。AMD的卡没人炒的,买到手你得会用....

                                  1 条回复 最后回复
                                  0
                                  • TideT 离线
                                    TideT 离线
                                    Tide
                                    编写于 最后由 编辑
                                    #21

                                    给你当个参考,我的x99 3080待机70W左右。目前普通用的时候按照论坛大佬的方法sudo nvidia-smi -pl 200设置显卡最大功率200W。温度下来了。

                                    1 条回复 最后回复
                                    1
                                    • A 离线
                                      A 离线
                                      applejuice
                                      编写于 最后由 applejuice 编辑
                                      #22

                                      这位大哥 跟我的处境很想
                                      坐等大神回复
                                      现在对我来说,如果只搞本地模型 不搞视频, 不比较2手3090
                                      我觉得性价比amd 最好, 最安全 有保修 但是需要折腾.
                                      27b dense Q4 模型 ,64k 上下文context.
                                      如果在搞个gateway 把难度大的 分给云模型,私密资料先本地过滤

                                      当然我最想要是4090 48gb 但是财力有限
                                      我是不是应该先把X99 先买回来 🤓

                                      1 条回复 最后回复
                                      0
                                      • I 离线
                                        I 离线
                                        im17me
                                        编写于 最后由 编辑
                                        #23

                                        按350w算,大概一天5度电左右

                                        1 条回复 最后回复
                                        0
                                        • D davidwei0826

                                          我觉得本地化部署就两个场景适合:

                                          1. 你有私密的数据。local agents场景,Openclaw或者Hermes真要能帮你干活,你得给他很多私密的数据,服务器的用户名密码,邮箱密码什么的。
                                          2. 你的需求没有现成的外部算力平台,比如老特的那种定制化的数字人生产流水线。
                                            其他你要是写代码,爬资料之类的公共信息相关需求,直接买coding plan肯定更划算。
                                          怪 离线
                                          怪 离线
                                          怪叔叔
                                          编写于 最后由 编辑
                                          #24

                                          @davidwei0826 其实还有一个场景也比较多。就是断互联网情况下。

                                          tomcatzhT 1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组