跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. gpu-unlock-ada 在 4080S 上的实测数据

gpu-unlock-ada 在 4080S 上的实测数据

已定时 已固定 已锁定 已移动 热议 AI硬件
rtx4080svllm多卡部署
14 帖子 11 发布者 515 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • C
    C
    Che
    体面乡绅
    编写于 最后由 编辑
    #1

    仓库:https://github.com/JustAResearcher/gpu-unlock-ada

    数据:

    测试项 初始值 unlock 提升
    bf16 张量核 GEMM 100.3 TF/s 175.1 TF/s 1.75×
    fp16 张量核 GEMM 100.4 TF/s 192.9 TF/s 1.92×
    TP=1 prefill 16K 1687 tok/s 2449 tok/s 1.45×
    TP=1 prefill 65K 1366 tok/s 1957 tok/s 1.43×
    TP=1 prefill 131K 1079 tok/s 1524 tok/s 1.41×
    TP=1 prefill 240K 796 tok/s 1118 tok/s 1.40×
    TP=1 decode 2K 22.60 tok/s 22.65 tok/s 持平
    TP=1 decode 262K 16.43 tok/s 17.69 tok/s 1.08×
    TP=2 prefill 16K 2193 tok/s 2901 tok/s 1.32×
    TP=2 prefill 65K 1924 tok/s 2565 tok/s 1.33×
    TP=2 prefill 131K 1623 tok/s 2184 tok/s 1.35×
    TP=2 prefill 240K 1273 tok/s 1730 tok/s 1.36×
    TP=2 decode 2K 38.71 tok/s 38.88 tok/s 持平
    TP=2 decode 262K 29.08 tok/s 31.18 tok/s 1.07×

    说明:

    • 配置:Ubuntu,vllm,Qwen3.8-27B-AWQ-INT4
    • AI粗测,不代表实际生产值
    1 条回复 最后回复
    1
    • David ChenD
      David ChenD
      David Chen
      贵族大夫 硕果累累
      编写于 最后由 编辑
      #2

      有開啟前後的GPU電耗差異嗎?

      C 1 条回复 最后回复
      0
      • lee sam 0L
        lee sam 0L
        lee sam 0
        编写于 最后由 编辑
        #3

        解锁后最直接收益的就是文生图z-image-turbo从7秒多变成4秒多,其他暂时无感

        terryT 1 条回复 最后回复
        0
        • lee sam 0L lee sam 0

          解锁后最直接收益的就是文生图z-image-turbo从7秒多变成4秒多,其他暂时无感

          terryT
          terryT
          terry
          易有太极
          编写于 最后由 编辑
          #4

          @lee-sam-0 LLM的Prefill,AI音视频加速明显。这就足够了。

          油管:https://www.youtube.com/@抡锤者

          G 1 条回复 最后回复
          0
          • johnnybegoodJ
            johnnybegoodJ
            johnnybegood
            王侯将相
            编写于 最后由 编辑
            #5

            解锁会不会加速gpu老化?

            1 条回复 最后回复
            0
            • David ChenD David Chen

              有開啟前後的GPU電耗差異嗎?

              C
              C
              Che
              体面乡绅
              编写于 最后由 Che 编辑
              #6

              @David-Chen

              TP=2 prefill 每GPU功率从原本的260W左右升至290W左右(1.15x);峰值能突破320W上限;任务平均功耗尚未统计。

              1 条回复 最后回复
              1
              • donal2026D
                donal2026D
                donal2026
                编写于 最后由 编辑
                #7

                很有用,prefill提升较多。

                1 条回复 最后回复
                0
                • G
                  G
                  gzctgj
                  编写于 最后由 编辑
                  #8

                  解锁后,会不会加速老化,同问

                  1 条回复 最后回复
                  0
                  • terryT terry

                    @lee-sam-0 LLM的Prefill,AI音视频加速明显。这就足够了。

                    G
                    G
                    gzctgj
                    编写于 最后由 编辑
                    #9

                    @terry 会加速老化吗,我固定350w,功耗

                    terryT 1 条回复 最后回复
                    0
                    • E
                      E
                      Enigma
                      体面乡绅 硕果累累
                      编写于 最后由 编辑
                      #10

                      不错不错,回头去试试

                      1 条回复 最后回复
                      0
                      • G gzctgj

                        @terry 会加速老化吗,我固定350w,功耗

                        terryT
                        terryT
                        terry
                        易有太极
                        编写于 最后由 编辑
                        #11

                        @gzctgj 这事现在谁能回答你?原则上不会。等跑一阵子再说。

                        油管:https://www.youtube.com/@抡锤者

                        1 条回复 最后回复
                        0
                        • V
                          V
                          vosrock
                          体面乡绅 硕果累累
                          编写于 最后由 编辑
                          #12

                          明确告诉你不会,本身显卡就有功率墙,这个解锁比你超频损伤还低,当然,各种魔改极限超频之后的卡,再解锁可能就是压死骆驼最后的一根稻草

                          A 1 条回复 最后回复
                          0
                          • V vosrock

                            明确告诉你不会,本身显卡就有功率墙,这个解锁比你超频损伤还低,当然,各种魔改极限超频之后的卡,再解锁可能就是压死骆驼最后的一根稻草

                            A
                            A
                            applejuice
                            王侯将相
                            编写于 最后由 编辑
                            #13

                            @vosrock 想问如果已经设置功率墙呢?

                            1 条回复 最后回复
                            0
                            • XiaoteX
                              XiaoteX
                              Xiaote
                              易有太极
                              编写于 最后由 编辑
                              #14

                              🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!

                              奖励凭证:热议 +3 分 · 编号 h2631-1751-1

                              老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                              1 条回复 最后回复
                              0

                              你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                              厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                              有了你的建议,这篇帖子会更精彩哦 💗

                              注册 登录
                              回复
                              • 在新帖中回复
                              登录后回复
                              • 从旧到新
                              • 从新到旧
                              • 最多赞同


                              • 登录

                              • 登录或注册以进行搜索。
                              • 第一个帖子
                                最后一个帖子
                              0
                              • 版块
                              • 最新
                              • 标签
                              • 热门
                              • 用户
                              • 群组