跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI Agent
  4. 【實戰分享】單張 AMD Radeon AI PRO R9700 (32GB) 跑 Qwen 3.8 Flash + Hermes Agent 極致調教指南:85K~98K 超長上下文飆破 107.6 tok/s!

【實戰分享】單張 AMD Radeon AI PRO R9700 (32GB) 跑 Qwen 3.8 Flash + Hermes Agent 極致調教指南:85K~98K 超長上下文飆破 107.6 tok/s!

已定时 已固定 已锁定 已移动 热议 优秀 AI Agent
r9700strataqwen
20 帖子 12 发布者 852 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • vvsvvtV vvsvvt

    你这个prefill速度不对劲,怎么只有1300tok/s,建议把--prefill 从 auto:6144 改成 auto:32768,32k以上输入情况下,prefill速度能提升到2600tok/s,32k以下输入也能保持2000tok/s。如果再把引擎升级到0.1.56(默认起草器从mtp变成了dflash2),prefill可以进一步提升到3000tok/s。

    鍾子揚鍾
    鍾子揚鍾
    鍾子揚
    体面乡绅
    编写于 最后由 编辑
    #10

    @vvsvvt 感謝~參數太多都搞不清楚了XD

    1 条回复 最后回复
    0
    • he wangaH
      he wangaH
      he wanga
      编写于 最后由 he wanga 编辑
      #11

      R9700真貴阿...今天pchome看到powercolor這張,75000都要吐血了
      我前兩周買單張也才61000而已
      話說你可以試試radiance,他對單張R9700的調校也很不錯
      我這邊機器是w1370p + ddr4 96g (32x2 + 16x2) 2666 + R9700
      跑iq4r精度, 256K上下文開滿,KV fp8可以優化到prefill 3500, decode 75左右
      系統記憶體常駐64g左右
      而且有多路併發decode需求,radiance因繼承vllm架構平行效果明顯較好

      game gameG kos orK 2 条回复 最后回复
      0
      • he wangaH he wanga

        R9700真貴阿...今天pchome看到powercolor這張,75000都要吐血了
        我前兩周買單張也才61000而已
        話說你可以試試radiance,他對單張R9700的調校也很不錯
        我這邊機器是w1370p + ddr4 96g (32x2 + 16x2) 2666 + R9700
        跑iq4r精度, 256K上下文開滿,KV fp8可以優化到prefill 3500, decode 75左右
        系統記憶體常駐64g左右
        而且有多路併發decode需求,radiance因繼承vllm架構平行效果明顯較好

        game gameG
        game gameG
        game game
        编写于 最后由 编辑
        #12

        @he-wanga 昨天看到原價屋的ASUS賣69999,就覺得憾訊那個價格很離譜

        he wangaH 1 条回复 最后回复
        0
        • XiaoteX
          XiaoteX
          Xiaote
          易有太极
          编写于 最后由 编辑
          #13

          🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!

          奖励凭证:热议 +3 分 · 编号 h2749-67-1

          老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

          1 条回复 最后回复
          0
          • game gameG game game

            @he-wanga 昨天看到原價屋的ASUS賣69999,就覺得憾訊那個價格很離譜

            he wangaH
            he wangaH
            he wanga
            编写于 最后由 编辑
            #14

            @game-game 有可能憾訊的散熱用料比較好吧...
            但不管是69990還是74900,根據之前的經驗估計過2天就消失囉QQ

            game gameG 1 条回复 最后回复
            0
            • he wangaH he wanga

              @game-game 有可能憾訊的散熱用料比較好吧...
              但不管是69990還是74900,根據之前的經驗估計過2天就消失囉QQ

              game gameG
              game gameG
              game game
              编写于 最后由 编辑
              #15

              @he-wanga 我自己比較不出來有什麼差異

              1 条回复 最后回复
              0
              • he wangaH he wanga

                R9700真貴阿...今天pchome看到powercolor這張,75000都要吐血了
                我前兩周買單張也才61000而已
                話說你可以試試radiance,他對單張R9700的調校也很不錯
                我這邊機器是w1370p + ddr4 96g (32x2 + 16x2) 2666 + R9700
                跑iq4r精度, 256K上下文開滿,KV fp8可以優化到prefill 3500, decode 75左右
                系統記憶體常駐64g左右
                而且有多路併發decode需求,radiance因繼承vllm架構平行效果明顯較好

                kos orK
                kos orK
                kos or
                至尊皇帝
                编写于 最后由 编辑
                #16

                @he-wanga said:

                今天pchome看到powercolor這張,75000都要吐血了

                我變等等黨, 等AI玩家退坑
                買低價二手三手卡都行
                二手價$55K 以內應該還行

                image.jpeg

                game gameG 1 条回复 最后回复
                0
                • kos orK kos or

                  @he-wanga said:

                  今天pchome看到powercolor這張,75000都要吐血了

                  我變等等黨, 等AI玩家退坑
                  買低價二手三手卡都行
                  二手價$55K 以內應該還行

                  image.jpeg

                  game gameG
                  game gameG
                  game game
                  编写于 最后由 编辑
                  #17

                  @kos-or 更神奇的是pchome缺貨了,但是原價屋的華碩還有

                  kos orK 1 条回复 最后回复
                  0
                  • game gameG game game

                    @kos-or 更神奇的是pchome缺貨了,但是原價屋的華碩還有

                    kos orK
                    kos orK
                    kos or
                    至尊皇帝
                    编写于 最后由 kos or 编辑
                    #18

                    @game-game said:

                    更神奇的是pchome缺貨了

                    只能等這位買家未來退坑 不想玩
                    我們接二手貨的盤了 😳

                    接48K~54K進貨的這一批 比較便宜

                    game gameG 1 条回复 最后回复
                    0
                    • kos orK kos or

                      @game-game said:

                      更神奇的是pchome缺貨了

                      只能等這位買家未來退坑 不想玩
                      我們接二手貨的盤了 😳

                      接48K~54K進貨的這一批 比較便宜

                      game gameG
                      game gameG
                      game game
                      编写于 最后由 编辑
                      #19

                      @kos-or 我暫時是不缺了,2張R9700,如果要在上去,整個平臺都要換

                      1 条回复 最后回复
                      1
                      • XiaoteX
                        XiaoteX
                        Xiaote
                        易有太极
                        编写于 最后由 编辑
                        #20

                        ✅ 版主审定:本帖设为优秀,作者 +3 积分奖励,继续加油!

                        奖励凭证:优秀 +3 分 · 编号 e2749-67-1

                        老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组