跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 现在想买一张新卡跑qwen3.8 27b, 预算1w左右

现在想买一张新卡跑qwen3.8 27b, 预算1w左右

已定时 已固定 已锁定 已移动 热议 AI硬件
r9700qwen-27b本地模型
24 帖子 14 发布者 1.0k 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Alexander LeeA
    Alexander LeeA
    Alexander Lee
    体面乡绅
    发表于 最后由 编辑
    #11

    锤锤不是一直都在推荐 7900XTX 么

    GeekyangG 1 条回复 最后回复
    0
    • williamlouisW
      williamlouisW
      williamlouis
      易有太极
      发表于 最后由 编辑
      #12

      看视频或帖子了吗?双卡 sglang。

      个人主页:xlkj.org Telegram https://t.me/xlkjorg

      tmp tmpT GeekyangG 2 条回复 最后回复
      0
      • BunseiB
        BunseiB
        Bunsei
        王侯将相
        发表于 最后由 Bunsei 编辑
        #13

        R9700 最佳的应该是两张,单张的话也能跑,但是速度比较慢。单纯为了Qwen3.8-27B这一个模型,不如直接2080 + NVLINK

        1 条回复 最后回复
        0
        • Alexander LeeA
          Alexander LeeA
          Alexander Lee
          体面乡绅
          发表于 最后由 编辑
          #14

          还有人用两台 mac mini 24G联机跑 Qwen3.8 27B 差不多也是一万出头

          1 条回复 最后回复
          0
          • lesslin xiuL
            lesslin xiuL
            lesslin xiu
            发表于 最后由 编辑
            #15

            刚刚买R9700 ,有点吵。
            图片.jpeg

            GeekyangG 1 条回复 最后回复
            0
            • williamlouisW williamlouis

              看视频或帖子了吗?双卡 sglang。

              tmp tmpT
              tmp tmpT
              tmp tmp
              发表于 最后由 编辑
              #16

              @williamlouis 看到过贴子,没看到视频,但我记得双卡sglang的速度也不是很高,跟vllm单卡的速度差不多。

              1 条回复 最后回复
              0
              • stxpnetS
                stxpnetS
                stxpnet
                王侯将相
                发表于 最后由 编辑
                #17

                御三家都在喊停了,是不是硬件价格高峰了, 这时候想买好卡感觉挺困难

                双卡3090 PCIE 4.0 16X/16X

                白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                1 条回复 最后回复
                0
                • dardeaw fengD
                  dardeaw fengD
                  dardeaw feng
                  硕果累累 贵族大夫
                  发表于 最后由 编辑
                  #18

                  RDNA2 沒有WMMA加速器 會退回到ALU運算

                  1 条回复 最后回复
                  0
                  • williamlouisW
                    williamlouisW
                    williamlouis
                    易有太极
                    发表于 最后由 编辑
                    #19

                    1W 太少了。不如订阅了。

                    个人主页:xlkj.org Telegram https://t.me/xlkjorg

                    1 条回复 最后回复
                    0
                    • tyaprinT
                      tyaprinT
                      tyaprin
                      发表于 最后由 编辑
                      #20

                      手裡還有一張空閒兩年的 4080 非S,不知道值幾兩銀,自己的無塵環境用了一年半,一點灰都沒有

                      1 条回复 最后回复
                      0
                      • Alexander LeeA Alexander Lee

                        锤锤不是一直都在推荐 7900XTX 么

                        GeekyangG
                        GeekyangG
                        Geekyang
                        已封禁
                        发表于 最后由 编辑
                        #21

                        @Alexander-Lee 7900XTX 蓝宝石的做工确实没得说,单卡我也想买一张。但是如果双卡跑模型,7900XTX并不合适,主要的问题,不是RDNA3,也不是显卡,是尺寸。太特么厚了。一张卡 整整占了7CM厚度。

                        1 条回复 最后回复
                        0
                        • lesslin xiuL lesslin xiu

                          刚刚买R9700 ,有点吵。
                          图片.jpeg

                          GeekyangG
                          GeekyangG
                          Geekyang
                          已封禁
                          发表于 最后由 编辑
                          #22

                          @lesslin-xiu 你这个上下文是多大的?我也想买一张。

                          lesslin xiuL 1 条回复 最后回复
                          0
                          • williamlouisW williamlouis

                            看视频或帖子了吗?双卡 sglang。

                            GeekyangG
                            GeekyangG
                            Geekyang
                            已封禁
                            发表于 最后由 Geekyang 编辑
                            #23

                            @williamlouis
                            你们都不看规格的吗?这么厚的卡?怎么玩两张,这怎么可能是个长期方案?
                            fbb64d5b-8b43-4196-bf94-38aec0922a7a-image.jpeg

                            1 条回复 最后回复
                            0
                            • GeekyangG Geekyang

                              @lesslin-xiu 你这个上下文是多大的?我也想买一张。

                              lesslin xiuL
                              lesslin xiuL
                              lesslin xiu
                              发表于 最后由 编辑
                              #24

                              @Geekyang 说:

                              这个上下文是多大的?我也想买一张

                              128K

                              Geekyang

                              1 条回复 最后回复
                              0

                              你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                              厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                              有了你的建议,这篇帖子会更精彩哦 💗

                              注册 登录
                              回复
                              • 在新帖中回复
                              登录后回复
                              • 从旧到新
                              • 从新到旧
                              • 最多赞同


                              • 登录

                              • 登录或注册以进行搜索。
                              • 第一个帖子
                                最后一个帖子
                              0
                              • 版块
                              • 最新
                              • 标签
                              • 热门
                              • 用户
                              • 群组