跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 现在想买一张新卡跑qwen3.8 27b, 预算1w左右

现在想买一张新卡跑qwen3.8 27b, 预算1w左右

已定时 已固定 已锁定 已移动 热议 AI硬件
r9700qwen-27b本地模型
24 帖子 14 发布者 1.0k 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • BunseiB
    BunseiB
    Bunsei
    王侯将相
    发表于 最后由 Bunsei 编辑
    #13

    R9700 最佳的应该是两张,单张的话也能跑,但是速度比较慢。单纯为了Qwen3.8-27B这一个模型,不如直接2080 + NVLINK

    1 条回复 最后回复
    0
    • Alexander LeeA
      Alexander LeeA
      Alexander Lee
      体面乡绅
      发表于 最后由 编辑
      #14

      还有人用两台 mac mini 24G联机跑 Qwen3.8 27B 差不多也是一万出头

      1 条回复 最后回复
      0
      • lesslin xiuL
        lesslin xiuL
        lesslin xiu
        发表于 最后由 编辑
        #15

        刚刚买R9700 ,有点吵。
        图片.jpeg

        GeekyangG 1 条回复 最后回复
        0
        • williamlouisW williamlouis

          看视频或帖子了吗?双卡 sglang。

          tmp tmpT
          tmp tmpT
          tmp tmp
          发表于 最后由 编辑
          #16

          @williamlouis 看到过贴子,没看到视频,但我记得双卡sglang的速度也不是很高,跟vllm单卡的速度差不多。

          1 条回复 最后回复
          0
          • stxpnetS
            stxpnetS
            stxpnet
            王侯将相
            发表于 最后由 编辑
            #17

            御三家都在喊停了,是不是硬件价格高峰了, 这时候想买好卡感觉挺困难

            双卡3090 PCIE 4.0 16X/16X

            白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
            夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
            1 条回复 最后回复
            0
            • dardeaw fengD
              dardeaw fengD
              dardeaw feng
              硕果累累 贵族大夫
              发表于 最后由 编辑
              #18

              RDNA2 沒有WMMA加速器 會退回到ALU運算

              1 条回复 最后回复
              0
              • williamlouisW
                williamlouisW
                williamlouis
                易有太极
                发表于 最后由 编辑
                #19

                1W 太少了。不如订阅了。

                个人主页:xlkj.org Telegram https://t.me/xlkjorg

                1 条回复 最后回复
                0
                • tyaprinT
                  tyaprinT
                  tyaprin
                  发表于 最后由 编辑
                  #20

                  手裡還有一張空閒兩年的 4080 非S,不知道值幾兩銀,自己的無塵環境用了一年半,一點灰都沒有

                  1 条回复 最后回复
                  0
                  • Alexander LeeA Alexander Lee

                    锤锤不是一直都在推荐 7900XTX 么

                    GeekyangG
                    GeekyangG
                    Geekyang
                    已封禁
                    发表于 最后由 编辑
                    #21

                    @Alexander-Lee 7900XTX 蓝宝石的做工确实没得说,单卡我也想买一张。但是如果双卡跑模型,7900XTX并不合适,主要的问题,不是RDNA3,也不是显卡,是尺寸。太特么厚了。一张卡 整整占了7CM厚度。

                    1 条回复 最后回复
                    0
                    • lesslin xiuL lesslin xiu

                      刚刚买R9700 ,有点吵。
                      图片.jpeg

                      GeekyangG
                      GeekyangG
                      Geekyang
                      已封禁
                      发表于 最后由 编辑
                      #22

                      @lesslin-xiu 你这个上下文是多大的?我也想买一张。

                      lesslin xiuL 1 条回复 最后回复
                      0
                      • williamlouisW williamlouis

                        看视频或帖子了吗?双卡 sglang。

                        GeekyangG
                        GeekyangG
                        Geekyang
                        已封禁
                        发表于 最后由 Geekyang 编辑
                        #23

                        @williamlouis
                        你们都不看规格的吗?这么厚的卡?怎么玩两张,这怎么可能是个长期方案?
                        fbb64d5b-8b43-4196-bf94-38aec0922a7a-image.jpeg

                        1 条回复 最后回复
                        0
                        • GeekyangG Geekyang

                          @lesslin-xiu 你这个上下文是多大的?我也想买一张。

                          lesslin xiuL
                          lesslin xiuL
                          lesslin xiu
                          发表于 最后由 编辑
                          #24

                          @Geekyang 说:

                          这个上下文是多大的?我也想买一张

                          128K

                          Geekyang

                          1 条回复 最后回复
                          0

                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                          有了你的建议,这篇帖子会更精彩哦 💗

                          注册 登录
                          回复
                          • 在新帖中回复
                          登录后回复
                          • 从旧到新
                          • 从新到旧
                          • 最多赞同


                          • 登录

                          • 登录或注册以进行搜索。
                          • 第一个帖子
                            最后一个帖子
                          0
                          • 版块
                          • 最新
                          • 标签
                          • 热门
                          • 用户
                          • 群组