跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 下单 7900xtx, 开始折腾 llama.cpp

下单 7900xtx, 开始折腾 llama.cpp

已定时 已固定 已锁定 已移动 热议 AI硬件
amd7900xtx
30 帖子 18 发布者 1.7k 浏览 2 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • rock shiR
    rock shiR
    rock shi
    劳动模范 德高望重
    发表于 最后由 编辑
    #11

    同样价位,个人挺推荐3080 20g*2的,6000不到,qwen3.6 27b,llama.cpp开mtp有50t/s,hermes响应速度感觉跟ds v4不相上下

    主机:GPU0-3080 20g(H3),GPU1-3080 20g(Zimage)
    副机:2x2080ti 22g,vllm+qwen3.8-27b-fp8-16kv-128k

    L 1 条回复 最后回复
    0
    • K
      K
      kenshin
      发表于 最后由 编辑
      #12

      差不多吧。京东另一家蓝宝石组装旗舰店,5999元晒图返20元,先马黑洞金牌1200w,530元。你还是蓝宝石的电源。质量有保障的话。还便宜了点。

      1 条回复 最后回复
      0
      • rock shiR rock shi

        同样价位,个人挺推荐3080 20g*2的,6000不到,qwen3.6 27b,llama.cpp开mtp有50t/s,hermes响应速度感觉跟ds v4不相上下

        L
        L
        laobenxiong
        德高望重 劳动模范
        发表于 最后由 编辑
        #13

        @rock-shi 嗯嗯, 不过7900xtx的一个优点是噪音小. 这一点虽然老特在视频里面说过, 实际使用还是给我惊喜.

        1 条回复 最后回复
        1
        • B
          B
          bobo
          发表于 最后由 编辑
          #14

          64K上下文够用吗

          1 条回复 最后回复
          0
          • L laobenxiong

            参考了大神的帖子和up主的视频, 预算有限的情况下, 下单了一张 7900xtx 24G, 打算折腾一下 llama.cpp. 我打算是在 Minisforum UM880PRO 上折腾, oculink 连接, pve 虚拟机跑 lmde7.

            早上到货了, 不得不说, 这个风扇真的很安静, 这个就很值了.

            先上几张图. 详细的作业慢慢补.

            ad590109-ae0b-4888-a373-b2565a4214d3-image.jpeg
            7baa2c14-908f-447a-b540-3c516677a5ff-image.jpeg
            1440bdd1-0a6b-4557-9b0c-aaf2426379d9-image.jpeg
            e3ea60d7-6d10-4099-bd31-9ce238029db7-image.jpeg

            johnnybegoodJ
            johnnybegoodJ
            johnnybegood
            超凡大师
            发表于 最后由 编辑
            #15

            @laobenxiong 确实贵, 全新未拆封的有5000冒一点点头的, 拆封二手一堆 4500以内的。。。

            1 条回复 最后回复
            0
            • G
              G
              goodhat5405
              发表于 最后由 编辑
              #16

              别纠结钱,走上道才是最重要的。

              1 条回复 最后回复
              0
              • williamlouisW williamlouis

                @墙内人 同感。应该是给 JD 交了保护费。

                lei ruanL
                lei ruanL
                lei ruan
                发表于 最后由 编辑
                #17

                @williamlouis 我昨晚也下单了,6090元,+1000w白金,准备抄作业 。

                1 条回复 最后回复
                1
                • E
                  E
                  exllm
                  德高望重
                  发表于 最后由 编辑
                  #18

                  我拼多多那家旗舰店买的, 5899, 安全下车。

                  提醒各位注意天猫那家旗舰店,前几天有活动下了一单,收到货一查系列号已被注册, 而且是去年的老卡,怀疑二手充新,扯皮退货退款。

                  terryT 1 条回复 最后回复
                  0
                  • terryT terry 于 将此主题从 LLM讨论区 移至此处
                  • terryT terry 于 将此主题固定
                  • AGIA
                    AGIA
                    AGI
                    技术大牛 劳动模范
                    发表于 最后由 编辑
                    #19

                    昨天到货了,连同1000w电源,5729

                    https://agi.cd/@x

                    terryT 1 条回复 最后回复
                    0
                    • K
                      K
                      ktswang
                      发表于 最后由 编辑
                      #20

                      我只能说你买贵了,抖音+红包 5669 一套

                      terryT AGIA 2 条回复 最后回复
                      0
                      • AGIA AGI

                        昨天到货了,连同1000w电源,5729

                        terryT
                        terryT
                        terry
                        超级版主
                        发表于 最后由 编辑
                        #21

                        @AGI 这价格赚到了。我当时卡就是6100,过年的时候,草....

                        油管:https://www.youtube.com/@抡锤者

                        1 条回复 最后回复
                        0
                        • E exllm

                          我拼多多那家旗舰店买的, 5899, 安全下车。

                          提醒各位注意天猫那家旗舰店,前几天有活动下了一单,收到货一查系列号已被注册, 而且是去年的老卡,怀疑二手充新,扯皮退货退款。

                          terryT
                          terryT
                          terry
                          超级版主
                          发表于 最后由 编辑
                          #22

                          @exllm 必须退掉,注册国的,肯定是老卡,而且大概率有暗病,就是修过的。

                          油管:https://www.youtube.com/@抡锤者

                          1 条回复 最后回复
                          0
                          • K ktswang

                            我只能说你买贵了,抖音+红包 5669 一套

                            terryT
                            terryT
                            terry
                            超级版主
                            发表于 最后由 编辑
                            #23

                            @ktswang 抖音卖的能不能激活保修?

                            油管:https://www.youtube.com/@抡锤者

                            1 条回复 最后回复
                            0
                            • K ktswang

                              我只能说你买贵了,抖音+红包 5669 一套

                              AGIA
                              AGIA
                              AGI
                              技术大牛 劳动模范
                              发表于 最后由 编辑
                              #24

                              @ktswang 之前这个价格,后来红包没了,只有现在的红包,就买了

                              https://agi.cd/@x

                              1 条回复 最后回复
                              0
                              • I
                                I
                                iocat
                                发表于 最后由 编辑
                                #25

                                mtp快了好多啊,我原始7900xtx跑27b q4只有
                                99bffb5d-f411-435b-ba44-478fd9ac7caf-image.jpeg

                                1 条回复 最后回复
                                0
                                • I
                                  I
                                  iocat
                                  发表于 最后由 编辑
                                  #26

                                  我换了vulkan,发现好像不用上mtp速度也有这么快。。
                                  19f19c72-244d-40e1-b407-807be3ad3c8f-image.jpeg

                                  1 条回复 最后回复
                                  0
                                  • I
                                    I
                                    iocat
                                    发表于 最后由 编辑
                                    #27

                                    vulkan + mtp 直接跑到50token/s了
                                    d4b70b32-9f99-4ccd-bb8e-5aaaf430dbe4-image.jpeg

                                    E 1 条回复 最后回复
                                    0
                                    • lei ruanL
                                      lei ruanL
                                      lei ruan
                                      发表于 最后由 terry 编辑
                                      #28

                                      c6595560-d40c-499b-b98d-127db990497f-image.jpeg以前用免费的API,经常卡死,现在自由了。

                                      1 条回复 最后回复
                                      1
                                      • I iocat

                                        vulkan + mtp 直接跑到50token/s了
                                        d4b70b32-9f99-4ccd-bb8e-5aaaf430dbe4-image.jpeg

                                        E
                                        E
                                        exllm
                                        德高望重
                                        发表于 最后由 编辑
                                        #29

                                        @iocat 我这 vulkan + mtp 最高可以到57 tokens / s

                                        1 条回复 最后回复
                                        0
                                        • williamlouisW
                                          williamlouisW
                                          williamlouis
                                          超级版主
                                          发表于 最后由 编辑
                                          #30

                                          上线文长度是重点。多少?256K有吗?

                                          个人主页:xlkj.org Telegram https://t.me/xlkjorg

                                          1 条回复 最后回复
                                          0
                                          • 系统 于 取消固定此主题

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组