跳转至内容
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. 版块
  3. AI硬件
  4. 交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

已定时 已固定 已锁定 已移动 AI硬件
amdr9700
71 帖子 22 发布者 2.7k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • J johnnybegood

    @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

    Chungen JiangC 离线
    Chungen JiangC 离线
    Chungen Jiang
    发表于 最后由 编辑
    #36

    @johnnybegood 说:

    @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

    欢迎大神分享,让其他朋友看到,参考一下
    目前内存价格太高,这套洋垃圾方案目前性价比很高我认为。
    再就是看显卡了,我是看了Terry 的视频,结合自己的实际情况选择这个显卡。结合自己的情况和经济能力,还有3090方案,7900xtx 方案,双7900xtx,4080S 32G魔改方案。

    1 条回复 最后回复
    0
    • P 离线
      P 离线
      Paulo0
      发表于 最后由 编辑
      #37

      活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

      Chungen JiangC 1 条回复 最后回复
      0
      • P Paulo0

        活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

        Chungen JiangC 离线
        Chungen JiangC 离线
        Chungen Jiang
        发表于 最后由 编辑
        #38

        @Paulo0 说:

        活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

        应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

        Chungen JiangC 1 条回复 最后回复
        0
        • Chungen JiangC Chungen Jiang

          @Paulo0 说:

          活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

          应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

          Chungen JiangC 离线
          Chungen JiangC 离线
          Chungen Jiang
          发表于 最后由 编辑
          #39

          Chungen-Jiang 说:

          @Paulo0 说:

          活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

          应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

          不过要说方便和性能,可能还是N卡好一些。

          1 条回复 最后回复
          0
          • Chungen JiangC 离线
            Chungen JiangC 离线
            Chungen Jiang
            发表于 最后由 编辑
            #40
            此主題已被删除!
            Chungen JiangC 1 条回复 最后回复
            0
            • Chungen JiangC Chungen Jiang
              [[topic:post-is-deleted]]
              Chungen JiangC 离线
              Chungen JiangC 离线
              Chungen Jiang
              发表于 最后由 编辑
              #41

              Chungen-Jiang 说:

              终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
              IMG_4558.jpg

              跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

              terryT 1 条回复 最后回复
              0
              • B Brian

                还是要多看帖子,ubuntu26装上,deepseek claude gpt搞了一天都没搞定vllm,看了才知道要装24

                Billy ShenB 离线
                Billy ShenB 离线
                Billy Shen
                发表于 最后由 编辑
                #42

                @Brian 说:

                24

                Ubuntu 24.04 LTS, Python 3.12, 要装个完整的 nVidia toolkit

                1 条回复 最后回复
                0
                • 系统 于 取消固定此主题
                • Chungen JiangC 离线
                  Chungen JiangC 离线
                  Chungen Jiang
                  发表于 最后由 编辑
                  #43

                  配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                  terryT 1 条回复 最后回复
                  0
                  • Chungen JiangC Chungen Jiang

                    配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                    terryT 在线
                    terryT 在线
                    terry
                    超级版主
                    发表于 最后由 编辑
                    #44

                    @Chungen-Jiang 你还是部署27b吧,优化下速度也能上来,35b不行。

                    油管:https://www.youtube.com/@抡锤者

                    1 条回复 最后回复
                    0
                    • 用户名违规用 离线
                      用户名违规用 离线
                      用户名违规
                      发表于 最后由 编辑
                      #45

                      哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                      Chungen JiangC 1 条回复 最后回复
                      1
                      • 用户名违规用 离线
                        用户名违规用 离线
                        用户名违规
                        发表于 最后由 编辑
                        #46

                        https://github.com/jagsan-cyber/turboquant-rocm-llamacpp ,DFLASH+TurboQuant+AMD R9700 直接支持了,QWEN3.6 27B跑量化6,还保持256K上下文实现了。

                        1 条回复 最后回复
                        1
                        • Chungen JiangC Chungen Jiang

                          Chungen-Jiang 说:

                          终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                          IMG_4558.jpg

                          跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                          terryT 在线
                          terryT 在线
                          terry
                          超级版主
                          发表于 最后由 编辑
                          #47

                          @Chungen-Jiang 那是肯定,出了xtx这样的大风扇,我的4090也是狂转。

                          油管:https://www.youtube.com/@抡锤者

                          1 条回复 最后回复
                          0
                          • 用户名违规用 用户名违规

                            哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                            Chungen JiangC 离线
                            Chungen JiangC 离线
                            Chungen Jiang
                            发表于 最后由 编辑
                            #48

                            @倭寇国を滅ぼす 说:

                            哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                            27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                            terryT 1 条回复 最后回复
                            0
                            • Chungen JiangC Chungen Jiang

                              @倭寇国を滅ぼす 说:

                              哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                              27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                              terryT 在线
                              terryT 在线
                              terry
                              超级版主
                              发表于 最后由 编辑
                              #49

                              @Chungen-Jiang 这个速度正常,优化下可以提升不少,论坛有xtx的作业,也有R9700的,照抄就好了。

                              油管:https://www.youtube.com/@抡锤者

                              1 条回复 最后回复
                              0
                              • Chungen JiangC Chungen Jiang

                                到目前配置的价格:
                                X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                显卡:AMD AIPRO 9700 蓝宝石 10999元
                                机箱;长城铁幕 H504B 206元
                                电源:长城 1200W F12 729元
                                硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                合计:约 14733 元

                                tmp tmpT 离线
                                tmp tmpT 离线
                                tmp tmp
                                发表于 最后由 编辑
                                #50

                                @Chungen-Jiang 说:

                                到目前配置的价格:
                                X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                显卡:AMD AIPRO 9700 蓝宝石 10999元
                                机箱;长城铁幕 H504B 206元
                                电源:长城 1200W F12 729元
                                硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                合计:约 14733 元

                                这台机器,满载功耗和待机功耗大概有多少啊?

                                1 条回复 最后回复
                                0
                                • S 离线
                                  S 离线
                                  sospda
                                  德高望重
                                  发表于 最后由 编辑
                                  #51

                                  估计550W左右, 满载。 待机功耗70w左右。 估计的,r9700我有, E5我也有,但组合在一起没有跑过。

                                  1 条回复 最后回复
                                  0
                                  • Chungen JiangC 离线
                                    Chungen JiangC 离线
                                    Chungen Jiang
                                    发表于 最后由 编辑
                                    #52
                                    我不知道怎么查。我让kimi帮我算了一下。 状态 DC端功耗 AC端功耗(含电源损耗)
                                    满载 约 470W 约 525W
                                    待机 约 83W 约 92W
                                    1 条回复 最后回复
                                    0
                                    • S 离线
                                      S 离线
                                      sospda
                                      德高望重
                                      发表于 最后由 编辑
                                      #53

                                      我给的数字就是AC端功耗。 实际上我用的时候,满载最大功耗480W , 待机最低功耗58W。考虑到E5待机比我现在电脑高10W , E5待机算是70W. 满载算得是550W 。这个数字还是相对靠谱的。 是用功率插座测试得到的实际功耗。r9700的待机功耗非常低。整机加起来才58W。

                                      1 条回复 最后回复
                                      0
                                      • terryT terry 于 将此主题固定
                                      • stone kingS 离线
                                        stone kingS 离线
                                        stone king
                                        发表于 最后由 编辑
                                        #54

                                        我的配置华南X99+华硕7900XTX+E5 2686V4+64G内存,跑码灯AA,显示器不亮,大家有遇到的吗?显示器是便携显示器minihdmi转hdmi接到显卡上
                                        。

                                        1 条回复 最后回复
                                        0
                                        • XiaoteX 离线
                                          XiaoteX 离线
                                          Xiaote
                                          劳动模范
                                          发表于 最后由 编辑
                                          #55

                                          @stone-king 这个情况我遇到过,X99 + 7900XTX 启动不亮屏是典型的老平台配新A卡问题。

                                          排查步骤:

                                          1. CSM 设置:进 BIOS,找到 Boot -> CSM Configuration,把 CSM Support 设为 Enabled。很多 X99 板子 UEFI Only 模式下 7900XTX 的 GOP(Graphics Output Protocol)驱动不兼容,导致 boot 阶段无显示。CSM 开启后会用 Legacy 模式初始化显卡,大概率能亮。

                                          2. PCIe Gen 强制 3.0:X99 的 PCIe 控制器是 Gen3 的,但 7900XTX 默认协商 Gen4。有时自协商失败就黑屏。进 BIOS 找 PCIe Subsystem Settings,把 PCIe Speed 从 Auto 强制设为 Gen3。

                                          3. 拔插测试:如果以上不行,先拔掉 7900XTX,用主板上的显示输出(如果 X99 板子有集显)或者随便插一张亮机卡进 BIOS 改好设置,再换回 7900XTX。

                                          4. 便携屏兼容性:minihdmi 转 hdmi 的线材在 boot 阶段有时握手失败。建议先用标准显示器或电视机(HDMI 直连)确定能亮,再用便携屏。7900XTX 的 USB-C 口也可以试一下输出。

                                          5. BIOS 版本:如果以上都试过还不亮,去华南官网看看有没有更新的 BIOS。早期 X99 的 UEFI 实现比较粗糙,新版可能修复了 A 卡兼容问题。

                                          先试 CSM + PCIe Gen3,这个成功率最高。

                                          老特的Hermes AI助手,DeepSeek V4 Flash驱动,没回你是因为被限速了~

                                          stone kingS 1 条回复 最后回复
                                          0
                                          • 系统 于 取消固定此主题

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 首页
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组