跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

已定时 已固定 已锁定 已移动 AI硬件
amdr9700
53 帖子 16 发布者 1.2k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Chungen JiangC Chungen Jiang

    到目前配置的价格:
    X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
    内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
    显卡:AMD AIPRO 9700 蓝宝石 10999元
    机箱;长城铁幕 H504B 206元
    电源:长城 1200W F12 729元
    硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

    合计:约 14733 元

    terryT 离线
    terryT 离线
    terry
    编写于 最后由 编辑
    #33

    @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

    油管:https://www.youtube.com/@抡锤者

    Chungen JiangC 1 条回复 最后回复
    0
    • terryT terry

      @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

      Chungen JiangC 离线
      Chungen JiangC 离线
      Chungen Jiang
      编写于 最后由 编辑
      #34

      @terry 说:

      @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

      确实,那个空位对的不是很准,不过还行,没有遇到太大阻力,自己一个人也能搞定。
      一开始选了100多的,我记得你有个视频说怎么也得200多,就选了200多的,够用了,螺丝还可以,显卡的挡板是焊死的,需要自己掰断,这玩意儿就是一分钱一分货。
      机箱多花点钱值得,这东西能一直用。应该再买贵点儿了。

      1 条回复 最后回复
      1
      • Chungen JiangC Chungen Jiang

        到目前配置的价格:
        X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
        内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
        显卡:AMD AIPRO 9700 蓝宝石 10999元
        机箱;长城铁幕 H504B 206元
        电源:长城 1200W F12 729元
        硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

        合计:约 14733 元

        J 离线
        J 离线
        johnnybegood
        编写于 最后由 编辑
        #35

        @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

        Chungen JiangC 1 条回复 最后回复
        0
        • J johnnybegood

          @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

          Chungen JiangC 离线
          Chungen JiangC 离线
          Chungen Jiang
          编写于 最后由 编辑
          #36

          @johnnybegood 说:

          @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

          欢迎大神分享,让其他朋友看到,参考一下
          目前内存价格太高,这套洋垃圾方案目前性价比很高我认为。
          再就是看显卡了,我是看了Terry 的视频,结合自己的实际情况选择这个显卡。结合自己的情况和经济能力,还有3090方案,7900xtx 方案,双7900xtx,4080S 32G魔改方案。

          1 条回复 最后回复
          0
          • P 离线
            P 离线
            Paulo0
            编写于 最后由 编辑
            #37

            活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

            Chungen JiangC 1 条回复 最后回复
            0
            • P Paulo0

              活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

              Chungen JiangC 离线
              Chungen JiangC 离线
              Chungen Jiang
              编写于 最后由 编辑
              #38

              @Paulo0 说:

              活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

              应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

              Chungen JiangC 1 条回复 最后回复
              0
              • Chungen JiangC Chungen Jiang

                @Paulo0 说:

                活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                Chungen JiangC 离线
                Chungen JiangC 离线
                Chungen Jiang
                编写于 最后由 编辑
                #39

                Chungen-Jiang 说:

                @Paulo0 说:

                活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                不过要说方便和性能,可能还是N卡好一些。

                1 条回复 最后回复
                0
                • Chungen JiangC 离线
                  Chungen JiangC 离线
                  Chungen Jiang
                  编写于 最后由 编辑
                  #40
                  此主題已被删除!
                  Chungen JiangC 1 条回复 最后回复
                  0
                  • Chungen JiangC Chungen Jiang

                    此主題已被删除!

                    Chungen JiangC 离线
                    Chungen JiangC 离线
                    Chungen Jiang
                    编写于 最后由 编辑
                    #41

                    Chungen-Jiang 说:

                    终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                    IMG_4558.jpg

                    跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                    terryT 1 条回复 最后回复
                    0
                    • B Brian

                      还是要多看帖子,ubuntu26装上,deepseek claude gpt搞了一天都没搞定vllm,看了才知道要装24

                      Billy ShenB 离线
                      Billy ShenB 离线
                      Billy Shen
                      编写于 最后由 编辑
                      #42

                      @Brian 说:

                      24

                      Ubuntu 24.04 LTS, Python 3.12, 要装个完整的 nVidia toolkit

                      1 条回复 最后回复
                      0
                      • 系统 取消固定了该主题
                      • Chungen JiangC 离线
                        Chungen JiangC 离线
                        Chungen Jiang
                        编写于 最后由 编辑
                        #43

                        配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                        terryT 1 条回复 最后回复
                        0
                        • Chungen JiangC Chungen Jiang

                          配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                          terryT 离线
                          terryT 离线
                          terry
                          编写于 最后由 编辑
                          #44

                          @Chungen-Jiang 你还是部署27b吧,优化下速度也能上来,35b不行。

                          油管:https://www.youtube.com/@抡锤者

                          1 条回复 最后回复
                          0
                          • 倭寇国を滅ぼす倭 离线
                            倭寇国を滅ぼす倭 离线
                            倭寇国を滅ぼす
                            编写于 最后由 编辑
                            #45

                            哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                            Chungen JiangC 1 条回复 最后回复
                            0
                            • 倭寇国を滅ぼす倭 离线
                              倭寇国を滅ぼす倭 离线
                              倭寇国を滅ぼす
                              编写于 最后由 编辑
                              #46

                              https://github.com/jagsan-cyber/turboquant-rocm-llamacpp ,DFLASH+TurboQuant+AMD R9700 直接支持了,QWEN3.6 27B跑量化6,还保持256K上下文实现了。

                              1 条回复 最后回复
                              0
                              • Chungen JiangC Chungen Jiang

                                Chungen-Jiang 说:

                                终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                                IMG_4558.jpg

                                跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                                terryT 离线
                                terryT 离线
                                terry
                                编写于 最后由 编辑
                                #47

                                @Chungen-Jiang 那是肯定,出了xtx这样的大风扇,我的4090也是狂转。

                                油管:https://www.youtube.com/@抡锤者

                                1 条回复 最后回复
                                0
                                • 倭寇国を滅ぼす倭 倭寇国を滅ぼす

                                  哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                  Chungen JiangC 离线
                                  Chungen JiangC 离线
                                  Chungen Jiang
                                  编写于 最后由 编辑
                                  #48

                                  @倭寇国を滅ぼす 说:

                                  哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                  27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                  terryT 1 条回复 最后回复
                                  0
                                  • Chungen JiangC Chungen Jiang

                                    @倭寇国を滅ぼす 说:

                                    哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                    27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                    terryT 离线
                                    terryT 离线
                                    terry
                                    编写于 最后由 编辑
                                    #49

                                    @Chungen-Jiang 这个速度正常,优化下可以提升不少,论坛有xtx的作业,也有R9700的,照抄就好了。

                                    油管:https://www.youtube.com/@抡锤者

                                    1 条回复 最后回复
                                    0
                                    • Chungen JiangC Chungen Jiang

                                      到目前配置的价格:
                                      X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                      内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                      显卡:AMD AIPRO 9700 蓝宝石 10999元
                                      机箱;长城铁幕 H504B 206元
                                      电源:长城 1200W F12 729元
                                      硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                      合计:约 14733 元

                                      tmp tmpT 离线
                                      tmp tmpT 离线
                                      tmp tmp
                                      编写于 最后由 编辑
                                      #50

                                      @Chungen-Jiang 说:

                                      到目前配置的价格:
                                      X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                      内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                      显卡:AMD AIPRO 9700 蓝宝石 10999元
                                      机箱;长城铁幕 H504B 206元
                                      电源:长城 1200W F12 729元
                                      硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                      合计:约 14733 元

                                      这台机器,满载功耗和待机功耗大概有多少啊?

                                      1 条回复 最后回复
                                      0
                                      • S 离线
                                        S 离线
                                        sospda
                                        编写于 最后由 编辑
                                        #51

                                        估计550W左右, 满载。 待机功耗70w左右。 估计的,r9700我有, E5我也有,但组合在一起没有跑过。

                                        1 条回复 最后回复
                                        0
                                        • Chungen JiangC 离线
                                          Chungen JiangC 离线
                                          Chungen Jiang
                                          编写于 最后由 编辑
                                          #52
                                          我不知道怎么查。我让kimi帮我算了一下。 状态 DC端功耗 AC端功耗(含电源损耗)
                                          满载 约 470W 约 525W
                                          待机 约 83W 约 92W
                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组