跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

已定时 已固定 已锁定 已移动 AI硬件
amdr9700
53 帖子 16 发布者 1.2k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Chungen JiangC 离线
    Chungen JiangC 离线
    Chungen Jiang
    编写于 最后由 编辑
    #32

    到目前配置的价格:
    X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
    内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
    显卡:AMD AIPRO 9700 蓝宝石 10999元
    机箱;长城铁幕 H504B 206元
    电源:长城 1200W F12 729元
    硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

    合计:约 14733 元

    terryT J tmp tmpT 3 条回复 最后回复
    0
    • Chungen JiangC Chungen Jiang

      到目前配置的价格:
      X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
      内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
      显卡:AMD AIPRO 9700 蓝宝石 10999元
      机箱;长城铁幕 H504B 206元
      电源:长城 1200W F12 729元
      硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

      合计:约 14733 元

      terryT 离线
      terryT 离线
      terry
      编写于 最后由 编辑
      #33

      @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

      油管:https://www.youtube.com/@抡锤者

      Chungen JiangC 1 条回复 最后回复
      0
      • terryT terry

        @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

        Chungen JiangC 离线
        Chungen JiangC 离线
        Chungen Jiang
        编写于 最后由 编辑
        #34

        @terry 说:

        @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

        确实,那个空位对的不是很准,不过还行,没有遇到太大阻力,自己一个人也能搞定。
        一开始选了100多的,我记得你有个视频说怎么也得200多,就选了200多的,够用了,螺丝还可以,显卡的挡板是焊死的,需要自己掰断,这玩意儿就是一分钱一分货。
        机箱多花点钱值得,这东西能一直用。应该再买贵点儿了。

        1 条回复 最后回复
        1
        • Chungen JiangC Chungen Jiang

          到目前配置的价格:
          X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
          内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
          显卡:AMD AIPRO 9700 蓝宝石 10999元
          机箱;长城铁幕 H504B 206元
          电源:长城 1200W F12 729元
          硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

          合计:约 14733 元

          J 离线
          J 离线
          johnnybegood
          编写于 最后由 编辑
          #35

          @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

          Chungen JiangC 1 条回复 最后回复
          0
          • J johnnybegood

            @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

            Chungen JiangC 离线
            Chungen JiangC 离线
            Chungen Jiang
            编写于 最后由 编辑
            #36

            @johnnybegood 说:

            @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

            欢迎大神分享,让其他朋友看到,参考一下
            目前内存价格太高,这套洋垃圾方案目前性价比很高我认为。
            再就是看显卡了,我是看了Terry 的视频,结合自己的实际情况选择这个显卡。结合自己的情况和经济能力,还有3090方案,7900xtx 方案,双7900xtx,4080S 32G魔改方案。

            1 条回复 最后回复
            0
            • P 离线
              P 离线
              Paulo0
              编写于 最后由 编辑
              #37

              活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

              Chungen JiangC 1 条回复 最后回复
              0
              • P Paulo0

                活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                Chungen JiangC 离线
                Chungen JiangC 离线
                Chungen Jiang
                编写于 最后由 编辑
                #38

                @Paulo0 说:

                活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                Chungen JiangC 1 条回复 最后回复
                0
                • Chungen JiangC Chungen Jiang

                  @Paulo0 说:

                  活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                  应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                  Chungen JiangC 离线
                  Chungen JiangC 离线
                  Chungen Jiang
                  编写于 最后由 编辑
                  #39

                  Chungen-Jiang 说:

                  @Paulo0 说:

                  活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                  应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                  不过要说方便和性能,可能还是N卡好一些。

                  1 条回复 最后回复
                  0
                  • Chungen JiangC 离线
                    Chungen JiangC 离线
                    Chungen Jiang
                    编写于 最后由 编辑
                    #40
                    此主題已被删除!
                    Chungen JiangC 1 条回复 最后回复
                    0
                    • Chungen JiangC Chungen Jiang

                      此主題已被删除!

                      Chungen JiangC 离线
                      Chungen JiangC 离线
                      Chungen Jiang
                      编写于 最后由 编辑
                      #41

                      Chungen-Jiang 说:

                      终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                      IMG_4558.jpg

                      跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                      terryT 1 条回复 最后回复
                      0
                      • B Brian

                        还是要多看帖子,ubuntu26装上,deepseek claude gpt搞了一天都没搞定vllm,看了才知道要装24

                        Billy ShenB 离线
                        Billy ShenB 离线
                        Billy Shen
                        编写于 最后由 编辑
                        #42

                        @Brian 说:

                        24

                        Ubuntu 24.04 LTS, Python 3.12, 要装个完整的 nVidia toolkit

                        1 条回复 最后回复
                        0
                        • 系统 取消固定了该主题
                        • Chungen JiangC 离线
                          Chungen JiangC 离线
                          Chungen Jiang
                          编写于 最后由 编辑
                          #43

                          配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                          terryT 1 条回复 最后回复
                          0
                          • Chungen JiangC Chungen Jiang

                            配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                            terryT 离线
                            terryT 离线
                            terry
                            编写于 最后由 编辑
                            #44

                            @Chungen-Jiang 你还是部署27b吧,优化下速度也能上来,35b不行。

                            油管:https://www.youtube.com/@抡锤者

                            1 条回复 最后回复
                            0
                            • 倭寇国を滅ぼす倭 离线
                              倭寇国を滅ぼす倭 离线
                              倭寇国を滅ぼす
                              编写于 最后由 编辑
                              #45

                              哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                              Chungen JiangC 1 条回复 最后回复
                              0
                              • 倭寇国を滅ぼす倭 离线
                                倭寇国を滅ぼす倭 离线
                                倭寇国を滅ぼす
                                编写于 最后由 编辑
                                #46

                                https://github.com/jagsan-cyber/turboquant-rocm-llamacpp ,DFLASH+TurboQuant+AMD R9700 直接支持了,QWEN3.6 27B跑量化6,还保持256K上下文实现了。

                                1 条回复 最后回复
                                0
                                • Chungen JiangC Chungen Jiang

                                  Chungen-Jiang 说:

                                  终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                                  IMG_4558.jpg

                                  跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                                  terryT 离线
                                  terryT 离线
                                  terry
                                  编写于 最后由 编辑
                                  #47

                                  @Chungen-Jiang 那是肯定,出了xtx这样的大风扇,我的4090也是狂转。

                                  油管:https://www.youtube.com/@抡锤者

                                  1 条回复 最后回复
                                  0
                                  • 倭寇国を滅ぼす倭 倭寇国を滅ぼす

                                    哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                    Chungen JiangC 离线
                                    Chungen JiangC 离线
                                    Chungen Jiang
                                    编写于 最后由 编辑
                                    #48

                                    @倭寇国を滅ぼす 说:

                                    哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                    27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                    terryT 1 条回复 最后回复
                                    0
                                    • Chungen JiangC Chungen Jiang

                                      @倭寇国を滅ぼす 说:

                                      哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                      27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                      terryT 离线
                                      terryT 离线
                                      terry
                                      编写于 最后由 编辑
                                      #49

                                      @Chungen-Jiang 这个速度正常,优化下可以提升不少,论坛有xtx的作业,也有R9700的,照抄就好了。

                                      油管:https://www.youtube.com/@抡锤者

                                      1 条回复 最后回复
                                      0
                                      • Chungen JiangC Chungen Jiang

                                        到目前配置的价格:
                                        X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                        内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                        显卡:AMD AIPRO 9700 蓝宝石 10999元
                                        机箱;长城铁幕 H504B 206元
                                        电源:长城 1200W F12 729元
                                        硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                        合计:约 14733 元

                                        tmp tmpT 离线
                                        tmp tmpT 离线
                                        tmp tmp
                                        编写于 最后由 编辑
                                        #50

                                        @Chungen-Jiang 说:

                                        到目前配置的价格:
                                        X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                        内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                        显卡:AMD AIPRO 9700 蓝宝石 10999元
                                        机箱;长城铁幕 H504B 206元
                                        电源:长城 1200W F12 729元
                                        硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                        合计:约 14733 元

                                        这台机器,满载功耗和待机功耗大概有多少啊?

                                        1 条回复 最后回复
                                        0
                                        • S 离线
                                          S 离线
                                          sospda
                                          编写于 最后由 编辑
                                          #51

                                          估计550W左右, 满载。 待机功耗70w左右。 估计的,r9700我有, E5我也有,但组合在一起没有跑过。

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组