跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

已定时 已固定 已锁定 已移动 AI硬件
amdr9700
53 帖子 16 发布者 1.2k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Grayson RenG 离线
    Grayson RenG 离线
    Grayson Ren
    编写于 最后由 编辑
    #31

    这一套成本大概多少 想抄作业

    1 条回复 最后回复
    0
    • Chungen JiangC 离线
      Chungen JiangC 离线
      Chungen Jiang
      编写于 最后由 编辑
      #32

      到目前配置的价格:
      X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
      内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
      显卡:AMD AIPRO 9700 蓝宝石 10999元
      机箱;长城铁幕 H504B 206元
      电源:长城 1200W F12 729元
      硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

      合计:约 14733 元

      terryT J tmp tmpT 3 条回复 最后回复
      0
      • Chungen JiangC Chungen Jiang

        到目前配置的价格:
        X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
        内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
        显卡:AMD AIPRO 9700 蓝宝石 10999元
        机箱;长城铁幕 H504B 206元
        电源:长城 1200W F12 729元
        硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

        合计:约 14733 元

        terryT 离线
        terryT 离线
        terry
        编写于 最后由 编辑
        #33

        @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

        油管:https://www.youtube.com/@抡锤者

        Chungen JiangC 1 条回复 最后回复
        0
        • terryT terry

          @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

          Chungen JiangC 离线
          Chungen JiangC 离线
          Chungen Jiang
          编写于 最后由 编辑
          #34

          @terry 说:

          @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

          确实,那个空位对的不是很准,不过还行,没有遇到太大阻力,自己一个人也能搞定。
          一开始选了100多的,我记得你有个视频说怎么也得200多,就选了200多的,够用了,螺丝还可以,显卡的挡板是焊死的,需要自己掰断,这玩意儿就是一分钱一分货。
          机箱多花点钱值得,这东西能一直用。应该再买贵点儿了。

          1 条回复 最后回复
          1
          • Chungen JiangC Chungen Jiang

            到目前配置的价格:
            X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
            内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
            显卡:AMD AIPRO 9700 蓝宝石 10999元
            机箱;长城铁幕 H504B 206元
            电源:长城 1200W F12 729元
            硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

            合计:约 14733 元

            J 离线
            J 离线
            johnnybegood
            编写于 最后由 编辑
            #35

            @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

            Chungen JiangC 1 条回复 最后回复
            0
            • J johnnybegood

              @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

              Chungen JiangC 离线
              Chungen JiangC 离线
              Chungen Jiang
              编写于 最后由 编辑
              #36

              @johnnybegood 说:

              @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

              欢迎大神分享,让其他朋友看到,参考一下
              目前内存价格太高,这套洋垃圾方案目前性价比很高我认为。
              再就是看显卡了,我是看了Terry 的视频,结合自己的实际情况选择这个显卡。结合自己的情况和经济能力,还有3090方案,7900xtx 方案,双7900xtx,4080S 32G魔改方案。

              1 条回复 最后回复
              0
              • P 离线
                P 离线
                Paulo0
                编写于 最后由 编辑
                #37

                活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                Chungen JiangC 1 条回复 最后回复
                0
                • P Paulo0

                  活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                  Chungen JiangC 离线
                  Chungen JiangC 离线
                  Chungen Jiang
                  编写于 最后由 编辑
                  #38

                  @Paulo0 说:

                  活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                  应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                  Chungen JiangC 1 条回复 最后回复
                  0
                  • Chungen JiangC Chungen Jiang

                    @Paulo0 说:

                    活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                    应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                    Chungen JiangC 离线
                    Chungen JiangC 离线
                    Chungen Jiang
                    编写于 最后由 编辑
                    #39

                    Chungen-Jiang 说:

                    @Paulo0 说:

                    活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                    应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                    不过要说方便和性能,可能还是N卡好一些。

                    1 条回复 最后回复
                    0
                    • Chungen JiangC 离线
                      Chungen JiangC 离线
                      Chungen Jiang
                      编写于 最后由 编辑
                      #40
                      此主題已被删除!
                      Chungen JiangC 1 条回复 最后回复
                      0
                      • Chungen JiangC Chungen Jiang

                        此主題已被删除!

                        Chungen JiangC 离线
                        Chungen JiangC 离线
                        Chungen Jiang
                        编写于 最后由 编辑
                        #41

                        Chungen-Jiang 说:

                        终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                        IMG_4558.jpg

                        跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                        terryT 1 条回复 最后回复
                        0
                        • B Brian

                          还是要多看帖子,ubuntu26装上,deepseek claude gpt搞了一天都没搞定vllm,看了才知道要装24

                          Billy ShenB 离线
                          Billy ShenB 离线
                          Billy Shen
                          编写于 最后由 编辑
                          #42

                          @Brian 说:

                          24

                          Ubuntu 24.04 LTS, Python 3.12, 要装个完整的 nVidia toolkit

                          1 条回复 最后回复
                          0
                          • 系统 取消固定了该主题
                          • Chungen JiangC 离线
                            Chungen JiangC 离线
                            Chungen Jiang
                            编写于 最后由 编辑
                            #43

                            配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                            terryT 1 条回复 最后回复
                            0
                            • Chungen JiangC Chungen Jiang

                              配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                              terryT 离线
                              terryT 离线
                              terry
                              编写于 最后由 编辑
                              #44

                              @Chungen-Jiang 你还是部署27b吧,优化下速度也能上来,35b不行。

                              油管:https://www.youtube.com/@抡锤者

                              1 条回复 最后回复
                              0
                              • 倭寇国を滅ぼす倭 离线
                                倭寇国を滅ぼす倭 离线
                                倭寇国を滅ぼす
                                编写于 最后由 编辑
                                #45

                                哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                Chungen JiangC 1 条回复 最后回复
                                0
                                • 倭寇国を滅ぼす倭 离线
                                  倭寇国を滅ぼす倭 离线
                                  倭寇国を滅ぼす
                                  编写于 最后由 编辑
                                  #46

                                  https://github.com/jagsan-cyber/turboquant-rocm-llamacpp ,DFLASH+TurboQuant+AMD R9700 直接支持了,QWEN3.6 27B跑量化6,还保持256K上下文实现了。

                                  1 条回复 最后回复
                                  0
                                  • Chungen JiangC Chungen Jiang

                                    Chungen-Jiang 说:

                                    终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                                    IMG_4558.jpg

                                    跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                                    terryT 离线
                                    terryT 离线
                                    terry
                                    编写于 最后由 编辑
                                    #47

                                    @Chungen-Jiang 那是肯定,出了xtx这样的大风扇,我的4090也是狂转。

                                    油管:https://www.youtube.com/@抡锤者

                                    1 条回复 最后回复
                                    0
                                    • 倭寇国を滅ぼす倭 倭寇国を滅ぼす

                                      哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                      Chungen JiangC 离线
                                      Chungen JiangC 离线
                                      Chungen Jiang
                                      编写于 最后由 编辑
                                      #48

                                      @倭寇国を滅ぼす 说:

                                      哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                      27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                      terryT 1 条回复 最后回复
                                      0
                                      • Chungen JiangC Chungen Jiang

                                        @倭寇国を滅ぼす 说:

                                        哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                        27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                        terryT 离线
                                        terryT 离线
                                        terry
                                        编写于 最后由 编辑
                                        #49

                                        @Chungen-Jiang 这个速度正常,优化下可以提升不少,论坛有xtx的作业,也有R9700的,照抄就好了。

                                        油管:https://www.youtube.com/@抡锤者

                                        1 条回复 最后回复
                                        0
                                        • Chungen JiangC Chungen Jiang

                                          到目前配置的价格:
                                          X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                          内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                          显卡:AMD AIPRO 9700 蓝宝石 10999元
                                          机箱;长城铁幕 H504B 206元
                                          电源:长城 1200W F12 729元
                                          硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                          合计:约 14733 元

                                          tmp tmpT 离线
                                          tmp tmpT 离线
                                          tmp tmp
                                          编写于 最后由 编辑
                                          #50

                                          @Chungen-Jiang 说:

                                          到目前配置的价格:
                                          X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
                                          内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
                                          显卡:AMD AIPRO 9700 蓝宝石 10999元
                                          机箱;长城铁幕 H504B 206元
                                          电源:长城 1200W F12 729元
                                          硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

                                          合计:约 14733 元

                                          这台机器,满载功耗和待机功耗大概有多少啊?

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组