跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

交作业:X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700,成功安装ubuntu,等不及跟大家分享。后续再更新

已定时 已固定 已锁定 已移动 AI硬件
amdr9700
53 帖子 16 发布者 1.2k 浏览 3 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Chungen JiangC 离线
    Chungen JiangC 离线
    Chungen Jiang
    编写于 最后由 编辑
    #30

    更新一下安装状态,Native 安装comfyUI,卡在了SVD 节点的配置。
    在linux上安装了v2trayA,顺利能够从github 下载文件,目前卡在来的svd节点的下载,因为AI提供的源失效了,改用官方原生方案,目前正在从huging face 下载svd_xt_1_1.sfetensors 4.5G,遇到了不断停止下载的问题,因此
    在unbuntu 应用商店,安装了Gopeed 下载工具,支持断点续传,正在下载svd_xt_1_1.sfetensors 4.5G.

    1 条回复 最后回复
    0
    • Grayson RenG 离线
      Grayson RenG 离线
      Grayson Ren
      编写于 最后由 编辑
      #31

      这一套成本大概多少 想抄作业

      1 条回复 最后回复
      0
      • Chungen JiangC 离线
        Chungen JiangC 离线
        Chungen Jiang
        编写于 最后由 编辑
        #32

        到目前配置的价格:
        X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
        内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
        显卡:AMD AIPRO 9700 蓝宝石 10999元
        机箱;长城铁幕 H504B 206元
        电源:长城 1200W F12 729元
        硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

        合计:约 14733 元

        terryT J tmp tmpT 3 条回复 最后回复
        0
        • Chungen JiangC Chungen Jiang

          到目前配置的价格:
          X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
          内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
          显卡:AMD AIPRO 9700 蓝宝石 10999元
          机箱;长城铁幕 H504B 206元
          电源:长城 1200W F12 729元
          硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

          合计:约 14733 元

          terryT 离线
          terryT 离线
          terry
          编写于 最后由 编辑
          #33

          @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

          油管:https://www.youtube.com/@抡锤者

          Chungen JiangC 1 条回复 最后回复
          0
          • terryT terry

            @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

            Chungen JiangC 离线
            Chungen JiangC 离线
            Chungen Jiang
            编写于 最后由 编辑
            #34

            @terry 说:

            @Chungen-Jiang 长城的机箱显卡挡板螺丝很不好上,要两个人才好弄,不过机箱本身不错。要是力气小的,买贵一点的,或者找个人帮你稳住,不然不好打螺丝。

            确实,那个空位对的不是很准,不过还行,没有遇到太大阻力,自己一个人也能搞定。
            一开始选了100多的,我记得你有个视频说怎么也得200多,就选了200多的,够用了,螺丝还可以,显卡的挡板是焊死的,需要自己掰断,这玩意儿就是一分钱一分货。
            机箱多花点钱值得,这东西能一直用。应该再买贵点儿了。

            1 条回复 最后回复
            1
            • Chungen JiangC Chungen Jiang

              到目前配置的价格:
              X99 CD3 + E5 :548 元 (可以考虑买贵一点的主板,带Wi-Fi的,这个主板不带wifi,我连接的网线)
              内存:128G DDR 3 288*4 = 1152 。(看其他人,64G似乎就可以。)
              显卡:AMD AIPRO 9700 蓝宝石 10999元
              机箱;长城铁幕 H504B 206元
              电源:长城 1200W F12 729元
              硬盘:致态 长江存储 1 TB SSD 1049元 。 (最好加一块HDD,SSD 可能会丢数据,我还没有买。)

              合计:约 14733 元

              J 离线
              J 离线
              johnnybegood
              编写于 最后由 编辑
              #35

              @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

              Chungen JiangC 1 条回复 最后回复
              0
              • J johnnybegood

                @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

                Chungen JiangC 离线
                Chungen JiangC 离线
                Chungen Jiang
                编写于 最后由 编辑
                #36

                @johnnybegood 说:

                @Chungen-Jiang 有这钱貌似可以有更好的选择。。。

                欢迎大神分享,让其他朋友看到,参考一下
                目前内存价格太高,这套洋垃圾方案目前性价比很高我认为。
                再就是看显卡了,我是看了Terry 的视频,结合自己的实际情况选择这个显卡。结合自己的情况和经济能力,还有3090方案,7900xtx 方案,双7900xtx,4080S 32G魔改方案。

                1 条回复 最后回复
                0
                • P 离线
                  P 离线
                  Paulo0
                  编写于 最后由 编辑
                  #37

                  活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                  Chungen JiangC 1 条回复 最后回复
                  0
                  • P Paulo0

                    活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                    Chungen JiangC 离线
                    Chungen JiangC 离线
                    Chungen Jiang
                    编写于 最后由 编辑
                    #38

                    @Paulo0 说:

                    活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                    应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                    Chungen JiangC 1 条回复 最后回复
                    0
                    • Chungen JiangC Chungen Jiang

                      @Paulo0 说:

                      活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                      应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                      Chungen JiangC 离线
                      Chungen JiangC 离线
                      Chungen Jiang
                      编写于 最后由 编辑
                      #39

                      Chungen-Jiang 说:

                      @Paulo0 说:

                      活菩萨!感谢分享!请问一下7900xtx流程也一样吗?

                      应该是一样的,你看看Terry 的视频,或者b站看一看,7900xtx 性价比更高,7900xtx 的带宽大1000多,9700只有600多,只是9700的显存大,能直出720P。我理解如果有误的话,还请其他大神纠正。

                      不过要说方便和性能,可能还是N卡好一些。

                      1 条回复 最后回复
                      0
                      • Chungen JiangC 离线
                        Chungen JiangC 离线
                        Chungen Jiang
                        编写于 最后由 编辑
                        #40
                        此主題已被删除!
                        Chungen JiangC 1 条回复 最后回复
                        0
                        • Chungen JiangC Chungen Jiang

                          此主題已被删除!

                          Chungen JiangC 离线
                          Chungen JiangC 离线
                          Chungen Jiang
                          编写于 最后由 编辑
                          #41

                          Chungen-Jiang 说:

                          终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                          IMG_4558.jpg

                          跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                          terryT 1 条回复 最后回复
                          0
                          • B Brian

                            还是要多看帖子,ubuntu26装上,deepseek claude gpt搞了一天都没搞定vllm,看了才知道要装24

                            Billy ShenB 离线
                            Billy ShenB 离线
                            Billy Shen
                            编写于 最后由 编辑
                            #42

                            @Brian 说:

                            24

                            Ubuntu 24.04 LTS, Python 3.12, 要装个完整的 nVidia toolkit

                            1 条回复 最后回复
                            0
                            • 系统 取消固定了该主题
                            • Chungen JiangC 离线
                              Chungen JiangC 离线
                              Chungen Jiang
                              编写于 最后由 编辑
                              #43

                              配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                              terryT 1 条回复 最后回复
                              0
                              • Chungen JiangC Chungen Jiang

                                配置好了Open WebUI,又下载了35B A3B ,能够70 tk/s. 继续。

                                terryT 离线
                                terryT 离线
                                terry
                                编写于 最后由 编辑
                                #44

                                @Chungen-Jiang 你还是部署27b吧,优化下速度也能上来,35b不行。

                                油管:https://www.youtube.com/@抡锤者

                                1 条回复 最后回复
                                0
                                • 倭寇国を滅ぼす倭 离线
                                  倭寇国を滅ぼす倭 离线
                                  倭寇国を滅ぼす
                                  编写于 最后由 编辑
                                  #45

                                  哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                  Chungen JiangC 1 条回复 最后回复
                                  0
                                  • 倭寇国を滅ぼす倭 离线
                                    倭寇国を滅ぼす倭 离线
                                    倭寇国を滅ぼす
                                    编写于 最后由 编辑
                                    #46

                                    https://github.com/jagsan-cyber/turboquant-rocm-llamacpp ,DFLASH+TurboQuant+AMD R9700 直接支持了,QWEN3.6 27B跑量化6,还保持256K上下文实现了。

                                    1 条回复 最后回复
                                    0
                                    • Chungen JiangC Chungen Jiang

                                      Chungen-Jiang 说:

                                      终于把llama.cpp 弄好了。自己太贪心了,捣鼓了很久,什么也没成功,差点儿想切换会windows.跪着也得弄完,静下心来,一点点儿来,先弄的大模型跑起来,再继续配置。小步慢跑,成就感是继续的动力。
                                      IMG_4558.jpg

                                      跑27B 稠密,生成token 时候,风扇的声音还是比较大的。

                                      terryT 离线
                                      terryT 离线
                                      terry
                                      编写于 最后由 编辑
                                      #47

                                      @Chungen-Jiang 那是肯定,出了xtx这样的大风扇,我的4090也是狂转。

                                      油管:https://www.youtube.com/@抡锤者

                                      1 条回复 最后回复
                                      0
                                      • 倭寇国を滅ぼす倭 倭寇国を滅ぼす

                                        哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                        Chungen JiangC 离线
                                        Chungen JiangC 离线
                                        Chungen Jiang
                                        编写于 最后由 编辑
                                        #48

                                        @倭寇国を滅ぼす 说:

                                        哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                        27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                        terryT 1 条回复 最后回复
                                        0
                                        • Chungen JiangC Chungen Jiang

                                          @倭寇国を滅ぼす 说:

                                          哇咔咔,我打算X79+2667 V22+128G+R97002(未购入),一张跑QWEN3.6 27B一张跑wan2.2,但是一直不清楚,QWEN3.6 27B,输入速度怎么看,X79和X99差距对推理提升不是很大,就没升级X99的动力了。部署QWEN3.6 27B的问题在于,kvcache能不能打满256B,并且能支持几个并发,很关心,选MTP还是DFLASH+googeKV缓存技术。

                                          27B目前没做任何优化,是26tk/s ,感官上来看,推理有些慢,但是还可以忍受。纯纯小白,学习中。

                                          terryT 离线
                                          terryT 离线
                                          terry
                                          编写于 最后由 编辑
                                          #49

                                          @Chungen-Jiang 这个速度正常,优化下可以提升不少,论坛有xtx的作业,也有R9700的,照抄就好了。

                                          油管:https://www.youtube.com/@抡锤者

                                          1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组