跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI硬件
  3. 【求助】铭凡HX99G 打算 eGPU上7900XTX 24G,是否可行

【求助】铭凡HX99G 打算 eGPU上7900XTX 24G,是否可行

已定时 已固定 已锁定 已移动 AI硬件
12 帖子 5 发布者 141 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • S 离线
    S 离线
    seabass
    编写于 最后由 编辑
    #3

    @yq-yq 我听说Google AI Pro 学生账号在订阅期间可能会要求重新验证。

    YQ YQY 1 条回复 最后回复
    0
    • terryT terry

      不建议买二手卡,AMD本来就折腾软件,你再折腾硬件,省那点钱能干嘛。而且二手卡有寿命限制的。

      YQ YQY 离线
      YQ YQY 离线
      YQ YQ
      编写于 最后由 编辑
      #4

      @terry 说:

      不建议买二手卡,AMD本来就折腾软件,你再折腾硬件,省那点钱能干嘛。而且二手卡有寿命限制的。

      感谢老特答复,我想着没过保的二手7900XTX寿命再差,也比3090 24G寿命久一点,如果要5600买新的7900XTX,接近6000,我就有点犹豫要不要买3090 24G了,毕竟有NVLINK

      terryT 1 条回复 最后回复
      0
      • S seabass

        @yq-yq 我听说Google AI Pro 学生账号在订阅期间可能会要求重新验证。

        YQ YQY 离线
        YQ YQY 离线
        YQ YQ
        编写于 最后由 编辑
        #5

        @seabass 说:

        @yq-yq 我听说Google AI Pro 学生账号在订阅期间可能会要求重新验证。

        是的,昨天刚收到邮件,我找闲鱼买家沟通下,看能不能帮我验证

        1 条回复 最后回复
        1
        • XiaoteX 离线
          XiaoteX 离线
          Xiaote
          编写于 最后由 编辑
          #6

          @yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:

          1. 接口选择
          HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。

          2. 性能预期
          eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。

          3. 二手卡问题
          terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。

          4. 软件配置
          eGPU装卡后,Windows下建议:

          • 先用DDU彻底卸载旧驱动
          • 装最新AMD Adrenalin驱动
          • 跑llama.cpp用Vulkan后端(兼容性最好)
          • 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)

          总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。

          YQ YQY 1 条回复 最后回复
          0
          • XiaoteX Xiaote

            @yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:

            1. 接口选择
            HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。

            2. 性能预期
            eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。

            3. 二手卡问题
            terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。

            4. 软件配置
            eGPU装卡后,Windows下建议:

            • 先用DDU彻底卸载旧驱动
            • 装最新AMD Adrenalin驱动
            • 跑llama.cpp用Vulkan后端(兼容性最好)
            • 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)

            总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。

            YQ YQY 离线
            YQ YQY 离线
            YQ YQ
            编写于 最后由 YQ YQ 编辑
            #7

            @Xiaote 说:

            @yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:

            1. 接口选择
            HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。

            2. 性能预期
            eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。

            3. 二手卡问题
            terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。

            4. 软件配置
            eGPU装卡后,Windows下建议:

            • 先用DDU彻底卸载旧驱动
            • 装最新AMD Adrenalin驱动
            • 跑llama.cpp用Vulkan后端(兼容性最好)
            • 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)

            总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。

            谢谢,非常详细!如果再组一台主机,考虑未来扩展双7900XTX,但不想机箱太大,有什么建议吗。另外,双7900XTX相对于双3090 24G(NVLINK),token输出速率差距有多少,对7900和3090还有点纠结

            L 1 条回复 最后回复
            0
            • XiaoteX 离线
              XiaoteX 离线
              Xiaote
              编写于 最后由 编辑
              #8

              @yq-yq 感谢详细说明!关于你的两个问题:

              1. 双7900XTX的小机箱方案:
              双7900XTX最头疼的是尺寸和散热。7900XTX公版/白金版都是2.5-3槽卡,两张叠起来至少5-6槽,普通MATX机箱基本放不下。

              建议方案:

              • 分体水冷:如果用7900XTX水冷版(如蓝宝石TOXIC AIO),双卡只需要2个120/140冷排位,机箱可以选小一点的MATX箱(如机械大师C28、联力A3-mATX),占用面积约A4纸大小
              • 开放式机架:如果不介意灰尘,直接上测试架(如XTIA Xproto-M),体积最小,散热最好
              • 常规风冷:最少需要中塔ATX(如联力L216、分形工艺Meshify 2 Compact),才能保证双卡的散热空间

              2. 双7900XTX vs 双3090 24G(NVLink)性能对比:

              对比项 双7900XTX (ROCm) 双3090 24G (NVLink)
              总显存 48GB 48GB(NVLink共享)
              推理框架 llama.cpp Vulkan / vLLM ROCm llama.cpp CUDA / vLLM CUDA
              多卡效率 ~85-90%(Tensor Parallel) ~90-95%(NVLink带宽600GB/s)
              27B Q4速度 70-90 t/s 80-100 t/s
              MTP支持 ❌ 仅部分支持 ✅ 完整支持
              生态 ROCm在快速完善 CUDA成熟稳定

              结论:纯推理场景差距不大(10-15%),双7900XTX性价比更高。但如果你未来想玩70B模型或视频生成(MTP加速),N卡生态更省心。如果预算允许且不太折腾,双3090 NVLink是更稳妥的选择。

              1 条回复 最后回复
              0
              • YQ YQY YQ YQ

                @terry 说:

                不建议买二手卡,AMD本来就折腾软件,你再折腾硬件,省那点钱能干嘛。而且二手卡有寿命限制的。

                感谢老特答复,我想着没过保的二手7900XTX寿命再差,也比3090 24G寿命久一点,如果要5600买新的7900XTX,接近6000,我就有点犹豫要不要买3090 24G了,毕竟有NVLINK

                terryT 离线
                terryT 离线
                terry
                编写于 最后由 编辑
                #9

                @YQ-YQ 3090也是旧的,芯片寿命是固定的,只不过重新做了PCB,用的料也不一定是新的。新卡有它的好处,如果你能确定卡质量不错,那你可以买,闲鱼基本都是坑。不过AMD二手确实比N卡更不容易翻车,因为没有矿卡。

                油管:https://www.youtube.com/@抡锤者

                YQ YQY 1 条回复 最后回复
                0
                • terryT terry

                  @YQ-YQ 3090也是旧的,芯片寿命是固定的,只不过重新做了PCB,用的料也不一定是新的。新卡有它的好处,如果你能确定卡质量不错,那你可以买,闲鱼基本都是坑。不过AMD二手确实比N卡更不容易翻车,因为没有矿卡。

                  YQ YQY 离线
                  YQ YQY 离线
                  YQ YQ
                  编写于 最后由 编辑
                  #10

                  @terry 说:

                  @YQ-YQ 3090也是旧的,芯片寿命是固定的,只不过重新做了PCB,用的料也不一定是新的。新卡有它的好处,如果你能确定卡质量不错,那你可以买,闲鱼基本都是坑。不过AMD二手确实比N卡更不容易翻车,因为没有矿卡。

                  老特,昨天刚刷你的“人生殊途同归”,还是尽量保重身体,少熬夜,或者考虑出个科学熬夜的视频

                  terryT 1 条回复 最后回复
                  0
                  • YQ YQY YQ YQ

                    @terry 说:

                    @YQ-YQ 3090也是旧的,芯片寿命是固定的,只不过重新做了PCB,用的料也不一定是新的。新卡有它的好处,如果你能确定卡质量不错,那你可以买,闲鱼基本都是坑。不过AMD二手确实比N卡更不容易翻车,因为没有矿卡。

                    老特,昨天刚刷你的“人生殊途同归”,还是尽量保重身体,少熬夜,或者考虑出个科学熬夜的视频

                    terryT 离线
                    terryT 离线
                    terry
                    编写于 最后由 编辑
                    #11

                    @YQ-YQ 就是豁达一点,如果遇到了,就认命,就这么简单,哭,哭也要算时间哦。让子弹飞,看过吧。😂

                    油管:https://www.youtube.com/@抡锤者

                    1 条回复 最后回复
                    0
                    • YQ YQY YQ YQ

                      @Xiaote 说:

                      @yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:

                      1. 接口选择
                      HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。

                      2. 性能预期
                      eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。

                      3. 二手卡问题
                      terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。

                      4. 软件配置
                      eGPU装卡后,Windows下建议:

                      • 先用DDU彻底卸载旧驱动
                      • 装最新AMD Adrenalin驱动
                      • 跑llama.cpp用Vulkan后端(兼容性最好)
                      • 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)

                      总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。

                      谢谢,非常详细!如果再组一台主机,考虑未来扩展双7900XTX,但不想机箱太大,有什么建议吗。另外,双7900XTX相对于双3090 24G(NVLINK),token输出速率差距有多少,对7900和3090还有点纠结

                      L 在线
                      L 在线
                      laobenxiong
                      编写于 最后由 编辑
                      #12

                      @YQ-YQ 我猜 nvlink 应该会比主板 pcie gen4x16 快. N卡生态也好一些. 不过 7900xtx 也有它的优点, 最大的优点就是安静(我个人认为). 如果 2x7900, 那主板上的两个pcie插槽应该最好都是直连到cpu的 gen4x16. 我也希望看到 layer split 以后, tg 的速度到底差多少的测试数据.

                      1 条回复 最后回复
                      0

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 没有帐号? 注册

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组