跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 新手交作业:X99+DDR3+7900XTX 攒机和调试小结

新手交作业:X99+DDR3+7900XTX 攒机和调试小结

已定时 已固定 已锁定 已移动 精华 热议 AI硬件
x997900xtx本地模型
23 帖子 11 发布者 1.4k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • J Z 0J J Z 0

    一样的卡,我升到350w, 减了50的电压,目前很稳定,温度也比默认降了

    Y G 0Y
    Y G 0Y
    Y G 0
    体面乡绅
    编写于 最后由 编辑
    #8

    @J-Z-0

    多谢分享!这个对prefill有作用,照抄了一下,发现功率帽设为350W时,strata的monitor界面显示16K和32K的prefill最高达到1845 t/s,但显卡的结点温度最高96度了,而且显卡的瞬时功率曾达到360W以上,有些担心。目前把功率限定为333W,prefill几乎没变,最高仍可达18xx,但结点温度下降至85度左右,最高不超过90度。这样感觉更放心些。

    X99洋垃圾+7900XTX

    1 条回复 最后回复
    1
    • 像素盒子像 像素盒子

      赞👍写的很详细,就是电源现在京东579元呀。

      Y G 0Y
      Y G 0Y
      Y G 0
      体面乡绅
      编写于 最后由 编辑
      #9

      @像素盒子

      这是半个月前的价格,没占到双十一的便宜

      X99洋垃圾+7900XTX

      像素盒子像 1 条回复 最后回复
      0
      • Y G 0Y Y G 0

        @像素盒子

        这是半个月前的价格,没占到双十一的便宜

        像素盒子像
        像素盒子像
        像素盒子
        体面乡绅
        编写于 最后由 编辑
        #10

        @Y-G-0 这东西就这样,买的时候不能考虑那么多,没有那么大的精力什么都买在最低价。

        油管:https://www.youtube.com/@像素盒子

        1 条回复 最后回复
        0
        • terryT
          terryT
          terry
          易有太极
          编写于 最后由 编辑
          #11

          非常标准的作业流程,图文并茂,表达清晰。你的装备可以多拍一点,整理一个新帖子,发装备需版块。

          油管:https://www.youtube.com/@抡锤者

          1 条回复 最后回复
          0
          • XiaoteX
            XiaoteX
            Xiaote
            易有太极
            编写于 最后由 编辑
            #12

            ⭐ 版主审定:本帖设为精华,作者 +5 积分奖励,希望再接再厉!

            奖励凭证:精华 +5 分 · 编号 f2605-3873-1(系统自动发放,显示稍有延迟)

            老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

            1 条回复 最后回复
            0
            • Y G 0Y
              Y G 0Y
              Y G 0
              体面乡绅
              编写于 最后由 编辑
              #13

              感谢老特和小特的鼓励!稍后去装备秀发个贴。

              再分享一下从昨晚到现在的一点儿收获,让Hermes去分析了大家热烈讨论的 https://github.com/nicejunjie/Strata-rdna3, 并对本地 Strata+IQ3_S 的配置进行了优化和测试,结果非常满意:

              指标 10-27 基线 10-29(--long) Δ
              chat decode(中位) 80.60 80.50 持平
              chat 首 token 0.32 s 0.31 s 持平
              4K prefill 1222.10 2094.00 +71%
              4K 首 token 3.31 s 1.95 s −41%
              16K prefill 1770.60 2804.80 +58%
              16K 首 token 9.11 s 5.77 s −37%
              32K prefill 1834.00 3193.60 +74%
              32K 首 token 17.53 s 10.09 s −42%
              agent 缓存命中 68.70% 68.65% 持平
              agent re-read/session 4 (4–74) 74 (2–74) 持平
              agent 回合首 token 3.26 s 2.54 s −22%
              agent decode 89.10 87.60 −2%(噪声内)

              注:以上结果是在显卡功率上限333w、电压 - 50mv的约束下测得。

              基于 strata-rdna3 优化的具体做法

              nicejunjie/Strata-rdna3 是上游 Strata 的 gfx1100(同款 7900 XTX)调优分叉。只取它的 env 配方,不合并代码树(落后上游、合并=完整重编+PCM 补丁重打)。流程五步:

              1. 找配方:fork 的 docs/RDNA3_SETTINGS.md 给出按 pack 的 env 开关集;同时确认本地 arch_default_env("gfx1100") 是空的——即这些调优路径在原版上默认全 OFF,是"免费的钱"。
              2. 重叠审计:对每个开关先 grep 本地 src/ + strings -a engine/strata | grep -i <switch>,确认 0.1.45 已编译进对应内核。26 个开关本地存在 → env-only 即可生效;GR_RDNA*、RDNA_MMVQ_WAVE、RDNA_Q6K 等 fork-only 内核不存在 → 记为日后 port 目标(decode 侧收益在那里)。
              3. env-only ABBA 验证:命令行一字不动,只往配置 env 注入 26 个开关,官方 bench --runs 2 --long 跑 ABBA——32K +70.4%,组内方差 ≤0.4%,是真效应不是漂移。
              4. 组归因:拆 wmma(+24%)/pf(+9%)/dec(+5.5%)/cpu(+5%) 单独臂——单加和只有 +43% 但全量 +74%,超可加(WMMA prompt attention 要靠 pf 预填路径喂),所以不能只挑单个开关上。
              5. 守则:他们的命令行不能抄(--ple-io direct、--pcie-frac 0 是 RAM 紧张机器的选择,本机 ram+0.20 是定案);数值不再逐位可复现(PF_F16=2、SELECT_WMMA),greedy sha256 回归测试要放宽;他们 CPU 是 9950X3D2,绝对值不可比,本机实测 3028。

              两次采纳修改的参数对比

              两次都是纯 env 修改,args 命令行完全未动:

              修改 时间/验证 env 变化 args 变化 效果
              ①STRATA_ROUTE_RESIDENT 10-27,ABBA×2 逐项验 /proc/environ 新增 1 个键:STRATA_ROUTE_RESIDENT=1 无 decode +17.5%,槽位/显存/草稿接受率不变,greedy 输出逐位一致
              ②RDNA3 gfx1100 env set 10-28,ABBA(bench --runs 2 --long) 新增 26 个键(见下表) 无 4K/16K/32K prefill +70/+56/+70%,decode/TTFT/命中率不变;代价:greedy 不再逐位复现

              env 键的前后对照(修改前生产 env 只有 3 个键):

              类别 键(=值) 状态
              原有基线 STRATA_HIPBLASLT_TUNING=<table-local-100401.txt>、STRATA_HIPBLASLT_VERBOSE=1、STRATA_ARENA_THP=1 10-27 前已有
              修改① 新增 STRATA_ROUTE_RESIDENT=1 10-27 采纳
              修改② WMMA 组 STRATA_HIP_WMMA=1、STRATA_SELECT_WMMA=1 10-28 采纳(+24%)
              修改② 预填路径组 STRATA_PF_F16=2、PF_GEMM=1、PF_FUSED=1、PF_PAD=1、PF_HCDOWN=1、PREFILL_RING=192、PREFILL_AUTO_MAX=32768、STAGER_RING=64、KV_HOST_DMA=1 10-28 采纳(+9%)
              修改② decode/融合组 GPU_MAX_HW_QUEUES=6、GDN_CHUNKED/CONVL2/HEAD/NOY/PP=1、HC_UPMIX=1、HEAD_MIX_MULTI=1、PA_FAST=1、QFUSE=1、FUSE_CONVAB=1、VERIFY_QDEDUP=1、SH_STREAM=0 10-28 采纳(+5.5%)
              修改② CPU 分担组 STRATA_PREFILL_CPU_SHARE=auto、PREFILL_CPU_SHARE_MAX=6144 10-28 采纳(+5%)

              当前生产 env 共 30 键(3 原有 + 1 + 26),已核对 strata-iq3s-0145.json;10-29 bench 的 prefill +60~74% 正是修改②的持续效果。

              X99洋垃圾+7900XTX

              terryT 1 条回复 最后回复
              1
              • Y G 0Y Y G 0

                感谢老特和小特的鼓励!稍后去装备秀发个贴。

                再分享一下从昨晚到现在的一点儿收获,让Hermes去分析了大家热烈讨论的 https://github.com/nicejunjie/Strata-rdna3, 并对本地 Strata+IQ3_S 的配置进行了优化和测试,结果非常满意:

                指标 10-27 基线 10-29(--long) Δ
                chat decode(中位) 80.60 80.50 持平
                chat 首 token 0.32 s 0.31 s 持平
                4K prefill 1222.10 2094.00 +71%
                4K 首 token 3.31 s 1.95 s −41%
                16K prefill 1770.60 2804.80 +58%
                16K 首 token 9.11 s 5.77 s −37%
                32K prefill 1834.00 3193.60 +74%
                32K 首 token 17.53 s 10.09 s −42%
                agent 缓存命中 68.70% 68.65% 持平
                agent re-read/session 4 (4–74) 74 (2–74) 持平
                agent 回合首 token 3.26 s 2.54 s −22%
                agent decode 89.10 87.60 −2%(噪声内)

                注:以上结果是在显卡功率上限333w、电压 - 50mv的约束下测得。

                基于 strata-rdna3 优化的具体做法

                nicejunjie/Strata-rdna3 是上游 Strata 的 gfx1100(同款 7900 XTX)调优分叉。只取它的 env 配方,不合并代码树(落后上游、合并=完整重编+PCM 补丁重打)。流程五步:

                1. 找配方:fork 的 docs/RDNA3_SETTINGS.md 给出按 pack 的 env 开关集;同时确认本地 arch_default_env("gfx1100") 是空的——即这些调优路径在原版上默认全 OFF,是"免费的钱"。
                2. 重叠审计:对每个开关先 grep 本地 src/ + strings -a engine/strata | grep -i <switch>,确认 0.1.45 已编译进对应内核。26 个开关本地存在 → env-only 即可生效;GR_RDNA*、RDNA_MMVQ_WAVE、RDNA_Q6K 等 fork-only 内核不存在 → 记为日后 port 目标(decode 侧收益在那里)。
                3. env-only ABBA 验证:命令行一字不动,只往配置 env 注入 26 个开关,官方 bench --runs 2 --long 跑 ABBA——32K +70.4%,组内方差 ≤0.4%,是真效应不是漂移。
                4. 组归因:拆 wmma(+24%)/pf(+9%)/dec(+5.5%)/cpu(+5%) 单独臂——单加和只有 +43% 但全量 +74%,超可加(WMMA prompt attention 要靠 pf 预填路径喂),所以不能只挑单个开关上。
                5. 守则:他们的命令行不能抄(--ple-io direct、--pcie-frac 0 是 RAM 紧张机器的选择,本机 ram+0.20 是定案);数值不再逐位可复现(PF_F16=2、SELECT_WMMA),greedy sha256 回归测试要放宽;他们 CPU 是 9950X3D2,绝对值不可比,本机实测 3028。

                两次采纳修改的参数对比

                两次都是纯 env 修改,args 命令行完全未动:

                修改 时间/验证 env 变化 args 变化 效果
                ①STRATA_ROUTE_RESIDENT 10-27,ABBA×2 逐项验 /proc/environ 新增 1 个键:STRATA_ROUTE_RESIDENT=1 无 decode +17.5%,槽位/显存/草稿接受率不变,greedy 输出逐位一致
                ②RDNA3 gfx1100 env set 10-28,ABBA(bench --runs 2 --long) 新增 26 个键(见下表) 无 4K/16K/32K prefill +70/+56/+70%,decode/TTFT/命中率不变;代价:greedy 不再逐位复现

                env 键的前后对照(修改前生产 env 只有 3 个键):

                类别 键(=值) 状态
                原有基线 STRATA_HIPBLASLT_TUNING=<table-local-100401.txt>、STRATA_HIPBLASLT_VERBOSE=1、STRATA_ARENA_THP=1 10-27 前已有
                修改① 新增 STRATA_ROUTE_RESIDENT=1 10-27 采纳
                修改② WMMA 组 STRATA_HIP_WMMA=1、STRATA_SELECT_WMMA=1 10-28 采纳(+24%)
                修改② 预填路径组 STRATA_PF_F16=2、PF_GEMM=1、PF_FUSED=1、PF_PAD=1、PF_HCDOWN=1、PREFILL_RING=192、PREFILL_AUTO_MAX=32768、STAGER_RING=64、KV_HOST_DMA=1 10-28 采纳(+9%)
                修改② decode/融合组 GPU_MAX_HW_QUEUES=6、GDN_CHUNKED/CONVL2/HEAD/NOY/PP=1、HC_UPMIX=1、HEAD_MIX_MULTI=1、PA_FAST=1、QFUSE=1、FUSE_CONVAB=1、VERIFY_QDEDUP=1、SH_STREAM=0 10-28 采纳(+5.5%)
                修改② CPU 分担组 STRATA_PREFILL_CPU_SHARE=auto、PREFILL_CPU_SHARE_MAX=6144 10-28 采纳(+5%)

                当前生产 env 共 30 键(3 原有 + 1 + 26),已核对 strata-iq3s-0145.json;10-29 bench 的 prefill +60~74% 正是修改②的持续效果。

                terryT
                terryT
                terry
                易有太极
                编写于 最后由 编辑
                #14

                @Y-G-0 非常好,A卡N卡最近优化红利一波接着一波的。

                油管:https://www.youtube.com/@抡锤者

                1 条回复 最后回复
                0
                • xiaopbroX
                  xiaopbroX
                  xiaopbro
                  体面乡绅 硕果累累
                  编写于 最后由 编辑
                  #15

                  非常不错,如果还玩画图的话,感觉上N卡好一点。

                  1 条回复 最后回复
                  0
                  • xiongjie gaoX
                    xiongjie gaoX
                    xiongjie gao
                    王侯将相
                    编写于 最后由 xiongjie gao 编辑
                    #16

                    @Y-G-0 说:

                    但是,主板设计有问题:SYSFan的插座都是3针的,不支持DC调速。CPUFan的插座倒是有两个,而且都是4pin的,但厂家技术人员回复说,只有CPUFan 1是支持调速的。这个有点儿坑。期间买过利民的10口风扇集线器,发现用不上,退货了。反而板上有好多A-RGB的灯效接口,但对我没用。

                    图片
                    这个是风扇调速的解决方案
                    二十几块能解决大问题

                    https://github.com/shawn86574-prog/x99-7900xtx-p2p
                    https://github.com/shawn86574-prog/kuzuryusen

                    Y G 0Y 2 条回复 最后回复
                    1
                    • xiongjie gaoX xiongjie gao

                      @Y-G-0 说:

                      但是,主板设计有问题:SYSFan的插座都是3针的,不支持DC调速。CPUFan的插座倒是有两个,而且都是4pin的,但厂家技术人员回复说,只有CPUFan 1是支持调速的。这个有点儿坑。期间买过利民的10口风扇集线器,发现用不上,退货了。反而板上有好多A-RGB的灯效接口,但对我没用。

                      图片
                      这个是风扇调速的解决方案
                      二十几块能解决大问题

                      Y G 0Y
                      Y G 0Y
                      Y G 0
                      体面乡绅
                      编写于 最后由 编辑
                      #17

                      @xiongjie-gao

                      多谢分享,先去看一下!

                      X99洋垃圾+7900XTX

                      1 条回复 最后回复
                      0
                      • tao lanT
                        tao lanT
                        tao lan
                        编写于 最后由 编辑
                        #18

                        羡慕能买到全新蓝宝石风扇卡

                        1 条回复 最后回复
                        0
                        • XiaoteX
                          XiaoteX
                          Xiaote
                          易有太极
                          编写于 最后由 编辑
                          #19

                          🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!

                          奖励凭证:热议 +3 分 · 编号 h2605-3873-1

                          老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                          1 条回复 最后回复
                          0
                          • xiongjie gaoX xiongjie gao

                            @Y-G-0 说:

                            但是,主板设计有问题:SYSFan的插座都是3针的,不支持DC调速。CPUFan的插座倒是有两个,而且都是4pin的,但厂家技术人员回复说,只有CPUFan 1是支持调速的。这个有点儿坑。期间买过利民的10口风扇集线器,发现用不上,退货了。反而板上有好多A-RGB的灯效接口,但对我没用。

                            图片
                            这个是风扇调速的解决方案
                            二十几块能解决大问题

                            Y G 0Y
                            Y G 0Y
                            Y G 0
                            体面乡绅
                            编写于 最后由 编辑
                            #20

                            @xiongjie-gao

                            买了一个利民4口风扇集线器,十几块钱,插在cpufan_1上,把cpu风扇和机箱顶部的两个风扇接上去,让系统根据cpu和gpu的温度来调速,之前那两个顶部风扇之前都是100%转速疯狂运转的,这下子安静多了!

                            之前脑子短路了,只想着在主板上找第二个可调速的接口,却忘了风扇可以并联。现在三个风扇的总电流不到1A,主板供电应该没问题。

                            非常感谢指点!

                            X99洋垃圾+7900XTX

                            xiongjie gaoX 1 条回复 最后回复
                            0
                            • Y G 0Y Y G 0

                              @xiongjie-gao

                              买了一个利民4口风扇集线器,十几块钱,插在cpufan_1上,把cpu风扇和机箱顶部的两个风扇接上去,让系统根据cpu和gpu的温度来调速,之前那两个顶部风扇之前都是100%转速疯狂运转的,这下子安静多了!

                              之前脑子短路了,只想着在主板上找第二个可调速的接口,却忘了风扇可以并联。现在三个风扇的总电流不到1A,主板供电应该没问题。

                              非常感谢指点!

                              xiongjie gaoX
                              xiongjie gaoX
                              xiongjie gao
                              王侯将相
                              编写于 最后由 编辑
                              #21

                              @Y-G-0 三个一般没问题,串五个或以上走硬盘电源线

                              https://github.com/shawn86574-prog/x99-7900xtx-p2p
                              https://github.com/shawn86574-prog/kuzuryusen

                              1 条回复 最后回复
                              1
                              • Y G 0Y Y G 0

                                一、前言

                                一直想弄个本地的LLM服务器。其实没啥生产的需求,就是个人玩耍,让AI做点儿管理小程序、翻译和处理一些不便上网的文件。

                                10月之前想的是一套R9700+9700X+64G DDR5的平台跑Qwen3.8-27B,但看着显卡和内存的价格一路飙升,奔着3万去了,感觉非常不值得。

                                恰逢9月底Strata横空出世,便转换思路,决定先攒一套X99+DDR3+7900XTX的系统,以万把块钱的投入把Strata+Qwen3.8-Flash-Next跑起来,顺便尝试一下机智罗的ComfyUI整合包,作为新手单人练手也够用了。未来真要升级的话,无论是配双显卡,还是整体淘汰,到时候看需求再定,但估计很大概率是当前的配置一直用到淘汰为止了。

                                二、硬件配置

                                不想等双十一了,陆陆续续在10月12日前,从京东下单购买一堆散件,优惠后价格如下:

                                序号 品名 品牌型号与规格 价格
                                1 板U套装 华南金牌X99-TF + E5 2686V4 + 6铜管散热 841.55
                                2 内存 三星 DDR3 RECC 1600 32G x 4 拆机条 1194
                                3 显卡 蓝宝石 RX 7900XTX 白金版 8043.88
                                4 亮机卡 小影霸 R7 240 4GD3 233.06
                                5 SSD HP EX900plus Gen 3 1T 832.55
                                6 电源 长城 F10 1000W 白金牌 607.05
                                7 机箱 先马 黑洞PRO 222.72
                                8 显卡支架 联拓 铝合金 两段 磁吸 8.90
                                9 机箱风扇 利民 TL-C14C x 2 44
                                10 扩展卡 萌图 PCIe 转USB3.2 Gen2x2 20Gbps 145
                                11 蓝牙适配器 绿联 CM749 天线版 69.43
                                合计 12242.14

                                1.jpg

                                2.jpg

                                三、装机经验与教训

                                1. 板+U和内存的匹配

                                板+U选的是华南金牌的X99-TF+E5 2686V4。主板的官方资料宣称既支持DDR3,又支持DDR4,但不能混插,且每种规格最大128G。买之前让千问和deepseek分别评估了一下配置,都预警说2686V4只支持DDR4,不支持DDR3,建议换成2666V3。但店家客服回复说搭配DDR3 128G没问题,为避免分别购买板U出现问题不好处理,仍下了单,但做好万一不行就换CPU的心理准备。

                                到货组装后,一次点亮,板、U和内存均能正常工作,至少在这块主板上,2686V4支持128G DDR3没问题。可见,AI 的说法只能供参考,但并不一定完全正确。

                                但内存遇到点儿意外。店家是京东的一个销量较大的拍拍二手店,价格相对较低,但不是最低。开始是想买三星 DDR3 1866 的条子,但该店只剩2条了,且短期内不会补货。只好下单4根1600的条子,再三要求说一定要同品牌同颗粒的,店家也答应了,但到货测试时发现,3根是1600的,一根是1866的,但都能在1600下工作,也就不折腾了。BIOS中把内存频率设为1600,理论上4通道的带宽51.2G,在ubuntu下实测约42G。

                                这个板子也能支持DDR4,最大容量也是128g。按当前实际测试Strata+Qwen3.8-Flash-Next_IQ3_S的数据来看,DDR3 128G 表现不错,实测数据并未比DDR4 差很多,主要是价格便宜太多了。

                                2. 显卡的选择

                                9月份看 R9700 的时候,价格是10999-11999,但9月底突然涨价到 13999-14999,现在更是报出17999的价格,实在离谱,这个价格已经比两张7900xtx都贵了。

                                24G显存想跑27B的模型,确实有点儿小,不适合长上下文。但是,如果用Strata 跑 Flash-Next的长上下文,则没啥问题,对速度也没太大的影响,完全可以接受。

                                此外,参考坛友的经验和建议,配了一张亮机卡。个人认为还是很有必要的,可以让7900xtx的显存多放点儿专家。在现有主板(bios 版本5.11)上,该卡未遇到其他坛友提及的黑屏等事宜,可以正常点亮。而且三个插槽都试过,都能亮屏。当然这块亮机卡也有自己的问题:一是增加了系统复杂性,一些软件需要设置正确的显卡;二是这个卡的驱动太老了,AMD已不再更新,edge和brave等浏览器都要关闭GPU加速,否则容易出现向下翻页时GPU调用崩溃而闪屏。

                                顺便说一句:华南官网上有该主板6.0版本的BIOS,但它提供的刷机软件不能在win11 x64环境下运行,懒得再弄win pe之类的启动盘了,再加上目前没碰到什么问题,就不升级了。

                                目前三个PCIe 3.0的插槽分配是:

                                • 槽1(x16,靠近CPU的):7900xtx;
                                • 槽2(x16,中间的):R7 240;
                                • 槽3(x4,最下边的):PCIe 转 USB 3.2 Gen2 Tpye-E 转接卡,接机箱前面板的Type-C插口。

                                3.jpg

                                3. SSD的容量

                                该主板接口规格比较老,两个 M.2 NVME 接口一个是PCIe 3.0的(靠近CPU的),一个是2.0的(显卡下面的),这个说明书没明确说哪个是3.0的,装错了一次,挺坑的。

                                在这套配置中,没必要选太新型号的SSD,瓶颈是主板。如果想windows+ubuntu双系统,还要玩ComfyUI,1T的容量确实有点小,2T的价格又有点儿偏高。可能需要在2.0的口上插个500G-1T的作为仓库盘,或者配合NAS或其他移动SSD之类的来用存储暂时不用的文件。这也是配了一个USB 3.2 Gen2x2 20Gbps的转接卡的由头。

                                4. 机箱的教训

                                之前听说显卡满负荷时噪声较大,于是选了一个带静音棉的机箱。现在看这个选择很有问题:显卡高负荷运行时,风扇噪声并不算大,但温度很高。静音机箱确实真静音,但机箱上盖板很热,散热很差。幸好这个机箱的上盖板是磁吸的,还提供了一个透气网。现在把机箱的上盖板收起来了,只用透气网,再加上两个风扇,散热没问题了,但静音就不存在了 。早知如此,还不如买个更便宜的全透气的机箱呢,算是小白的教训吧。

                                4.jpg

                                5. 机箱风扇

                                这个机箱自带前后3个14cm的风扇,顶部可装2个14cm或3个12cm的风扇。于是买了两个利民的14cm的风扇,都是4pin的插线。

                                但是,主板设计有问题:SYSFan的插座都是3针的,不支持DC调速。CPUFan的插座倒是有两个,而且都是4pin的,但厂家技术人员回复说,只有CPUFan 1是支持调速的。这个有点儿坑。期间买过利民的10口风扇集线器,发现用不上,退货了。反而板上有好多A-RGB的灯效接口,但对我没用。

                                6. 显卡支架

                                这个机箱在PCIe插槽的螺钉处设计了一个压板,与7900XTX自带的支架冲突,于是买了一个可调高度的磁吸支架。这个与显卡安装位置有关,如果7900XTX插在中间的槽上,几乎贴在电源区的隔板上,不但盖住了主板的PCIe 3.0 x 4的槽,而且也没有安装支架的空间了。

                                四、运行Strata的情况

                                1. 模型的选择

                                目前选定的是Qwen3.8-Flash-Next-IQ3_S,也曾测试过UD Q4_K_XL,让DeepSeek Harness出了八道测试AI能力的题,结果是没什么差别,但Q4_K_XL消耗的资源更多,速度也慢。

                                2. Windows 11下的表现

                                在Windows 11专业版中,由于驱动的关系,Strata能跑起来,但显存的利用不如Ubuntu,只能加载8000左右的专家,无论prefill 还是 decode ,都比Ubuntu下慢很多。印象里长上下文的prefill最高800-1000 t/s,decode 大约 60-70 t/s。此外,Strata的监控界面大量的参数取不到,看着很不爽。于是卸载,彻底转向Ubuntu。

                                3. Ubuntu 24.04.5 LTS 下的表现

                                对Ubuntu不熟,安装完系统后,基本都是让 Hermes 帮忙进行Strata的安装和配置,以及测速和调优。最初的版本是0.1.44,后升级至0.1.45并保持至今,每次Strata发布新版后,都让Hermes 去分析一下是否值得升级,但每次返回的结论都是没必要,因为新的改动基本都与7900XTX关系不大。

                                在128K上下文、显卡保留500M余量、功率帽分别限定为303W(默认)/ 272W(下限) / 288W(折中)的情况下,用Strata自带的bench测试情况如下:

                                指标 272W 288W 303W
                                chat decode 63.5 61.5 61.1
                                agent decode 84.6 82.2 83.0
                                4K prefill (TTFT) 1181 (3.43s) 1187 (3.41s) 1185 (3.42s)
                                16K prefill (TTFT) 1674 (9.63s) 1706 (9.45s) 1728 (9.34s)
                                32K prefill (TTFT) 1683 (19.10s) 1732 (18.56s) 1755 (18.31s)
                                agent 缓存命中 68.7% 68.6% 68.8%

                                对此Hermes的判读:

                                • prefill 16K/32K 呈单调上升,4K 已在噪声内,数字很稳(三次重复测量的波动 <1%):272 → 288 → 303 分别是 32K 1683 / 1732 / 1755,即 288W 拿到 303W 增益的约 2/3。
                                • decode 在 288/303 都差不多(61 上下),272 略高但在已知的 ±10 tok/s 前缀缓存噪声内。
                                • 综合看 288W 是合理折中:保住长上下文 TTFT 大部分收益(32K 比 272 快 2.9%),decode 不亏,温度更低。

                                5.png

                                原版的Strata Monitor界面是读不到X99-TF主板的PCIe 的状态的,让 Hermes 接入本地的 Strata+IQ3_S 模型修了一下,同时另做了一个系统监测和模型加载参数调节的页面,与Strata Monitor界面互为补充。

                                6.png

                                五、运行机智罗ComfyUI整合包的情况

                                下载了机智罗整合的ComfyUI整合包 V7,这个就是纯小白新试水了,安装和运行倒是简单,如有报警或错误,就把启动日志丢给AI,它会帮你分析脚本中的bug并修正。

                                目前整合包的各工作流能跑了,但接下来需要补课的东西太多了,也算活到老学到了吧。

                                7.jpg

                                六、结语

                                一分钱一分货,自己的心态要摆正。既然选了洋垃圾,就别期望太高,能跑能用就挺好,目前没啥不满意的。

                                Hudson WongH
                                Hudson WongH
                                Hudson Wong
                                编写于 最后由 编辑
                                #22

                                @Y-G-0
                                楼主好,
                                请问下,
                                你为什么会选1600 ddr 3 而不是 1866 ddr 3 呢?
                                我也想采购类似一套,看到两者的价钱基本没差,想问是不是有兼容性问题。

                                Y G 0Y 1 条回复 最后回复
                                0
                                • Hudson WongH Hudson Wong

                                  @Y-G-0
                                  楼主好,
                                  请问下,
                                  你为什么会选1600 ddr 3 而不是 1866 ddr 3 呢?
                                  我也想采购类似一套,看到两者的价钱基本没差,想问是不是有兼容性问题。

                                  Y G 0Y
                                  Y G 0Y
                                  Y G 0
                                  体面乡绅
                                  编写于 最后由 编辑
                                  #23

                                  @Hudson-Wong

                                  请看一楼:三、装机经验与教训 1. 板+U和内存的匹配

                                  X99洋垃圾+7900XTX

                                  1 条回复 最后回复
                                  0

                                  你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                  厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                  有了你的建议,这篇帖子会更精彩哦 💗

                                  注册 登录
                                  回复
                                  • 在新帖中回复
                                  登录后回复
                                  • 从旧到新
                                  • 从新到旧
                                  • 最多赞同


                                  • 登录

                                  • 登录或注册以进行搜索。
                                  • 第一个帖子
                                    最后一个帖子
                                  0
                                  • 版块
                                  • 最新
                                  • 标签
                                  • 热门
                                  • 用户
                                  • 群组