一、前言
一直想弄个本地的LLM服务器。其实没啥生产的需求，就是个人玩耍，让AI做点儿管理小程序、翻译和处理一些不便上网的文件。
10月之前想的是一套R9700+9700X+64G DDR5的平台跑Qwen3.8-27B，但看着显卡和内存的价格一路飙升，奔着3万去了，感觉非常不值得。
恰逢9月底Strata横空出世，便转换思路，决定先攒一套X99+DDR3+7900XTX的系统，以万把块钱的投入把Strata+Qwen3.8-Flash-Next跑起来，顺便尝试一下机智罗的ComfyUI整合包，作为新手单人练手也够用了。未来真要升级的话，无论是配双显卡，还是整体淘汰，到时候看需求再定，但估计很大概率是当前的配置一直用到淘汰为止了。
二、硬件配置
不想等双十一了，陆陆续续在10月12日前，从京东下单购买一堆散件，优惠后价格如下：
| 序号 | 品名 | 品牌型号与规格 | 价格 |
|---|---|---|---|
| 1 | 板U套装 | 华南金牌X99-TF + E5 2686V4 + 6铜管散热 | 841.55 |
| 2 | 内存 | 三星 DDR3 RECC 1600 32G x 4 拆机条 | 1194 |
| 3 | 显卡 | 蓝宝石 RX 7900XTX 白金版 | 8043.88 |
| 4 | 亮机卡 | 小影霸 R7 240 4GD3 | 233.06 |
| 5 | SSD | HP EX900plus Gen 3 1T | 832.55 |
| 6 | 电源 | 长城 F10 1000W 白金牌 | 607.05 |
| 7 | 机箱 | 先马 黑洞PRO | 222.72 |
| 8 | 显卡支架 | 联拓 铝合金 两段 磁吸 | 8.90 |
| 9 | 机箱风扇 | 利民 TL-C14C x 2 | 44 |
| 10 | 扩展卡 | 萌图 PCIe 转USB3.2 Gen2x2 20Gbps | 145 |
| 11 | 蓝牙适配器 | 绿联 CM749 天线版 | 69.43 |
| 合计 | 12242.14 |
三、装机经验与教训
1. 板+U和内存的匹配
板+U选的是华南金牌的X99-TF+E5 2686V4。主板的官方资料宣称既支持DDR3，又支持DDR4，但不能混插，且每种规格最大128G。买之前让千问和deepseek分别评估了一下配置，都预警说2686V4只支持DDR4，不支持DDR3，建议换成2666V3。但店家客服回复说搭配DDR3 128G没问题，为避免分别购买板U出现问题不好处理，仍下了单，但做好万一不行就换CPU的心理准备。
到货组装后，一次点亮，板、U和内存均能正常工作，至少在这块主板上，2686V4支持128G DDR3没问题。可见，AI 的说法只能供参考，但并不一定完全正确。
但内存遇到点儿意外。店家是京东的一个销量较大的拍拍二手店，价格相对较低，但不是最低。开始是想买三星 DDR3 1866 的条子，但该店只剩2条了，且短期内不会补货。只好下单4根1600的条子，再三要求说一定要同品牌同颗粒的，店家也答应了，但到货测试时发现，3根是1600的，一根是1866的，但都能在1600下工作，也就不折腾了。BIOS中把内存频率设为1600，理论上4通道的带宽51.2G，在ubuntu下实测约42G。
这个板子也能支持DDR4，最大容量也是128g。按当前实际测试Strata+Qwen3.8-Flash-Next_IQ3_S的数据来看，DDR3 128G 表现不错，实测数据并未比DDR4 差很多，主要是价格便宜太多了。
2. 显卡的选择
9月份看 R9700 的时候，价格是10999-11999，但9月底突然涨价到 13999-14999，现在更是报出17999的价格，实在离谱，这个价格已经比两张7900xtx都贵了。
24G显存想跑27B的模型，确实有点儿小，不适合长上下文。但是，如果用Strata 跑 Flash-Next的长上下文，则没啥问题，对速度也没太大的影响，完全可以接受。
此外，参考坛友的经验和建议，配了一张亮机卡。个人认为还是很有必要的，可以让7900xtx的显存多放点儿专家。在现有主板（bios 版本5.11）上，该卡未遇到其他坛友提及的黑屏等事宜，可以正常点亮。而且三个插槽都试过，都能亮屏。当然这块亮机卡也有自己的问题：一是增加了系统复杂性，一些软件需要设置正确的显卡；二是这个卡的驱动太老了，AMD已不再更新，edge和brave等浏览器都要关闭GPU加速，否则容易出现向下翻页时GPU调用崩溃而闪屏。
顺便说一句：华南官网上有该主板6.0版本的BIOS，但它提供的刷机软件不能在win11 x64环境下运行，懒得再弄win pe之类的启动盘了，再加上目前没碰到什么问题，就不升级了。
目前三个PCIe 3.0的插槽分配是：
- 槽1（x16，靠近CPU的）：7900xtx；
- 槽2（x16，中间的）：R7 240；
- 槽3（x4，最下边的）：PCIe 转 USB 3.2 Gen2 Tpye-E 转接卡，接机箱前面板的Type-C插口。
3. SSD的容量
该主板接口规格比较老，两个 M.2 NVME 接口一个是PCIe 3.0的（靠近CPU的），一个是2.0的（显卡下面的），这个说明书没明确说哪个是3.0的，装错了一次，挺坑的。
在这套配置中，没必要选太新型号的SSD，瓶颈是主板。如果想windows+ubuntu双系统，还要玩ComfyUI，1T的容量确实有点小，2T的价格又有点儿偏高。可能需要在2.0的口上插个500G-1T的作为仓库盘，或者配合NAS或其他移动SSD之类的来用存储暂时不用的文件。这也是配了一个USB 3.2 Gen2x2 20Gbps的转接卡的由头。
4. 机箱的教训
之前听说显卡满负荷时噪声较大，于是选了一个带静音棉的机箱。现在看这个选择很有问题：显卡高负荷运行时，风扇噪声并不算大，但温度很高。静音机箱确实真静音，但机箱上盖板很热，散热很差。幸好这个机箱的上盖板是磁吸的，还提供了一个透气网。现在把机箱的上盖板收起来了，只用透气网，再加上两个风扇，散热没问题了，但静音就不存在了 。早知如此，还不如买个更便宜的全透气的机箱呢，算是小白的教训吧。
5. 机箱风扇
这个机箱自带前后3个14cm的风扇，顶部可装2个14cm或3个12cm的风扇。于是买了两个利民的14cm的风扇，都是4pin的插线。
但是，主板设计有问题：SYSFan的插座都是3针的，不支持DC调速。CPUFan的插座倒是有两个，而且都是4pin的，但厂家技术人员回复说，只有CPUFan 1是支持调速的。这个有点儿坑。期间买过利民的10口风扇集线器，发现用不上，退货了。反而板上有好多A-RGB的灯效接口，但对我没用。
6. 显卡支架
这个机箱在PCIe插槽的螺钉处设计了一个压板，与7900XTX自带的支架冲突，于是买了一个可调高度的磁吸支架。这个与显卡安装位置有关，如果7900XTX插在中间的槽上，几乎贴在电源区的隔板上，不但盖住了主板的PCIe 3.0 x 4的槽，而且也没有安装支架的空间了。
四、运行Strata的情况
1. 模型的选择
目前选定的是Qwen3.8-Flash-Next-IQ3_S，也曾测试过UD Q4_K_XL，让DeepSeek Harness出了八道测试AI能力的题，结果是没什么差别，但Q4_K_XL消耗的资源更多，速度也慢。
2. Windows 11下的表现
在Windows 11专业版中，由于驱动的关系，Strata能跑起来，但显存的利用不如Ubuntu，只能加载8000左右的专家，无论prefill 还是 decode ，都比Ubuntu下慢很多。印象里长上下文的prefill最高800-1000 t/s，decode 大约 60-70 t/s。此外，Strata的监控界面大量的参数取不到，看着很不爽。于是卸载，彻底转向Ubuntu。
3. Ubuntu 24.04.5 LTS 下的表现
对Ubuntu不熟，安装完系统后，基本都是让 Hermes 帮忙进行Strata的安装和配置，以及测速和调优。最初的版本是0.1.44，后升级至0.1.45并保持至今，每次Strata发布新版后，都让Hermes 去分析一下是否值得升级，但每次返回的结论都是没必要，因为新的改动基本都与7900XTX关系不大。
在128K上下文、显卡保留500M余量、功率帽分别限定为303W（默认）/ 272W（下限） / 288W（折中）的情况下，用Strata自带的bench测试情况如下：
| 指标 | 272W | 288W | 303W |
|---|---|---|---|
| chat decode | 63.5 | 61.5 | 61.1 |
| agent decode | 84.6 | 82.2 | 83.0 |
| 4K prefill (TTFT) | 1181 (3.43s) | 1187 (3.41s) | 1185 (3.42s) |
| 16K prefill (TTFT) | 1674 (9.63s) | 1706 (9.45s) | 1728 (9.34s) |
| 32K prefill (TTFT) | 1683 (19.10s) | 1732 (18.56s) | 1755 (18.31s) |
| agent 缓存命中 | 68.7% | 68.6% | 68.8% |
对此Hermes的判读：
- prefill 16K/32K 呈单调上升，4K 已在噪声内，数字很稳（三次重复测量的波动 <1%）：272 → 288 → 303 分别是 32K 1683 / 1732 / 1755，即 288W 拿到 303W 增益的约 2/3。
- decode 在 288/303 都差不多（61 上下），272 略高但在已知的 ±10 tok/s 前缀缓存噪声内。
- 综合看 288W 是合理折中：保住长上下文 TTFT 大部分收益（32K 比 272 快 2.9%），decode 不亏，温度更低。
原版的Strata Monitor界面是读不到X99-TF主板的PCIe 的状态的，让 Hermes 接入本地的 Strata+IQ3_S 模型修了一下，同时另做了一个系统监测和模型加载参数调节的页面，与Strata Monitor界面互为补充。
五、运行机智罗ComfyUI整合包的情况
下载了机智罗整合的ComfyUI整合包 V7，这个就是纯小白新试水了，安装和运行倒是简单，如有报警或错误，就把启动日志丢给AI，它会帮你分析脚本中的bug并修正。
目前整合包的各工作流能跑了，但接下来需要补课的东西太多了，也算活到老学到了吧。
六、结语
一分钱一分货，自己的心态要摆正。既然选了洋垃圾，就别期望太高，能跑能用就挺好，目前没啥不满意的。
