温哥华攒机历程散记
-
-
最近我也有注意到gigabyte 这款，卖价也比其他的便宜
-
-
Vancouver is part of the Greater China Area
-
-
-
ebay虾皮做的真挺差的。国内电商杀进去都是降维度打击
-
ebay虾皮做的真挺差的。国内电商杀进去都是降维度打击
-
@xiongjie-gao 我弟这也懂？
@xiongjie-gao 我弟这也懂？
我不懂，身边有人做这个。平时搞神神秘秘的，一直也没问他
一次喝大了才说起来这个，节奏很长，总结起来就是：不是看不起国外电商，一个能打的都没有
酒后的牛皮水价肯定是有的，但看他那几年从身陷债务囹圄到至少说小富即安，而且都是一个人在打理，应该是可信的 -
-
ebay虾皮做的真挺差的。国内电商杀进去都是降维度打击
-
@xiongjie-gao
ebay存在的意义是，下手那些刚退役的一手企业服务器、电脑等等，有些甚至还有没过期的官方保修，国内海鲜市场的话，不知道是N手货了。 -
-
-
装机 （11月4日）
SSD尚在海运，不等了！迫不及待开始从原来的X99-CD3 迁移到 X99-TF。装了2个小时，老腰不保。直接上图：
X99-TF是标准ATX大板，相比X99-CD3 尺寸会大一些。视觉上我会TF唯一的不满就是后置IO区域是白色，和整体风格略为不搭。如果换成磨砂黑就好了。
两张技嘉R9700，颜值是真的高。我连logo贴纸都舍不得撕。PCIe 挡板位几乎满载，中间红色是Fnvi无线网卡，最下方是 GT710 亮机卡。
开机图，因为TF主板有ARGB针脚，试了试效果。机箱是DarkFlash DY460，自带4个带灯效的风扇。
-
系统设置 （11月4日）
运气不错。一次性点亮。首先按Del键进入BIOS，只做了如下改动：
- 修改时间
- 关闭CSM
- 开启 Above 4G Decoding 和 Resizable BAR
- 调整风扇参数，各级转速都调整为原值-50（比如140->90，依此类推)
没有重装系统，开机自动识别原来SSD里装的Ubuntu26.04，顺利开机进入桌面。第一件事就是请dsh + deepseek检测系统状态，结果超出预期：
-
双卡 PCIe x 16
-
四通道内存：2 x 32 12800R + 2 x 16 12800R
-
P2P 默认就是通的
deepseek 还贴心的写了一个health.sh 脚本，帮我汇总了我关心的系统健康情况，输出如图：
几个涉及噪音的点：
-
两张R9700都设置了功耗墙，限制最高210w，此时GPU风扇转速2500左右，噪音我觉得能接受。设置完全由deepseek操作并注册为系统服务。
-
实测只有CPU_FAN1（位于右侧内存插槽下方）支持PWM调速，也有坛友反馈过类似的问题。我的解决方案就是用一个一拖二的4Pin线接CPU_FAN1，分出的一支接CPU风扇，一支接机箱背侧的风扇Hub（购于AliExpress），实现所有风扇统一调速。
-
供电模组上方的两个小风扇风噪比X99-CD3好，但我还是不能接受。已经从淘宝下单2pin减速50%的红色风扇减速线，再忍10日!
-
简单测试 （11月5日）
之前 R9700 单卡用 Radiance 跑 Qwen3.8-27B-DFLASH2-PARO-M2XFP4.rad，decode一般都在130左右，已经很爽。
换成双卡 + qwen3.8-27b-mxfp4.rad，跑之前的长程任务，速度直接接近200，完全不输在线API，直接爽翻。
让 deepseek 设计了一个简单的测试方案，针对我常用的Hermes Agent / DeepSeek Harness 使用场景，分别测试 Radiance v1.17.0 双卡跑 qwen3.8-27b-mxfp4.rad / qwen3.8-27b-mxfp4.rad / qwen3.8-next-flash-fp8-iq4r-moe.rad 的性能。
实际使用体感上，和大多数坛友的选择一样，求快的一般性任务用Qwen3.8-27B · MXFP4，稍微复杂一些的就上 Qwen3.8-Flash-Next 。
以下由deepseek产出，供大家参考。
Qwen3.8 系列双卡性能实测
测试条件：2 × Radeon AI PRO R9700（gfx1201，31.86 GiB/卡，210 W 功耗墙），AMD Xeon E5-2666 v3，96 GiB DDR3 四通道，PCIe 3.0 x16 ×2，P2P 10.2 GB/s
引擎：radiance 1.17.0，--tp 2 --tp-wire wht6 --tp-wire-min-kb 128，并发 1，greedy，输出 512 token
语料：random = 随机 token id；散文 = radiance docs 纯段落；代码 = radiance 源码；表格 = docs 中 markdown 表格片段
每格取值：4 条不同 prompt 的中位数Qwen3.8-27B · MXFP4（AMD Quark AWQ）· 30.55 B 参数 · 18.04 GiB · 5.07 bpw
语料 上下文 Prefill (tok/s) ms/step 接受率 Decode (tok/s) random 8K 4845 20.1 20.1% 120 random 64K 4035 22.4 58.1% 226 散文 8K 4673 20.4 80.7% 325 散文 64K 3969 22.5 32.5% 146 代码 8K 4633 20.4 55.1% 238 代码 64K 3929 22.6 43.1% 178 表格 8K 4576 20.4 52.2% 229 表格 64K 3927 22.9 85.1% 293 Qwen3.8-27B · IQ6R（w8a8_fwht128）· 30.55 B 参数 · 22.56 GiB · 6.34 bpw
语料 上下文 Prefill (tok/s) ms/step 接受率 Decode (tok/s) random 8K 4051 26.5 18.0% 85 random 64K 3473 29.0 39.1% 129 散文 8K 3966 26.9 75.9% 230 散文 64K 3485 29.2 26.1% 97 代码 8K 4045 26.9 49.6% 167 代码 64K 3450 29.4 47.7% 147 表格 8K 3975 26.8 46.2% 158 表格 64K 3473 29.5 73.3% 209 Qwen3.8-Flash-Next · FP8 主干 + IQ4R MoE · 180.64 B 参数 · 113.42 GiB · 5.39 bpw
语料 上下文 Prefill (tok/s) ms/step 接受率 Decode (tok/s) random 8K 2648 * 21.6 42.7% 151 random 64K 3126 22.7 48.3% 160 散文 8K 3853 * 21.1 36.4% 133 散文 64K 3902 21.2 38.6% 129 代码 8K 3589 * 25.5 57.4% 151 代码 64K 3811 27.9 54.9% 138 表格 8K 3170 * 26.8 50.1% 125 表格 64K 3985 29.9 36.6% 94 汇总
模型 bpw 参数量 Prefill 8K Prefill 64K ms/step 8K ms/step 64K Decode 区间 27B mxfp4 5.07 30.55 B 4682 3965 20.3 22.6 120–325 27B iq6r 6.34 30.55 B 4009 3471 26.8 29.3 85–230 Flash-Next 5.39 180.64 B 3315 * 3706 23.8 25.4 94–160 注释
*标记：Flash-Next 的 8K 预填充受冷启动影响偏低（4 项反而低于 64K，不符合规律），原因是专家首次触达与页缓存未热。64K 列（~3.7K tok/s）才是其稳态值，8K 需预热后重测。random @ 64K的接受率不可用作下限（58% / 39% / 48%，显著高于同域 8K 的 20% / 18% / 43%）。随机 token 上下文会导致模型退化为重复输出，投机器反而容易命中。- Prefill 与语料类型基本无关（同一上下文下差异 ≤3%），与上下文长度强相关（8K→64K 下降 12–15%）。
- Decode 由「权重带宽」和「投机接受率」共同决定：
decode ≈ (1 + 接受率 × 投机深度) × 1000 / ms_step。ms/step 反映硬件（与 bpw 成正比），接受率反映内容与投机器。
-
写在不是最后的最后
作为前技术从业者，在限定条件下穷尽各种手段寻求最优解，不仅仅是工作习惯，其中过程亦是乐趣的来源。
从年初开始接触自搭AI环境，转眼就快到年底。眼看着硬件价格水涨船高，眼看着模型王座车轮变幻，眼看着国产模型迎头赶上。眼看着推理框架层出不穷...... 浪潮汹涌，我就一叶扁舟轻帆卷跟在后面，尽量不让自己落得太远就好。
半年前发现本论坛就第一时间加入进来。感谢Terry和众多坛友，我从论坛获得了很多重要的讯息，更重要是感受到了久违的充满浓郁分享气息的互联网前期技术论坛的氛围。
目前基本实现 token 自由了，硬件方面的尝试会告一段落。接下来重点投入到如何善用我的AI机创造出更大的生产力，帮助家人和自己优化学习和改善生活。
厉马秣兵，迎接Qwen 4！
-
-
版主审定：本帖设为优秀，作者 +3 积分奖励，继续加油！
Ebay确实有这闲鱼属性
本帖由优秀升级为精华（两者互斥，只补差价），作者 +3 积分，累计 6 分。