温哥华攒机历程散记
-
随着Strata和Radiance的大火,决定升级本地算力。羡慕我大中华地区丰富多元的市场和便捷高效的物流,人在温哥华,为了攒一台合用的爱(AI)机,也算是费尽心机了。目标是在双11前后完成各项硬件采购,本帖作为记录。
目标配置
项目 配置 CPU E5-2666V3(已有) 主板 华南金牌 X99-TF 内存 128GB DDR3 显卡 R9700 or 7900XTX 存储 1Tb PCIe x 3 亮机卡 随缘 CPU风扇 随缘 WI-FI卡 随缘 首先感谢淘宝/京东终于近年来也开始照顾散落全球各地的华人了,淘宝这两年来开始发满减境外免邮券,京东今年也有了。今年双十一,淘宝的活动是满499-189的2kg标准空运邮费券,但支持的电子产品较少:

京东门槛高一些,但支持更多的电子产品:

其次,在加拿大购买电脑硬件,通常选择就是线下:CanadaComputer / MemoryExpress, 线上:Amazon.ca / Newegg.ca 。加拿大市场虽然小,导致门店选择不多,还时常缺货。但小亦也有小的好处:就是通常不用抢,只要发现有货,通常都能买到。而且时有好价,比边上美国还便宜。顺带说下,这边商品的报价不含税,实付通常加上12%的税和运费。
Gigabyte R9700 (10月29日)
7月份已在MemoryExpress 花 C$1899 剁了一张Gigabyte R9700。 当时各品牌价格都在C$1999左右。选择技嘉而不是Asus/ARock/蓝宝石/XFX,主要是颜值,而且Reddit上有不少人分享Gigabyte噪音控制更佳。随后价格飞涨,市场都在2600加币左右,且有价无货。上周突然监控到MemoryExpress新到一批Gigabyte R9700,价格C$2659.99。本来犹豫是不是忍忍等到黑五,但感觉Strata和Radiance的热度不断提升,极有可能持续推高显卡价格,还是选择早日落袋为安。遂抽空去门店抱了回来。


今天一早,Hermes Agent发来监控提醒,幸哉。

亮机卡ASUS Nvidia GT-710 (10月29日)
前天在 Facebook 的 MarketPlace 上发现附近有人出手。一番沟通后顺利拿下,今天驱车来回50公里取了来。卖家貌似也是华裔,把卡保护得很好。它功耗低无风扇,简直不要太理想。

本来以为亮机卡即插即用,没想到还是遇到些挫折。主要是Ubuntu26.04上Nvidia官方驱动已经不再支持这款老卡。导致开机只能800x600分辨率,自然是交给Deepseek Harness + Flash V4 去搞定。

振华 Leadex VII 1000w (10月30日)
newegg.ca 官网下单,物流一周,今天送到了。

选Super Flower(国内叫振华)是因为之前的1350W也是同系列。R9700 需要12pin接口电源线,一个电源只带一条,双卡自然也就需要两条。
newegg.ca 正好有促销 C$159,折算下来和国内价格相当。在京东买是可达免邮门槛的,但只能走海运,要40天左右才送达,且放弃售后保障。最终还是本地下单了。

DDR3 32G 1600 (10月30日)
今天,淘宝上空运来的两条DDR3内存送达。

¥299一条,不带马甲,其实单价偏高。奈何只有此商家支持淘宝运费券,且只有1600规格。但算上免邮可以接受。21日下单,10天收到,期待菜鸟早日实现72小时全球达。

先买两条试试水,没问题再下单两条,分散风险。规格12800R(论坛上有坛友反馈12800L规格兼容性差一些,AI也是这么说)。插在现有的X99-CD3上,内核正确识别。没有用memtest86去压测,就用deepseek建议的stress-ng 简单测试了10分钟,没报错,ECC计数也全是0,应该没有翻车吧。
主板 X99-TF (11月1日)
10月31日是万圣节,快递小哥没有休假,把主板送过来了。22日下单,10天内到手。上图:

有人关注到细节了吗?竟然没有CMOS电池!正怀疑华南金牌偷偷减配,再想应该是菜鸟集运仓取下了电池以避免增加清关风险。 等另一组内存和SSD到手,就点亮测试!
还剩SSD,待续......
-
-
-
最近我也有注意到gigabyte 这款,卖价也比其他的便宜
-
-
Vancouver is part of the Greater China Area
-
-
-
ebay虾皮做的真挺差的。国内电商杀进去都是降维度打击
-
ebay虾皮做的真挺差的。国内电商杀进去都是降维度打击
-
@xiongjie-gao 我弟这也懂?
@xiongjie-gao 我弟这也懂?
我不懂,身边有人做这个。平时搞神神秘秘的,一直也没问他
一次喝大了才说起来这个,节奏很长,总结起来就是:不是看不起国外电商,一个能打的都没有
酒后的牛皮水价肯定是有的,但看他那几年从身陷债务囹圄到至少说小富即安,而且都是一个人在打理,应该是可信的 -
-
ebay虾皮做的真挺差的。国内电商杀进去都是降维度打击
-
@xiongjie-gao
ebay存在的意义是,下手那些刚退役的一手企业服务器、电脑等等,有些甚至还有没过期的官方保修,国内海鲜市场的话,不知道是N手货了。 -
-
-
装机 (11月4日)
SSD尚在海运,不等了!迫不及待开始从原来的X99-CD3 迁移到 X99-TF。装了2个小时,老腰不保。直接上图:

X99-TF是标准ATX大板,相比X99-CD3 尺寸会大一些。视觉上我会TF唯一的不满就是后置IO区域是白色,和整体风格略为不搭。如果换成磨砂黑就好了。

两张技嘉R9700,颜值是真的高。我连logo贴纸都舍不得撕。PCIe 挡板位几乎满载,中间红色是Fnvi无线网卡,最下方是 GT710 亮机卡。

开机图,因为TF主板有ARGB针脚,试了试效果。机箱是DarkFlash DY460,自带4个带灯效的风扇。
-
系统设置 (11月4日)
运气不错。一次性点亮。首先按Del键进入BIOS,只做了如下改动:
- 修改时间
- 关闭CSM
- 开启 Above 4G Decoding 和 Resizable BAR
- 调整风扇参数,各级转速都调整为原值-50(比如140->90,依此类推)
没有重装系统,开机自动识别原来SSD里装的Ubuntu26.04,顺利开机进入桌面。第一件事就是请dsh + deepseek检测系统状态,结果超出预期:
-
双卡 PCIe x 16

-
四通道内存:2 x 32 12800R + 2 x 16 12800R

-
P2P 默认就是通的

deepseek 还贴心的写了一个health.sh 脚本,帮我汇总了我关心的系统健康情况,输出如图:

几个涉及噪音的点:
-
两张R9700都设置了功耗墙,限制最高210w,此时GPU风扇转速2500左右,噪音我觉得能接受。设置完全由deepseek操作并注册为系统服务。
-
实测只有CPU_FAN1(位于右侧内存插槽下方)支持PWM调速,也有坛友反馈过类似的问题。我的解决方案就是用一个一拖二的4Pin线接CPU_FAN1,分出的一支接CPU风扇,一支接机箱背侧的风扇Hub(购于AliExpress),实现所有风扇统一调速。

-
供电模组上方的两个小风扇风噪比X99-CD3好,但我还是不能接受。已经从淘宝下单2pin减速50%的红色风扇减速线,再忍10日!

-
简单测试 (11月5日)
之前 R9700 单卡用 Radiance 跑 Qwen3.8-27B-DFLASH2-PARO-M2XFP4.rad,decode一般都在130左右,已经很爽。
换成双卡 + qwen3.8-27b-mxfp4.rad,跑之前的长程任务,速度直接接近200,完全不输在线API,直接爽翻。

让 deepseek 设计了一个简单的测试方案,针对我常用的Hermes Agent / DeepSeek Harness 使用场景,分别测试 Radiance v1.17.0 双卡跑 qwen3.8-27b-mxfp4.rad / qwen3.8-27b-mxfp4.rad / qwen3.8-next-flash-fp8-iq4r-moe.rad 的性能。
实际使用体感上,和大多数坛友的选择一样,求快的一般性任务用Qwen3.8-27B · MXFP4,稍微复杂一些的就上 Qwen3.8-Flash-Next 。
以下由deepseek产出,供大家参考。
Qwen3.8 系列双卡性能实测
测试条件:2 × Radeon AI PRO R9700(gfx1201,31.86 GiB/卡,210 W 功耗墙),AMD Xeon E5-2666 v3,96 GiB DDR3 四通道,PCIe 3.0 x16 ×2,P2P 10.2 GB/s
引擎:radiance 1.17.0,--tp 2 --tp-wire wht6 --tp-wire-min-kb 128,并发 1,greedy,输出 512 token
语料:random = 随机 token id;散文 = radiance docs 纯段落;代码 = radiance 源码;表格 = docs 中 markdown 表格片段
每格取值:4 条不同 prompt 的中位数Qwen3.8-27B · MXFP4(AMD Quark AWQ)· 30.55 B 参数 · 18.04 GiB · 5.07 bpw
语料 上下文 Prefill (tok/s) ms/step 接受率 Decode (tok/s) random 8K 4845 20.1 20.1% 120 random 64K 4035 22.4 58.1% 226 散文 8K 4673 20.4 80.7% 325 散文 64K 3969 22.5 32.5% 146 代码 8K 4633 20.4 55.1% 238 代码 64K 3929 22.6 43.1% 178 表格 8K 4576 20.4 52.2% 229 表格 64K 3927 22.9 85.1% 293 Qwen3.8-27B · IQ6R(w8a8_fwht128)· 30.55 B 参数 · 22.56 GiB · 6.34 bpw
语料 上下文 Prefill (tok/s) ms/step 接受率 Decode (tok/s) random 8K 4051 26.5 18.0% 85 random 64K 3473 29.0 39.1% 129 散文 8K 3966 26.9 75.9% 230 散文 64K 3485 29.2 26.1% 97 代码 8K 4045 26.9 49.6% 167 代码 64K 3450 29.4 47.7% 147 表格 8K 3975 26.8 46.2% 158 表格 64K 3473 29.5 73.3% 209 Qwen3.8-Flash-Next · FP8 主干 + IQ4R MoE · 180.64 B 参数 · 113.42 GiB · 5.39 bpw
语料 上下文 Prefill (tok/s) ms/step 接受率 Decode (tok/s) random 8K 2648 * 21.6 42.7% 151 random 64K 3126 22.7 48.3% 160 散文 8K 3853 * 21.1 36.4% 133 散文 64K 3902 21.2 38.6% 129 代码 8K 3589 * 25.5 57.4% 151 代码 64K 3811 27.9 54.9% 138 表格 8K 3170 * 26.8 50.1% 125 表格 64K 3985 29.9 36.6% 94 汇总
模型 bpw 参数量 Prefill 8K Prefill 64K ms/step 8K ms/step 64K Decode 区间 27B mxfp4 5.07 30.55 B 4682 3965 20.3 22.6 120–325 27B iq6r 6.34 30.55 B 4009 3471 26.8 29.3 85–230 Flash-Next 5.39 180.64 B 3315 * 3706 23.8 25.4 94–160 注释
*标记:Flash-Next 的 8K 预填充受冷启动影响偏低(4 项反而低于 64K,不符合规律),原因是专家首次触达与页缓存未热。64K 列(~3.7K tok/s)才是其稳态值,8K 需预热后重测。random @ 64K的接受率不可用作下限(58% / 39% / 48%,显著高于同域 8K 的 20% / 18% / 43%)。随机 token 上下文会导致模型退化为重复输出,投机器反而容易命中。- Prefill 与语料类型基本无关(同一上下文下差异 ≤3%),与上下文长度强相关(8K→64K 下降 12–15%)。
- Decode 由「权重带宽」和「投机接受率」共同决定:
decode ≈ (1 + 接受率 × 投机深度) × 1000 / ms_step。ms/step 反映硬件(与 bpw 成正比),接受率反映内容与投机器。
-
写在不是最后的最后
作为前技术从业者,在限定条件下穷尽各种手段寻求最优解,不仅仅是工作习惯,其中过程亦是乐趣的来源。
从年初开始接触自搭AI环境,转眼就快到年底。眼看着硬件价格水涨船高,眼看着模型王座车轮变幻,眼看着国产模型迎头赶上。眼看着推理框架层出不穷...... 浪潮汹涌,我就一叶扁舟轻帆卷跟在后面,尽量不让自己落得太远就好。
半年前发现本论坛就第一时间加入进来。感谢Terry和众多坛友,我从论坛获得了很多重要的讯息,更重要是感受到了久违的充满浓郁分享气息的互联网前期技术论坛的氛围。
目前基本实现 token 自由了,硬件方面的尝试会告一段落。接下来重点投入到如何善用我的AI机创造出更大的生产力,帮助家人和自己优化学习和改善生活。
厉马秣兵,迎接Qwen 4!
版主审定:本帖设为优秀,作者 +3 积分奖励,继续加油!
Ebay确实有这闲鱼属性

