加拿大垃圾佬淘机记：为了跑本地 AI，从 X299 折腾到 X570，顺便交了点学费
-
最近开始研究 Strata，发现不一定非要特别高端的显卡才能玩起来，于是就动了自己搭一台本地 AI 服务器的念头。
我原本有一台 i5-14600K + B760M 的工作电脑，但主板只有一条 PCIe x16 插槽，而且毕竟是日常工作的主力机，不太方便长期拿来折腾 AI。
既然准备单独弄一台，那就发挥一下垃圾佬的传统艺能——淘二手！
坐标加拿大，最近这段时间在本地二手市场陆陆续续看了不少机器，也踩了几个坑，分享一下这段经历。
第一台：错过的 X299，至今还有点后悔
最开始看到的是一台 X299 平台的主机，配置如下：
- CPU：Intel Core i9-10920X（12核24线程）
- 主板：Gigabyte X299 UD4 Pro
- 内存：64GB DDR4
- SSD：ADATA XPG SX8200 2TB NVMe
- 显卡：GT 1030 2GB
卖家标价：630 加币。
当时其实已经觉得价格不错了，尤其是 64GB 内存、2TB NVMe，再加上 i9-10920X 和 X299 主板，整体配置相当适合拿来折腾。
X299 平台还有一个吸引我的地方，就是很多主板提供 8 条内存插槽，后期升级大内存比较方便。i9-10920X 本身也有比较充足的 PCIe 通道，拿来做多显卡平台挺有吸引力。
但问题来了，垃圾佬的天性发作了。
明明价格已经不错，还是忍不住想再砍一点。
结果就在来回讲价的过程中，被别人直接原价买走了……
现在回头看，630 加币能拿到这套配置，个人感觉还是挺划算的。
这也是我到目前为止最后悔没买到的一台二手电脑。
第二台：520加币买 HP Z4 G4，最后花 50 加币退货
错过 X299 以后，我也看了不少老工作站。
一开始考虑过 X99 和一些退役的 Dell、HP 工作站。不过本地能找到的不少机器平台比较老，有些甚至还是更早的 DDR3 平台。虽然价格不算高，但考虑到 CPU 性能、PCIe 版本以及后期扩展，慢慢就没那么感兴趣了。
后来还是把重点放回了 X299。
终于找到一台 HP Z4 G4，配置如下：
- CPU：Intel Core i9-7900X（10核20线程）
- 内存：32GB DDR4
- 显卡：NVIDIA Quadro P4000 8GB
- SSD：Samsung 约 500GB
- 平台：HP Z4 G4 工作站
成交价：520 加币。
当时觉得也还行，毕竟 CPU、内存、显卡都有，机箱和电源也是工作站级别的。
而且之前我自己也陆续收了一些 DDR4 内存，本来想着正好可以扩容，组个大内存平台。
没想到问题就出在内存上。
我手里有 4 根 16GB 的内存，结果其中 3 根装到机器里都无法正常识别，有时候开机直接报错。
换插槽、反复测试，折腾了不少时间，最后还是没搞定。
后来研究了一下，发现 HP 这种品牌工作站虽然做工不错，但内存兼容性、BIOS 以及扩展方面，确实不如普通 DIY 主板灵活。
当然，也不能完全排除是我收的内存本身存在兼容性或者质量问题。
最后跟卖家沟通了一下，对方同意退货。我自己主动承担了 50 加币的退货费用。
相当于花 50 加币上了一堂二手工作站兼容性实践课。
好在机器退掉了，没有继续往里面砸钱。
第三台：意外转向 AMD X570，470 加币拿下
折腾了前面两台以后，我原本还在继续找 X299。
结果某天突然看到一台 AMD 平台的整机，配置如下：
- CPU：AMD Ryzen 7 3700X（8核16线程）
- 主板：ASUS ROG Crosshair VIII Hero（X570）
- 内存：32GB DDR4
- 机箱：Corsair Crystal 570X
- 电源：EVGA 850W
- SSD：NVme 500GB
- 散热：Corsair 双风扇一体式水冷
- 风扇：4 个 Corsair 机箱风扇
最终成交价：470 加币。
这次吸引我的反而不是 CPU，而是主板。
ASUS Crosshair VIII Hero 算是当年的高端 X570 主板，做工和扩展能力都不错。
尤其是它有 3 条物理 PCIe x16 插槽，其中前两条在 Ryzen 3000 系列 CPU 下支持 PCIe 4.0 x8/x8 分配。
因为我的计划是最终装两张 RTX 5060 Ti 16GB，用来测试本地大模型、多 GPU 推理以及 Strata，所以 PCIe 插槽和通道分配对我来说比较重要。
虽然 5060 Ti 本身支持 PCIe 5.0 x8，在这套平台上只能以 PCIe 4.0 x8 工作，但我觉得对于自己目前计划测试的模型和使用场景，应该还是可以接受的。具体性能损耗还得等后面实际测试。
3700X 虽然已经是老 CPU 了，但有 8 核 16 线程，拿来做模型推理服务、Coding Agent 之类的任务，感觉暂时也够用了。
另外，这台整机原主人保养得还不错，Corsair 570X 机箱、850W 电源、水冷和风扇都在，省去了单独购买机箱、电源、散热的麻烦。
当然，二手水冷和电源的使用年限也是后面需要留意的地方。
卖家报价550，最后就花了 470 加币把它收回来了。
不知道算捡漏还是买贵了，反正这次终于有一台能继续折腾的机器了。
图片是加上了32G*2,5060ti 16G的样子，另外一个5060ti 16G还在来的路上。
-
-
-
-
-
-
最近开始研究 Strata，发现不一定非要特别高端的显卡才能玩起来，于是就动了自己搭一台本地 AI 服务器的念头。
我原本有一台 i5-14600K + B760M 的工作电脑，但主板只有一条 PCIe x16 插槽，而且毕竟是日常工作的主力机，不太方便长期拿来折腾 AI。
既然准备单独弄一台，那就发挥一下垃圾佬的传统艺能——淘二手！
坐标加拿大，最近这段时间在本地二手市场陆陆续续看了不少机器，也踩了几个坑，分享一下这段经历。
第一台：错过的 X299，至今还有点后悔
最开始看到的是一台 X299 平台的主机，配置如下：
- CPU：Intel Core i9-10920X（12核24线程）
- 主板：Gigabyte X299 UD4 Pro
- 内存：64GB DDR4
- SSD：ADATA XPG SX8200 2TB NVMe
- 显卡：GT 1030 2GB
卖家标价：630 加币。
当时其实已经觉得价格不错了，尤其是 64GB 内存、2TB NVMe，再加上 i9-10920X 和 X299 主板，整体配置相当适合拿来折腾。
X299 平台还有一个吸引我的地方，就是很多主板提供 8 条内存插槽，后期升级大内存比较方便。i9-10920X 本身也有比较充足的 PCIe 通道，拿来做多显卡平台挺有吸引力。
但问题来了，垃圾佬的天性发作了。
明明价格已经不错，还是忍不住想再砍一点。
结果就在来回讲价的过程中，被别人直接原价买走了……
现在回头看，630 加币能拿到这套配置，个人感觉还是挺划算的。
这也是我到目前为止最后悔没买到的一台二手电脑。
第二台：520加币买 HP Z4 G4，最后花 50 加币退货
错过 X299 以后，我也看了不少老工作站。
一开始考虑过 X99 和一些退役的 Dell、HP 工作站。不过本地能找到的不少机器平台比较老，有些甚至还是更早的 DDR3 平台。虽然价格不算高，但考虑到 CPU 性能、PCIe 版本以及后期扩展，慢慢就没那么感兴趣了。
后来还是把重点放回了 X299。
终于找到一台 HP Z4 G4，配置如下：
- CPU：Intel Core i9-7900X（10核20线程）
- 内存：32GB DDR4
- 显卡：NVIDIA Quadro P4000 8GB
- SSD：Samsung 约 500GB
- 平台：HP Z4 G4 工作站
成交价：520 加币。
当时觉得也还行，毕竟 CPU、内存、显卡都有，机箱和电源也是工作站级别的。
而且之前我自己也陆续收了一些 DDR4 内存，本来想着正好可以扩容，组个大内存平台。
没想到问题就出在内存上。
我手里有 4 根 16GB 的内存，结果其中 3 根装到机器里都无法正常识别，有时候开机直接报错。
换插槽、反复测试，折腾了不少时间，最后还是没搞定。
后来研究了一下，发现 HP 这种品牌工作站虽然做工不错，但内存兼容性、BIOS 以及扩展方面，确实不如普通 DIY 主板灵活。
当然，也不能完全排除是我收的内存本身存在兼容性或者质量问题。
最后跟卖家沟通了一下，对方同意退货。我自己主动承担了 50 加币的退货费用。
相当于花 50 加币上了一堂二手工作站兼容性实践课。
好在机器退掉了，没有继续往里面砸钱。
第三台：意外转向 AMD X570，470 加币拿下
折腾了前面两台以后，我原本还在继续找 X299。
结果某天突然看到一台 AMD 平台的整机，配置如下：
- CPU：AMD Ryzen 7 3700X（8核16线程）
- 主板：ASUS ROG Crosshair VIII Hero（X570）
- 内存：32GB DDR4
- 机箱：Corsair Crystal 570X
- 电源：EVGA 850W
- SSD：NVme 500GB
- 散热：Corsair 双风扇一体式水冷
- 风扇：4 个 Corsair 机箱风扇
最终成交价：470 加币。
这次吸引我的反而不是 CPU，而是主板。
ASUS Crosshair VIII Hero 算是当年的高端 X570 主板，做工和扩展能力都不错。
尤其是它有 3 条物理 PCIe x16 插槽，其中前两条在 Ryzen 3000 系列 CPU 下支持 PCIe 4.0 x8/x8 分配。
因为我的计划是最终装两张 RTX 5060 Ti 16GB，用来测试本地大模型、多 GPU 推理以及 Strata，所以 PCIe 插槽和通道分配对我来说比较重要。
虽然 5060 Ti 本身支持 PCIe 5.0 x8，在这套平台上只能以 PCIe 4.0 x8 工作，但我觉得对于自己目前计划测试的模型和使用场景，应该还是可以接受的。具体性能损耗还得等后面实际测试。
3700X 虽然已经是老 CPU 了，但有 8 核 16 线程，拿来做模型推理服务、Coding Agent 之类的任务，感觉暂时也够用了。
另外，这台整机原主人保养得还不错，Corsair 570X 机箱、850W 电源、水冷和风扇都在，省去了单独购买机箱、电源、散热的麻烦。
当然，二手水冷和电源的使用年限也是后面需要留意的地方。
卖家报价550，最后就花了 470 加币把它收回来了。
不知道算捡漏还是买贵了，反正这次终于有一台能继续折腾的机器了。
图片是加上了32G*2,5060ti 16G的样子，另外一个5060ti 16G还在来的路上。
-
@Kai-X. 一块5060ti 已经接近50ts? 哇。。
@imbiplaza-ASUS 是的，平均值是在60-70t/s之间。
