抡锤者

@kos-or wow~还真有这种架子啊，看起来还不错。感谢老友。这种是定制的机架吗？

@stormaround 据说两张R9700部署H3是有1.7倍左右速度提升

Qwen3.8-Flash-Next IQ3_M 对比27b的Q8差距大吗？

@Y-G-0 非常好的配置啊。就是DDR5实在太贵了，跑H3视频模型据说要大量内存，起码要大于显存。这也是我纠结的点。

@stormaround 谢谢建议，但是ddr3我就不考虑了。因为手上有几十条ddr4 16g的ecc，是以前公司剩下的。而且PCIE3.0太慢啦。
我是准备双R9700来跑生图视频/llm的，因为是纯兴趣个人在家的AI服务器。也不是什么生产力工具，就是家里想有个这玩意，跟当年玩NAS一样啦

@鍾子揚 太幸福了！

双R9700一样可用吗？

@鍾子揚 说:

我也是雙r9700，主機板配GIGABYTE技嘉 Z890 AERO G/ATX/1851腳位，有pcie 5.0 ×8兩槽可以用。

要直通x8 x8拆分，跟双16好像又不是一回事。另外你的主板要上ddr5，太贵啦。。。我只有ddr4的ecc

@williamlouis 说:

已经有个板子上小了的。我给的结论，换板子是正解。
双卡64G内存也可以了。内存多就留128G 稳定并预留升级位了。其他多的卖掉。现在价格就够用。已经到社会承受的高位。脱手不亏。
显卡：AMD XFX R9700 32G * 2 很奈斯。看看双卡 sglang 和 comfy 的帖子 跑就行了。comfy 出片分辨率不要太高。后期放大一样。

佬友建议用什么主板啊？求推荐

之前一知半解搞了以下这套配置：

CPU、主板：MZ32-AR0+AMD7302+4U5管散热器套装 - 3112RMB

内存：DDR4 EMMC 16G * N

显卡：AMD XFX R9700 32G * 2 - 24000RMB

电源：1200W白金牌【F12白色 ATX3.1】 - 768RMB

机箱：亚克力底板 + 罩子 - 110 RMB

当时以为只要支持ddr4-ecc 和 CPU直通PCIE 和 拆分8x 8x就好。
到货才发现几个坑：
1、新卡是V12接口，电源只有一个这种接口，退换电源中...
2、主板是服务器机箱板子，很窄。内存槽是顶着显卡PCIE插槽的，要另外买转接PCIE的卡和机箱或者直接换服务器机箱。

害我把塔式机箱又拆又装整半天，空欢喜。
现在到底怎么弄才能舒服安心的本地有个AI服务器啊！
Mac Studio M5 Ultra 256G要9.22才发货，10月才能到。而且也玩不了生图、生视频（太慢）
真难啊！老友们支支招

自营二手3090?还有这操作吗

这类小主机现在基本是用来部署四大金刚（tts、asr、ocr、emb）和 agentbot。
我亲测m4 mini以上都做得很好而且功耗很低，不知道楼主这台如何