抡锤者

看价格和用途。10900X 是 10C20T、48 条 PCIe 3.0 lane、四通道 DDR4，X299-A II 能跑 x16/x16/x8，适合「便宜上 2–3 张卡 + 四通道内存」；缺点是 14nm 165W、单核弱、只有 PCIe 3.0，4090/5090 会吃点带宽亏。 值得买的线：板 U 合计 1500 以内、且你确实要插两张以上显卡。单卡或只跑 27B，不如 AM5（7500F/B650）省电、单核强、平台新；要多卡又想要新平台，EPYC 7002/7003 单路（128 lane、8 通道）更值，但板 U 预算更高。 两个坑：X299 用的是 UDIMM DDR4，不是 REG ECC；10900X 没有核显，必须插卡才能亮。买二手板先确认 BIOS 已支持 10900X、PCIe 插槽没有维修痕迹。

要不要用 strata 試試看, 參考如下: gpu: arc b70 pro cpu: i7-11700 ram: 128gb DDR4 os: linux lite 8.0 driver 用 intel omix 0.4.1 版 https://dgpu-docs.intel.com/overview/release-notes/OMIX.html 執行 IQ3_S 平均約有 60 ~ 70 t/s [image: untitled.png]

我觉得直接拿comfyui来测试，只要comfyui跑得又快又顺，闭着眼睛其他框架一定快。。。 [image: image.jpeg]

大头就是两张 Pro 6000 96GB：单卡国内行情约 8~12 万元（看是否 Max-Q、行货/渠道、带不带保），双卡 16~24 万；其余 Z890 + Ultra5 225 + 256G DDR5 + 2TB + 电源约 1.5~2 万。整套大概 20~26 万元，显卡占 85% 以上。 两个容易漏的点： ① Pro 6000 Max-Q 单卡 TGP 300W，双卡加 CPU，1000W 虽能带但瞬态余量小，建议 1200~1300W ATX3.1。 ② Z890 的 CPU 通道要能拆 x8/x8 才能双卡对等，否则第二张会落到芯片组 x4，大模型装载和跨卡通信都吃亏。下单前先查主板手册的 bifurcation 支持。

现在看确实划算啊。

很赞 ，重点是小台历不错！

@asd2667 试了一下，现在是不能开mtp的……速度太慢了……Found it. The truth: Warm TTFT is actually fine: your unique 37-token prompt just processed at 29.6 tok/s (1.25s). The 2.5 tok/s you hit was the first request after the restart — one-time CUDA-graph + MTP draft compilation. That's a cold-start cost, not steady-state. But I also found MTP is hurting, not helping on this 16GB setup: Decode: 12.8 tok/s with MTP vs 18.9 tok/s without it earlier (the draft compute overhead exceeds the speculative gain at these speeds; draft acceptance mean was only ~2.3). MTP adds the cold-start compile overhead you felt. So per the official page, MTP was meant for the bigger M-model on larger VRAM. On your XS-Pro/16GB it's net-negative. I'll disable MTP, keep the rest of the recommended config (q8/q4 KV, flash-attn, 64k, checkpoints, sampling), and pre-warm so you never hit the cold start:

我是4790换的2696v4，当作homelab，关键内存最大可以到512g，

刚才做了一个对比测试，Z-Image-Turbo文生图，2560*1440分辨率，20步，一批生成8图。 Ai1主机： 软件：Ubuntu 24.04 系统，Docker编译安装Comfyui 硬件：AMD 5700X CPU、双A770 16G（单卡生图，没有使用双卡），64内存 Ai2主机： 软件：Windows 10系统，Comfyui官方便携版 硬件：Intel 13400EF CPU、5060Ti 16G显卡、64G内存 测试结果如下： 两台主机均顺利完成测试， 运行过程中GPU基本都处于满载状态。 Ai1主机使用16G内存，CPU负载10%左右。 Ai2主机使用28G内存，CPU负载25-30%。 Ai1 8图生成时间分别是：141.52s、128.24s、128.22s、128.29s、128.21s、128.34s、128.31s、128.31s Ai2 8图生成时间分别是：127.53s、129.43s、130.90s、131.76s、132.58s、133.10s、133.41s、133.57s 仅提供实测结果，不做结论，供需要的朋友参考。

@sirwang 千萬不要用Xe,只有這特殊的model能用，其它model配上10000G也比不上雞肋

目前的硬件价格看兜里的子弹选就行了。

想啥呢？ B70多并发、大概20个，可以跑到440TOKEN/S左右。你B60为啥速度会快.... 我B70有个测速的。 这卡.... 一言难尽。等着他们官方做适配吧