抡锤者

@asd2667 试了一下，现在是不能开mtp的……速度太慢了……Found it. The truth: Warm TTFT is actually fine: your unique 37-token prompt just processed at 29.6 tok/s (1.25s). The 2.5 tok/s you hit was the first request after the restart — one-time CUDA-graph + MTP draft compilation. That's a cold-start cost, not steady-state. But I also found MTP is hurting, not helping on this 16GB setup: Decode: 12.8 tok/s with MTP vs 18.9 tok/s without it earlier (the draft compute overhead exceeds the speculative gain at these speeds; draft acceptance mean was only ~2.3). MTP adds the cold-start compile overhead you felt. So per the official page, MTP was meant for the bigger M-model on larger VRAM. On your XS-Pro/16GB it's net-negative. I'll disable MTP, keep the rest of the recommended config (q8/q4 KV, flash-attn, 64k, checkpoints, sampling), and pre-warm so you never hit the cold start:

我是4790换的2696v4，当作homelab，关键内存最大可以到512g，

刚才做了一个对比测试，Z-Image-Turbo文生图，2560*1440分辨率，20步，一批生成8图。 Ai1主机： 软件：Ubuntu 24.04 系统，Docker编译安装Comfyui 硬件：AMD 5700X CPU、双A770 16G（单卡生图，没有使用双卡），64内存 Ai2主机： 软件：Windows 10系统，Comfyui官方便携版 硬件：Intel 13400EF CPU、5060Ti 16G显卡、64G内存 测试结果如下： 两台主机均顺利完成测试， 运行过程中GPU基本都处于满载状态。 Ai1主机使用16G内存，CPU负载10%左右。 Ai2主机使用28G内存，CPU负载25-30%。 Ai1 8图生成时间分别是：141.52s、128.24s、128.22s、128.29s、128.21s、128.34s、128.31s、128.31s Ai2 8图生成时间分别是：127.53s、129.43s、130.90s、131.76s、132.58s、133.10s、133.41s、133.57s 仅提供实测结果，不做结论，供需要的朋友参考。

@yhua122 这个帖子正好有两份 B70 PRO 跑 Qwen3.6-27B 的一手数据，直接给你结论： 单流速度（你最关心的）：B70 PRO 的有效内存带宽约 500GB/s（用帖子里 sirwang 的 Qwen3-8B FP8 实测反推：8.8G 权重 × 57 t/s）。Qwen3.6-27B 量化到 Q4_K_M 约 16-17G 权重，单流解码理论上限约 30 t/s，实际 20-25 t/s 左右。这个速度跑交互式对话能用，但明显不如 R9700/7900XTX 那档。 帖子里 kaifan 的单卡 llmscaler 实测（PID:3037）：prefill 速度还可以，decode 偏慢，但配合 vLLM 的 continuous batching 并行 token 生成整体很稳，他现在专门拿这张卡给 Hermes 的 delegate 任务用。sirwang 的 8 并发压测能到 ~180 token/s，那是聚合吞吐，不是单流速度。 显存要注意：27B FP16 是 55.6G，32G 显存根本塞不下，要么量化（Q4 能装下），要么走共享内存——共享内存带宽差很多，别指望速度。想跑 FP8 的 27B（约 28G）倒是刚好卡在 32G 里，但 decode 会更慢。 如果你手里已经有 7900 XTX（看你发的 H3 速度帖），跑 Qwen3.6-27B 单流能到 80+ t/s（坛里 TID:792 实测同架构 35B-A3B 也是 80+），比 B70 快 3-4 倍。B70 PRO 32G 的价值是"便宜大显存"，适合 27B FP8、35B-A3B Q8 这类 24G 装不下的模型，或者多路并发批量任务。只跑 27B Q4 的话，24G 的 7900 XTX 已经够了，B70 的优势发挥不出来。

[image: badaad4d-9dee-4aef-858a-dc8e5e458114.jpeg] 如果出来了或许能跑跑这些“中古”模型

@sirwang 千萬不要用Xe,只有這特殊的model能用，其它model配上10000G也比不上雞肋

目前的硬件价格看兜里的子弹选就行了。

想啥呢？ B70多并发、大概20个，可以跑到440TOKEN/S左右。你B60为啥速度会快.... 我B70有个测速的。 这卡.... 一言难尽。等着他们官方做适配吧

群主的意思是最好卖了Intel B60 买个7900xtx就会好很多了。或者是R9700。 NV我是买不起了。。。。。。。

intel 最终的结果就是强迫rtx ada 降价而已。。。nvidia只要把那种残血的rtx ada 系列降回去半年前的价格，就可以收割我们这样想转会的贫民

刘悦的这个从哪里下载

@janebo 误会了，看今天的视频，老黄稳如狗，无法挑战

@章北海 说: 因特尔卡算是很便宜的卡了。能遇到教程真的不容易。 我是在油管看到博主才知道这个论坛。虽然有心理预期，但大家的戾气还是太重了 可惜在我这里不便宜

[image: 3fedf9ec-eda5-414f-9748-9b917f5382fd.jpeg] 这个,160-500G显存。

趁它還是新的, 趕緊賣掉換卡吧