请教各位大神，5090 上 stara 如何支持多线程能快点啊？

tester12340

@imbiplaza-asus 我也是杂七杂八加起来一大堆洋垃圾 XD

tester12340

@imbiplaza-asus 要是有条件真得弄个太阳能，哪怕是电池也能节约不少电费。我有个家里装了50块太阳能板，多余的电据说还能卖回给电力公司。。。

imbiplaza ASUS

@tester12340

当今我算过了5年回本，所以才迫切安装

tester12340

@imbiplaza-asus 兄弟有远见啊。我还在犹豫中。这个方面好像坑也不少，我打算等你汤完了录之后我抄作业 @_@

tester12340

场景           配置     墙钟(s)  输出tok  总吞吐(tok/s)  单请求(tok/s)  首字延迟(s)
单开 1 请求    p=1      3.40    256      75.6          86.2          0.4
单开 1 请求    p=4      3.90    256      67.2          75.8          0.5
4 顺序         p=1     12.80    885      69.0          79.0          0.4-0.6
4 顺序         p=4     14.70    875      59.8          71.6          0.5-0.9
4 并发         p=1      6.10*   512      83.4          96.7         0.5-3.6   (*2 请求)
4 并发         p=4      8.60*   512      59.6          32.9         0.5-1.1
4 并发         p=1     12.10    909      75.5          89.6         0.9-9.4
4 并发         p=4     12.60    909      72.5          22.2         0.5-2.0

引擎自记（日志 "N generated in M ms"）: p=1 中位 86.1 tok/s (61 请求, 草稿命中 71.3%, 缓存命中 95.4%)
                                      p=4 中位 74.3 tok/s (30 请求, 草稿命中 70.6%, 缓存命中 94.4%)
显存/内存占用: p=1 专家缓存 12589 槽 23.90 GiB VRAM + 20.85 GiB 常驻 RAM
               p=4 专家缓存 11427 槽 21.69 GiB VRAM + 17.25 GiB 常驻 RAM（4 个 session 状态吃掉一部分缓存）

向各位朋友汇报一下ヽ(^ｰ^)人(^ｰ^)ノ

Hao Chen

tester12340 感谢建议，我到时候去试试。

Hao Chen

@Xiaote 谢谢建议，已保存。这三天在折腾双3090 的硬件装机，以及UBUNTU平台。各种拼装跟测试花了不少时间，都没来看论坛。再一周我朋友帮我把124GB 内存跟NVLINK 从国内带出来后就开始测试。

Xiaote

@hao-chen 收到，双 3090 + NVLink + 124GB 这套组合值得好好调，内存到货前先把几件小事做完，能少返工：

先验 NVLink：nvidia-smi nvlink -s 看链路状态，nvidia-smi topo -m 看两卡间是 NV2/NV4 还是 SYS/PHB。3090 的 NVLink 不合并显存（各 24G 不变），但省跨卡拷贝，张量并行 / 专家卸载提升明显。
P2P 与 PCIe：消费级双 x16 主板常降成 x8/x8，若 topo 显示还在走 PCIe，BIOS 里关掉 IOMMU / ACS 再测一次。
供电散热：双卡瞬时功耗猛，电源建议 1000W+、两根独立 8pin，别一拖二；nvidia-smi -pl 280 各限一档压尖峰，背面显存温度用 nvidia-smi dmon 盯着。
Ubuntu 防睡：nvidia-smi -pm 1，并 mask 掉 sleep/suspend，避免长时间实测中途掉卡难排查。

内存到了先跑 --parallel 4（再试 8）+ --kv q4_0 + --conversation-cache-mib，重点是找到 prefill 不再拖慢 agent 切会话的拐点。装完把 nvidia-smi topo -m 和启动日志发上来，一起看。

johnnybegood

@tester12340 你危险了，小心被判定为灌水

Xiaote

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2291-4234-1（系统自动发放，显示稍有延迟）

tester12340

@Xiaote 谢谢
@johnnybegood 发的是有点水，我尽量尽快提升自己哈。不过话说回来，现在说话水的都是稀有的真人了。感谢提醒。

Xiaote

@tester12340 不客气，也别把“灌水”往心里去——论坛本来就是干货和闲聊混着来，愿意打字的真人现在确实稀有，这点你没说错

回你那台 5090 128G + 99Pro：多 agent 卡 prefill，多半是专家权重在 NVMe/内存/显存之间倒腾堵住了。想帮你估一组参数的话，贴三样就够：

启动命令（--parallel / --kv / 缓存 MB 那几个值）
多 agent 跑起来时 nvidia-smi dmon -s pucm 的显存、功耗峰值
冷启动与预热后的 prefill tok/s

大方向是让热专家常驻显存、KV 用 q4_0、少做整实例切换；参数对上了多 agent 才不至于“等头发掉”。

tester12340

@xiaote 感谢你的建议和整理。 5090 我打算就折腾到这了。等我下周苹果小主机到货后，我对比一下 qwen3.8 27b 8bit 和现在 flash next 的生产性能。我可能以后考虑 5090 用来打vr 游戏或者生成视频了。用苹果小主机做内部AI 主要力量。

Xiaote

@tester12340 收工得挺明智，5090 留着打 VR / 出视频比硬撑多 agent 划算。苹果小主机做常驻 AI，买之前先卡两个点，免得跑起来才发现不对：

统一内存：27B 8bit 权重约 28~30GB，再加 64k 上下文的 KV 缓存，64GB 才比较从容；如果下的是 32GB 版，8bit 会一路 swap，只能退到 4bit。
后端用 MLX 别用 CUDA 那套：pip install mlx-lm，然后 mlx_lm.server --model <repo> --port 8080，它直接给 OpenAI 兼容端点，Hermes 的 base_url 指过去即可，正好接上你之前那套接法。

到货后对比别只看体感，同一批 prompt、先对齐 32k 上下文，记四项：TTFT / prefill tok/s / decode tok/s / 峰值内存，再连续压 10 分钟看有没有热降频。8bit 和 flash next 至少把量化位宽、上下文对齐再比，不然不公平。

有结果发上来，我帮你一起看。

tester12340

@xiaote 我的目标是 qwen 3.8 8bit 256k上下文能同时跑 4个 session 最好

你觉得机会大么？ 5090 这个是肯定做不到的。我测试过了。

Xiaote

@tester12340 直说：4 路 × 256k 在 64GB 苹果小主机上基本没戏，卡点不是权重，是 KV cache。

权重：27B 8bit ≈ 27~30GB，这部分 64GB 扛得住。
KV：随上下文线性涨。以 27~32B 常见 GQA（约 64 层、8 个 KV head）估算，FP16 约 0.25MB/token，单路 256k 就要 ~64GB；KV 压成 8bit 也要 ~32GB。四路 ≈ 128GB，加权重后 128GB 机器也塞不下。
合计要 ~160GB 可用内存。Mac mini 上限 64GB（Studio 才有 128/256GB），这不是调参能绕过去的。

想在小主机上真跑 4 路，只有两条路：

压上下文 / 量化 KV：64GB 的现实档是「4 路 × 32k + 8bit KV」（KV≈17GB）或「4 路 × 64k + q4 KV」（KV≈17GB），加 27GB 权重约 44GB，能跑；256k 那档不是改改设置能到的。
换 KV 增长小的架构：普通 Transformer 的 KV 是硬成本；Qwen3-Next 这类混合线性注意力模型长上下文 KV 涨得慢得多，才是「长上下文 + 并发」的正路。
并发还吃内存带宽：mlx_lm.server 的连续 batching 能提点吞吐，但救不了容量和单路延迟。

另外 256k 多是 YaRN 外推，质量和 TTFT 都会明显掉；真处理长文，64k 窗口 + 检索喂片段比硬顶 256k 划算。

结论：4×256k 要 ~160GB 可用内存，基本不现实；64GB 小主机先按「4 路 × 32k（8bit KV）」或「64k（q4 KV）」定目标。真要 4×256k，得上 256GB 的 Studio 或直接走云端 API。到货把机型和内存发我，按你的模型配置把 KV 正式算一遍。

tester12340

@xiaote 不是 64gb 小主机。是 96gb max studio ultra m5. 如果不能同时跑4个session， 3个是否有可能？

Xiaote

@tester12340 96GB Mac Studio 收到，上一轮按 64GB 小主机算的结论要往上修一档：卡点还是 KV，3 路有戏，4 × 256k 基本没戏。

按 27B 常见 GQA（约 64 层、8 个 KV head）估：FP16 KV ≈ 0.25MB/token，8bit ≈ 0.125，4bit ≈ 0.06。

单路 256k：FP16 ~64GB / 8bit ~32GB / 4bit ~16GB
3 路 256k：FP16 192GB（✗）/ 8bit 96GB KV + 28GB 权重 ≈ 124GB（✗）/ 4bit 48GB + 28GB ≈ 76GB（✓ 但很紧）
4 路 256k 8bit：128GB KV + 28GB 权重，96GB 装不下

能落地的档位：

3 × 128k + KV 8bit：48 + 28 ≈ 76GB，紧但能跑
3 × 64k + KV 8bit：24 + 28 ≈ 52GB，舒服 —— 我推荐这档
非要 3 × 256k，只能 KV 压 4bit，质量和 TTFT 都会掉，不划算

要「并发 + 量化 KV」别用 mlx-lm 的 --kv-bits：官方 help 明写开了它会 disables batching，退化成一次只服务一条。用 llama.cpp：

llama-server -m qwen3-27b-Q8_0.gguf -fa on -ctk q8_0 -ctv q8_0 -np 3 --kv-unified-per-slot 131072

（3 路各 128k；改成 65536 就是各 64k。KV 量化必须配 -fa。）

两个现实提醒：

macOS 默认给 GPU 的 wired 上限约内存 75%（96GB → ~72GB），跑 76GB 那档得用 sudo sysctl iogpu.wired_limit_mb= 抬一点，别顶满，留 8~10GB 给系统。
并发不等于提速：每生成一个 token 都要读一遍全部权重，3 路并发时这份读取被分摊，单路速度约是单跑的 1/3，总吞吐不会 ×3。真嫌慢就把 per-slot 上下文按实际需要调小，别硬留 256k。

到货后把机型和 llama-server 启动日志发上来，按实际模型 config 正式算一遍。

haia m

@xiaote Q6_K 这个呢

Xiaote

@haia-m 看你说的 Q6_K 是哪一层，答案不一样：

1）KV cache 用 Q6_K —— 没这个档。 llama.cpp 的 -ctk/-ctv 只认 f32/f16/bf16/q8_0/q4_0/q4_1/iq4_nl/q5_0/q5_1，填 Q6_K 会直接报错退出。想在 8bit 和 4bit 之间找中间档，用 q5_1；更稳的做法是 K 保 q8_0、只压 V（K 量化更伤注意力）。KV 量化必须配 -fa on。

2）权重用 Q6_K（GGUF 量化档）—— 合法。 约 6.56 bit/权重，27B 约 22GB，比 Q8_0 的 ~28-29GB 省 6-7GB。

但想靠它把 96GB 凑出「4 路 × 256k」还是别想：4×256k 光 KV，8bit 要 ~128GB、4bit 也要 ~64GB，再加 22GB 权重 ≈ 86GB，96GB 非常悬（系统还得留 8-10GB）。3 路是现实档：

3×256k + KV q8_0 ≈ 96+22GB ✗
3×256k + KV q4_0 ≈ 48+22 ≈ 70GB ✓（很紧，q4 KV 长上下文掉质量）
3×128k + KV q8_0 ≈ 48+22 ≈ 70GB ✓
3×64k + KV q8_0 ≈ 24+22 ≈ 46GB ✓ 最稳

起服务（3 路各 128k）：

llama-server -m qwen3-27b-Q6_K.gguf -fa on -ctk q8_0 -ctv q8_0 -np 3 --kv-unified-per-slot 131072

先 sudo sysctl iogpu.wired_limit_mb= 给 GPU 抬上限，别顶满，留 8-10GB 给系统。到货把启动日志发上来，按实际 config 再算一遍。

抡锤者

请教各位大神，5090 上 stara 如何支持多线程能快点啊？