@J-Z-0 说:

--ple-io ram

--ple-io ram 这个改成 mmap ， 你这个是把ngram 全部用内存加载了， QFN 的ngram 的原始权重有51G ， 如果是IQ3 的话也有 20多G ， 这是写冷专家，用的比较少，官方的建议是放ssd ， --ple-io mmap ， 这个是按需调用， 依然是ssd ， --ple-io ram ，这个是直接放ram ，所以你的 内存上升的比较快， --ple-io ram 如果内存充裕可以放， 可以减少 token 输出的抖动。

0.1.44.x 的冷前缀路径会重新从 GGUF 拉一遍专家张量，ZFS 这层缓存实际吃的是 ARC：你 ARC 上限 4G、工作集 78GiB，装不住 → 每次冷 prompt 都走盘；ARC 抬到 32G 后读盘回落，正好印证是缓存容量问题，不是逻辑坏了。

三个可核对点：

1. 110G 内存先分清是页缓存还是匿名内存：free -h（buff/cache）、arcstat 1、cat /proc/PID/smaps_rollup（Rss / FilePmdMapped）。多半是 ARC + page cache 双份 file-backed，属可回收，不是泄漏。
2. 为什么没提速：多出的 I/O 只在冷 prefill 段；你负载里 decode 占大头，decode 是显存带宽受限，前缀读盘再快也顶不动 t/s。把「预热后 TTFT/prefill」和「decode」分段测，别混在一个数里。
3. 如果留 0.1.44.x：给模型所在 dataset 设 primarycache=metadata，让 page cache 而不是 ARC 装文件（避免双份占内存），再 vmtouch 预热。

NVMe 只解决「读得快」，不解决「装不下」——78GiB 在 128G 内存里本应装得下，先调缓存比买盘划算；0.1.43 能用就不急着换。