【实测】ThinkPad P1 Gen4-3080-64G RAM-Strata测试报告摘要
-
Strata-3080-64GRAM 测试报告
测试对象:Strata 0.1.48(CUDA 13.0,sm_75/86/89/120)在 RTX 3080 Laptop 16 GB + 63.71 GiB RAM 上,对
models4Strata中 2 个权重的 7 个上下文档位(48K–256K) 做实测
报告生成:2026-10-24(Asia/Shanghai)
权威数据源:data/results.csv(32 行,SHA2561695B0C2E09D5C9874B5773C1E0F8276BE9BE80F6D0FA33FA1C998325905DF72)、data/summary.json(schemastrata-test/summary@1,由tools/build_summary_64g.py生成)、data/tuning-tune.csv(整定 10 行,SHA256953250477A648B4DDFA22E20C882246057FE1B7491D279015CEA63BA7B80F6A8)
引用约定:正文数字均取自上述文件;"未测"就写未测,不做插值或外推。路径相对本报告目录D:\!AI\01-Workspace\261024-Strata-3080-64GRAM测试方案。
1. 摘要
本次把上一份报告(
261011-Strata引擎测试报告,下称"旧报告")的协议原样搬到 64 GB 内存 + Strata 0.1.48 的新环境:同一台 ThinkPad P1 Gen4,内存从 31.71 GiB 升到 63.71 GiB(2×32 GB DDR4-3200 双通道),引擎从 0.1.42 升到 0.1.48(CUDA 13),模型存放改为D:\!AI\!Tools\strata\models4Strata。一句话结论:两个权重在 48K–256K 全部 7 档、每档两次重复的均值都 ≥17 t/s,共 32 次请求 0 失败、0 崩溃;RVN IQ3_S 从旧报告的"不可测"变成全档可测。 IQ3_XXS 的 64K 均值 40.15 t/s(旧报告 34.80,+15%),最高档 160K 达 45.45 t/s;IQ3_S 在 48K–192K 为 31.0–35.65 t/s,256K 档 17.70 t/s(边缘通过,单次最低 16.10)。
条目 量化 48K 64K 96K 128K 160K 192K 256K 严格口径 alesha-iq3xxsIQ3_XXS 36.40 40.15 41.55 42.55 45.45 39.30 34.10 通过 rvn-iq3sIQ3_S 31.00 30.00 35.65 34.25 34.20 32.75 17.70 通过(256K 边缘) (表内为两次重复的引擎口径均值,t/s;极差见 §5.1。)
三个最重要的环境事实,决定了本次所有数字的量级:
- 专家整块常驻内存:63.71 GiB ≥ 三个量化的官方门槛(专家 + ~10 GB = 45.5 / 52.9 / 60.3 GB),引擎不再走 low-RAM 的
--mmap-experts,启动横幅为R4 hit path ON - resident experts are computed on the GPU;稳态不再逐 token 从 SSD 读专家(旧报告单轮读盘 804–1004 GB)。 - 显存仍是最紧的资源:16 GB 卡上实测 VRAM 峰值 15,069–15,073 MiB(约 92%),专家缓存 3354 槽 / 5.48 GiB;
--kv-resident 32768(KV streaming)把上下文 KV 放到 RAM、只留 32K cells 在显存,是本次整定的胜出项。 - 页面文件是 256K 档与 IQ3_S 的前提:C: 4 GB +
固定 32 GB,commit 上限由 69.5 GiB 提到 99.71 GiB;IQ3_S 运行时物理内存一度只剩 0.4 GB,靠 commit 余量(≥18 GB)撑过全部档位。
2. 测试环境
2.1 硬件(实测)
项目 实测值 来源 机型 LENOVO 20Y4S3XD00(ThinkPad P1 Gen4) Win32_ComputerSystemCPU 11th Gen Intel Core i7-11850H @ 2.50 GHz,8C/16T,AVX-512 注册表 / WMI 内存 63.71 GiB 可见;2×32 GB DDR4-3200(SK Hynix HMAA4GS6AJR8N-XN + DDR432G3200MHz),双通道,3200 MT/s Win32_PhysicalMemoryGPU NVIDIA GeForce RTX 3080 Laptop GPU,16,384 MiB,sm_86,驱动 596.47 nvidia-smiSSD SIX X7400 Pro,NVMe,1,908 GB Get-PhysicalDiskOS Windows 11 专业版,Build 22631,x64 Win32_OperatingSystem页面文件 C:\pagefile.sys 4,096 MB + D:\pagefile.sys 32,768 MB(固定,初始=最大);commit 上限 99.71 GiB Win32_PageFileUsage/Win32_OperatingSystem磁盘余量
26.6 GB;D: 231.4 GB(测前)Get-PSDrive时区 Asia/Shanghai(UTC+8) — 与旧报告的硬件差异只有两项:内存 31.71 → 63.71 GiB(单条单通道 → 2×32 双通道)、页面文件 5,120 MB/commit 36.71 GiB → 4+32 GB/commit 99.71 GiB。GPU、CPU、SSD、OS、驱动均未变。
- 专家整块常驻内存:63.71 GiB ≥ 三个量化的官方门槛(专家 + ~10 GB = 45.5 / 52.9 / 60.3 GB),引擎不再走 low-RAM 的
-
总算是可以用来本地干活了:)