跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 【实测】ThinkPad P1 Gen4-3080-64G RAM-Strata测试报告摘要

【实测】ThinkPad P1 Gen4-3080-64G RAM-Strata测试报告摘要

已定时 已固定 已锁定 已移动 LLM讨论区
rtx3080strata
2 帖子 1 发布者 55 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • PhilipShi2026P
    PhilipShi2026P
    PhilipShi2026
    编写于 最后由 编辑
    #1

    Strata-3080-64GRAM 测试报告

    测试对象:Strata 0.1.48(CUDA 13.0,sm_75/86/89/120)在 RTX 3080 Laptop 16 GB + 63.71 GiB RAM 上,对 models4Strata 中 2 个权重的 7 个上下文档位(48K–256K) 做实测
    报告生成:2026-10-24(Asia/Shanghai)
    权威数据源:data/results.csv(32 行,SHA256 1695B0C2E09D5C9874B5773C1E0F8276BE9BE80F6D0FA33FA1C998325905DF72)、data/summary.json(schema strata-test/summary@1,由 tools/build_summary_64g.py 生成)、data/tuning-tune.csv(整定 10 行,SHA256 953250477A648B4DDFA22E20C882246057FE1B7491D279015CEA63BA7B80F6A8)
    引用约定:正文数字均取自上述文件;"未测"就写未测,不做插值或外推。路径相对本报告目录 D:\!AI\01-Workspace\261024-Strata-3080-64GRAM测试方案。


    1. 摘要

    本次把上一份报告(261011-Strata引擎测试报告,下称"旧报告")的协议原样搬到 64 GB 内存 + Strata 0.1.48 的新环境:同一台 ThinkPad P1 Gen4,内存从 31.71 GiB 升到 63.71 GiB(2×32 GB DDR4-3200 双通道),引擎从 0.1.42 升到 0.1.48(CUDA 13),模型存放改为 D:\!AI\!Tools\strata\models4Strata。

    一句话结论:两个权重在 48K–256K 全部 7 档、每档两次重复的均值都 ≥17 t/s,共 32 次请求 0 失败、0 崩溃;RVN IQ3_S 从旧报告的"不可测"变成全档可测。 IQ3_XXS 的 64K 均值 40.15 t/s(旧报告 34.80,+15%),最高档 160K 达 45.45 t/s;IQ3_S 在 48K–192K 为 31.0–35.65 t/s,256K 档 17.70 t/s(边缘通过,单次最低 16.10)。

    条目 量化 48K 64K 96K 128K 160K 192K 256K 严格口径
    alesha-iq3xxs IQ3_XXS 36.40 40.15 41.55 42.55 45.45 39.30 34.10 通过
    rvn-iq3s IQ3_S 31.00 30.00 35.65 34.25 34.20 32.75 17.70 通过(256K 边缘)

    (表内为两次重复的引擎口径均值,t/s;极差见 §5.1。)

    三个最重要的环境事实,决定了本次所有数字的量级:

    1. 专家整块常驻内存:63.71 GiB ≥ 三个量化的官方门槛(专家 + ~10 GB = 45.5 / 52.9 / 60.3 GB),引擎不再走 low-RAM 的 --mmap-experts,启动横幅为 R4 hit path ON - resident experts are computed on the GPU;稳态不再逐 token 从 SSD 读专家(旧报告单轮读盘 804–1004 GB)。
    2. 显存仍是最紧的资源:16 GB 卡上实测 VRAM 峰值 15,069–15,073 MiB(约 92%),专家缓存 3354 槽 / 5.48 GiB;--kv-resident 32768(KV streaming)把上下文 KV 放到 RAM、只留 32K cells 在显存,是本次整定的胜出项。
    3. 页面文件是 256K 档与 IQ3_S 的前提:C: 4 GB + 😧 固定 32 GB,commit 上限由 69.5 GiB 提到 99.71 GiB;IQ3_S 运行时物理内存一度只剩 0.4 GB,靠 commit 余量(≥18 GB)撑过全部档位。

    2. 测试环境

    2.1 硬件(实测)

    项目 实测值 来源
    机型 LENOVO 20Y4S3XD00(ThinkPad P1 Gen4) Win32_ComputerSystem
    CPU 11th Gen Intel Core i7-11850H @ 2.50 GHz,8C/16T,AVX-512 注册表 / WMI
    内存 63.71 GiB 可见;2×32 GB DDR4-3200(SK Hynix HMAA4GS6AJR8N-XN + DDR432G3200MHz),双通道,3200 MT/s Win32_PhysicalMemory
    GPU NVIDIA GeForce RTX 3080 Laptop GPU,16,384 MiB,sm_86,驱动 596.47 nvidia-smi
    SSD SIX X7400 Pro,NVMe,1,908 GB Get-PhysicalDisk
    OS Windows 11 专业版,Build 22631,x64 Win32_OperatingSystem
    页面文件 C:\pagefile.sys 4,096 MB + D:\pagefile.sys 32,768 MB(固定,初始=最大);commit 上限 99.71 GiB Win32_PageFileUsage / Win32_OperatingSystem
    磁盘余量 😄 26.6 GB;D: 231.4 GB(测前) Get-PSDrive
    时区 Asia/Shanghai(UTC+8) —

    与旧报告的硬件差异只有两项:内存 31.71 → 63.71 GiB(单条单通道 → 2×32 双通道)、页面文件 5,120 MB/commit 36.71 GiB → 4+32 GB/commit 99.71 GiB。GPU、CPU、SSD、OS、驱动均未变。

    1 条回复 最后回复
    0
    • PhilipShi2026P
      PhilipShi2026P
      PhilipShi2026
      编写于 最后由 编辑
      #2

      总算是可以用来本地干活了:)

      1 条回复 最后回复
      0

      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

      有了你的建议,这篇帖子会更精彩哦 💗

      注册 登录
      回复
      • 在新帖中回复
      登录后回复
      • 从旧到新
      • 从新到旧
      • 最多赞同


      • 登录

      • 登录或注册以进行搜索。
      • 第一个帖子
        最后一个帖子
      0
      • 版块
      • 最新
      • 标签
      • 热门
      • 用户
      • 群组