-
立刻就试试
我还打算跳船去r9700 了 -
来了
Tensor matmul (torch 2.14 + CUDA 13, 8192³, 250 W cap):
FP16 BF16 TF32 GPU0 locked 53.8 TFLOPS 56.5 32.2 GPU0 unlocked 67.8 (+26 %) 72.6 (+28 %) 41.5 (+29 %) GPU1 unlocked 72.8 76.5 44.7 没有像github 的50% 那么多，有可能是限功率250w 的原因
Strata (sergqwer fork 0.1.44.1-nvfp4.2, UD-Q4_K_XL, production config).
Before After Change Prefill 19K tokens 2,277 tok/s 2,618 +15 % Prefill 43K 2,786 3,227 +16 % Prefill 89K 3,126 3,539 +13 % Prefill 122K 3,189 3,613 +13 % Decode zh prose / zh chat / EN / code 94.5 / 100.3 / 97.6 / 161.2 96.4 / 98.2 / 99.6 / 159.8 same Tool call pass pass decode 没变，预料中 因为decode 是被宽带限制了
coding 150t/s -
-
，
T terry 固定了此主题
-
，T terry 将此主题从 随便聊聊 移至此处
-
-
解锁思路值得跟，但这类内核模块改的是 SM 的指令与调度路径，验证要严一点：
- 先用同一模型、同一量化、同一 prompt 和 seed，对比解锁前后的逐 token 输出或 loss，别只看 matmul TFLOPS；算力涨了但数值路径变了，对推理是负收益。
- 250W cap 下 +26% 到 +28%，要确认是解锁了 BF16 吞吐，还是顺带改了频率/电压曲线。跑一轮 24 小时长稳和反复挂起/恢复，看会不会掉卡或 Xid。
- 驱动和 CUDA 升级可能覆盖或让模块失效，生产机别用；多卡、多进程下也要确认是每张卡都只解锁一次。
- 你贴的 8192³ matmul 方向对，但还缺真实模型的 prefill/decode 端到端对比，尤其是长上下文下的数值一致性。
prefill 快 10% 到 15% 如果能在真实模型上复现，对 3090 这批卡确实有价值。
-
来了
Tensor matmul (torch 2.14 + CUDA 13, 8192³, 250 W cap):
FP16 BF16 TF32 GPU0 locked 53.8 TFLOPS 56.5 32.2 GPU0 unlocked 67.8 (+26 %) 72.6 (+28 %) 41.5 (+29 %) GPU1 unlocked 72.8 76.5 44.7 没有像github 的50% 那么多，有可能是限功率250w 的原因
Strata (sergqwer fork 0.1.44.1-nvfp4.2, UD-Q4_K_XL, production config).
Before After Change Prefill 19K tokens 2,277 tok/s 2,618 +15 % Prefill 43K 2,786 3,227 +16 % Prefill 89K 3,126 3,539 +13 % Prefill 122K 3,189 3,613 +13 % Decode zh prose / zh chat / EN / code 94.5 / 100.3 / 97.6 / 161.2 96.4 / 98.2 / 99.6 / 159.8 same Tool call pass pass decode 没变，预料中 因为decode 是被宽带限制了
coding 150t/s -
@applejuice 你用QFN3.8 UD Q4 XL，感觉质量有提升么？
我受不了那个速度，已经回到GSQ IQ3_S了， 感觉我目前的场景，使用IQ3_S也足够了。 （还有个原因就是我的软件之前在IQ3_S上面调优过，对这个模型有点过拟合，换了UD Q4 XL，反而质量变差。。。。） -
-
Zagitta/gpu-unlock：给 RTX 3090 解锁满速 BF16 的内核模块
发布日期：2026 年 10 月 18 日 | Stars：约 137 | 状态：更新非常活跃
项目背景
2026 年 10 月 18 日，开发者 Zagitta 公开了 gpu-unlock 项目。它要解决的是 NVIDIA 从安培一代就开始的老问题：
GeForce 消费卡（GA102/GA104）的 BF16 张量运算被固件人为限速，远低于专业卡（RTX A 系列）的速率，而专业卡硬件完全相同，只是速度选择器寄存器被锁死。社区此前已有针对矿卡 CMP 90HX 的 cmp90hx-unlock（WildFlash1st 维护），本项目的V67 签名常量正是从那套方案改编而来。创新点：实现形态
它是一个
Linux 内核模块，在initramfs 阶段、NVIDIA 官方驱动绑定显卡之前运行：- 用从
610.43.03 版官方包中提取并校验过 SHA-256 的 GSP/Booter 固件，以带 V67 签名的方式完成解锁 - 向两个速度选择器寄存器写入解锁值：
SS0 写 0x88888888（选中满速 BF16）；SS1 写 0x8（效果未验证） - 执行
FLR 复位，再把干净的卡交还给未修改的原厂驱动
它既不是 UEFI 程序也不是魔改驱动。 作者在 CachyOS 内核 + NVIDIA 615.71.09 驱动上验证：
BF16/F16 运算约提升 40%。关键限制
限制项 说明 设备 ID 只接受 GeForce/CMP 的 GA102/GA104，实测仅覆盖一张 RTX 3090（3090 Ti 等在 issue 请求中）启动方式 必须冷启动生效，热重启不支持启用方式 通过内核命令行 gpu_unlock.targets= 显式 opt-in驱动绑定 固件输入严格钉死 610.43.03，换驱动需跟进适配对 3090 持有者意味着什么？
第一，运行时解锁，无变砖风险。 不刷 VBIOS、不写 EEPROM，
断电重启即恢复原状——这是它比一切"改 BIOS 解锁"方案最优雅的地方。DKMS + Arch/Debian/RPM 三条打包路径，装起来像正常内核模块。第二，收益精准命中 AI 推理场景。 sm_86 没有 FP8 和 FP4，3090 跑大模型最吃重的就是
BF16/INT8 张量核心。对做 LLM 推理的人（尤其长上下文、prefill 密集、KV cache 全 BF16 的负载），40% 的 BF16 提速意味着 vLLM/SGLang 的 prefill 吞吐和混合精度层的直接受益，等于零成本把 3090 往 A6000 的算力规格拉近一档。游戏玩家基本无感——FP32/光栅不受此锁影响。第三，注意边界。 这是
单卡单环境的实证结果，作者自己声明"其他 3090 板卡和环境未经验证"；固件来源受 NVIDIA 驱动许可协议约束，作者只声明个人本地打包用途。加上驱动版本强绑定，目前更像给折腾党的高级工具，而非普适方案。对双 3090 机器（正好在用 615.71.09）来说值得关注——若后续适配驱动版本，INT8 W8A8 + 满速 BF16 的组合会明显补上 3090 长上下文推理的短板。按 vLLM/SGLang（W8A8/W4A16）实际场景拆解
① 完全不碰张量核心的负载 → 零收益
传统 FP32 CUDA 核心 GEMM、光栅化、显存带宽都不受这个锁影响。解锁的是
张量核心速率选择器，纯标量/向量计算没戏。② W4A16 / W8A16（AWQ、GPTQ、Marlin）→ 有收益，主要在预填充
这是很多人忽略的点：现在的 INT4/INT8 权重量化在 vLLM/SGLang 里几乎全是 "weight-only" 方案——
反量化成 FP16 后跑 FP16 张量核心 GEMM。仓库作者实测原话是 "Faster BF16/F16 operations. About 40% gain"，F16 也在解锁范围内。所以这类模型的 prefill（compute-bound，张量核心吞吐决定速度）理论上直接吃到接近 40% 的提升。③ 真·INT8 计算（Freaksterz W8A8，activation 也是 INT8）→ 很可能有，未经验证
仓库实测证据只覆盖 BF16。但有一个强旁证：
精度 RTX 3090 RTX A6000 比值 INT8 (dense) 142 TOPS 308 TOPS 2.17x BF16 71 TFLOPS 154.7 TFLOPS 2.18x INT8 与 BF16 的锁死比例完全一致——说明 NVIDIA 在 GA102 上是把整条张量核心流水线（含 INT8/INT4）一起限速的。SS0 寄存器那 8 个 4-bit 字段大概率就是按精度分档的速率选择器，写0x88888888是把所有档位拉满。④ 解码（decode）阶段 → 基本无感
Decode 是
显存带宽瓶颈（每 token 把权重从显存搬一遍），不是算力瓶颈。这个解锁是算力解锁，3090 的936 GB/s 带宽没人动过。收益集中在 prefill / 长上下文首 token（TTFT），稳态出字速度 t/s 不会明显变化。结论 + 建议
W8A8 v3 属于第 ③ 层，
值得实测验证：解锁前后各跑一次 vLLM 的 prefill 吞吐测试（如vllm bench长 prompt 的 TTFT，或torch._int_mm微基准）。如果 INT8 也吃到锁的解除，对"256K 上下文 + prefill 重"的部署是实打实的收益；同时把 decode 速度预期管理好，那边不会有魔法。 - 用从
-
解锁版 单卡 3090 24G,内存96GB, 我让codex 跑通流程做成skill后,让 dsh + swift-1.5-iq2_xs 循环跑任务 ,所以模型差点关系不大,主要追求速度. 当前 API 健康检查正常：模型 swift-1.5-iq2_xs 已加载，512K 上下文，图像输入已启用。
- 模型文件：/pc8share/Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ2_XS/
- Strata pack：/home/haoniu/Strata-data-iq3_s/packs/swift-iq2_xs
- **KV：**未指定量化参数，使用 FP16 默认；KV resident 32,768
- **并发：**1 路
- **专家缓存：**自动分配；启动日志显示约 15.56 GiB 进入 3090
- PLE：--ple-io ram，日志确认 PLE 表已锁入 RAM
- **显存预留：**1,024 MiB；启动后日志显示约 800 MiB 空闲
- **会话缓存：**上限 10 GiB，2 个槽位；这是上限，不会开机就占满
- MTP：--spec 4，--spec-min-p 0.5
- **视觉：**已启用，编码器使用 CPU
-
-
-
-
，
G game game 引用了 此主题
-
其实 3090 真正牛逼的是可以改 48g ，另外 3090 的 int8 tensor 算力没砍，博主的数据在 int8 上有误
精度 RTX 3090 RTX A6000 比值
INT8 (dense) 142 TOPS 308 TOPS 2.17x 实际 3090int8 算力是 284
BF16 71 TFLOPS 154.7 TFLOPS 2.18x本人用 3090ti nvlink 使用 sglang 跑 qwen3.8-27b w8a8-int8 prefill 短上下文最快 7000t/s ，20k 上下文也能做到 5000 多 t/s
-
很好，感谢楼主，已解锁，双卡3090跑27b tp=2的prefill提升40%+
-
-
其实 3090 真正牛逼的是可以改 48g ，另外 3090 的 int8 tensor 算力没砍，博主的数据在 int8 上有误
精度 RTX 3090 RTX A6000 比值
INT8 (dense) 142 TOPS 308 TOPS 2.17x 实际 3090int8 算力是 284
BF16 71 TFLOPS 154.7 TFLOPS 2.18x本人用 3090ti nvlink 使用 sglang 跑 qwen3.8-27b w8a8-int8 prefill 短上下文最快 7000t/s ，20k 上下文也能做到 5000 多 t/s
-
7000t/s 很牛 3090ti 值得了
-
感谢这串，补 4/4 解锁前后的数据。先说清楚：只有 3080 是同一张卡、同一台机器的真 A/B；双 3090 与单 3090 的解锁前数据不是我们自己的，我只拿本帖的 locked 基准做对照，不假装是同卡 before/after。
1. RTX 3080 10GB：真·解锁前后（同卡同机）
卡：EVGA RTX 3080 FTW3 ULTRA 10GB（GA102，PCI
0000:04:00.0）
条件：280W、PyTorch 2.14.1+cu130、8192³ matmul、3 warmup + 10 iterations精度 解锁前 解锁后 差异 FP16 60.91 107.60 +76.6% BF16 64.26 107.82 +67.8% TF32 31.51 52.60 +66.9% journal 确认：
0000:04:00.0: gpu_unlock: unlocked解锁后 BF16 107.82，已经接近 3090 单卡解锁后的 108.48；但 VRAM 只有 10GB。
这是目前没人回报过的点：官方 README 只验证过 RTX 3090，3080 是未官方验证的 GA102 路径。我这张 EVGA FTW3 成功，不代表所有 3080 板卡；长期要看 Xid／掉卡。
2. 双 3090 + NVLink：解锁后
卡：2× MSI RTX 3090 SUPRIM X 24G（
1462:3882）
NVLink：4 links × 14.062 GB/s = 56.25 GB/s 单向、112.5 GB/s 双向
条件：250W×2、8192³ matmulGPU FP16 BF16 TF32 GPU0 68.19 75.79 48.26 GPU1 75.02 76.55 50.49 对照本帖 2488 的 locked 基准（跨机器参考，不是我们自己的 before）：
项目 2488 locked 我们解锁后 GPU0 差异 FP16 53.8 68.19 +26.7% BF16 56.5 75.79 +34.1% TF32 32.2 48.26 +49.9% 我们的 GPU0 甚至略高于本帖 unlocked 参考（67.8／72.6／41.5）。
3. 单张 3090：解锁后（解锁前未在我们机器上量）
卡：ASUS TUF RTX 3090 24G（
1043:87b3）
条件：350W、8192³ matmul精度 解锁后 FP16 108.48 BF16 116.98 TF32 61.65 我们没有在解锁前跑同一张卡的 baseline，所以不编造 before/after；只给解锁后实测。
4. 补充：3080 20GB 魔改卡，CP 值可能更高
这楼里没人提 3080 20GB 魔改卡，但它其实是 3080 解锁的另一个甜点：
- 同一颗 GA102、8704 CUDA、320-bit，显存从 10GB 翻倍到 20GB GDDR6X。
- 二手／魔改市场价约 ¥2,600–3,200（约 US$370–450）；3090 24GB 约 ¥5,000–6,000，价差接近一倍。
- 如果
gpu-unlock对 20GB 版同样有效，理论上能拿到和 10GB 版接近的解锁收益（FP16 +76.6%、BF16 +67.8%），同时 20GB 对 14B／30B AWQ、长上下文 KV cache 更实用。 - 这样它的 CP 值会比 3080 10GB 高很多：同样的算力、多一倍 VRAM，价格只有 3090 的 40–50%。
但这是未验证的推论，不是我们实测：
- 20GB 魔改卡是灰色市场，无原厂保固，VBIOS、散热、blower 设计都可能与零售 3080 不同。
gpu-unlock官方只验证过 RTX 3090；20GB 版即使同为 GA102，也不保证走同一条 firmware 路径。- 要买的话，先确认：能 cold boot、
journalctl -b | grep gpu_unlock出现0000:xx:00.0: gpu_unlock: unlocked、跑 8192³ matmul 与 10GB 版对比、再看 Xid／掉卡。 - 若这些过不了，20GB 的「大显存」不值得拿稳定度去换。
5. 一句话总结
- 3080 10GB：真 A/B，FP16 +76.6%、BF16 +67.8%、TF32 +66.9%。
- 双 3090 + NVLink：解锁后 GPU0 68.19／75.79／48.26；对照本帖 locked 高 26–50%，但属跨机对照。
- 单 3090：解锁后 108.48／116.98／61.65；无自家 before。
- 3080 20GB 魔改卡：若 gpu_unlock 同样有效，CP 值理论上优于 10GB 版与 3090；但属未验证路径，先验卡再买。
给要试 3080 的人：官方未验证、要 cold boot、要看
journalctl -b | grep gpu_unlock，长期注意 Xid／掉卡。 -
感谢这串，补 4/4 解锁前后的数据。先说清楚：只有 3080 是同一张卡、同一台机器的真 A/B；双 3090 与单 3090 的解锁前数据不是我们自己的，我只拿本帖的 locked 基准做对照，不假装是同卡 before/after。
1. RTX 3080 10GB：真·解锁前后（同卡同机）
卡：EVGA RTX 3080 FTW3 ULTRA 10GB（GA102，PCI
0000:04:00.0）
条件：280W、PyTorch 2.14.1+cu130、8192³ matmul、3 warmup + 10 iterations精度 解锁前 解锁后 差异 FP16 60.91 107.60 +76.6% BF16 64.26 107.82 +67.8% TF32 31.51 52.60 +66.9% journal 确认：
0000:04:00.0: gpu_unlock: unlocked解锁后 BF16 107.82，已经接近 3090 单卡解锁后的 108.48；但 VRAM 只有 10GB。
这是目前没人回报过的点：官方 README 只验证过 RTX 3090，3080 是未官方验证的 GA102 路径。我这张 EVGA FTW3 成功，不代表所有 3080 板卡；长期要看 Xid／掉卡。
2. 双 3090 + NVLink：解锁后
卡：2× MSI RTX 3090 SUPRIM X 24G（
1462:3882）
NVLink：4 links × 14.062 GB/s = 56.25 GB/s 单向、112.5 GB/s 双向
条件：250W×2、8192³ matmulGPU FP16 BF16 TF32 GPU0 68.19 75.79 48.26 GPU1 75.02 76.55 50.49 对照本帖 2488 的 locked 基准（跨机器参考，不是我们自己的 before）：
项目 2488 locked 我们解锁后 GPU0 差异 FP16 53.8 68.19 +26.7% BF16 56.5 75.79 +34.1% TF32 32.2 48.26 +49.9% 我们的 GPU0 甚至略高于本帖 unlocked 参考（67.8／72.6／41.5）。
3. 单张 3090：解锁后（解锁前未在我们机器上量）
卡：ASUS TUF RTX 3090 24G（
1043:87b3）
条件：350W、8192³ matmul精度 解锁后 FP16 108.48 BF16 116.98 TF32 61.65 我们没有在解锁前跑同一张卡的 baseline，所以不编造 before/after；只给解锁后实测。
4. 补充：3080 20GB 魔改卡，CP 值可能更高
这楼里没人提 3080 20GB 魔改卡，但它其实是 3080 解锁的另一个甜点：
- 同一颗 GA102、8704 CUDA、320-bit，显存从 10GB 翻倍到 20GB GDDR6X。
- 二手／魔改市场价约 ¥2,600–3,200（约 US$370–450）；3090 24GB 约 ¥5,000–6,000，价差接近一倍。
- 如果
gpu-unlock对 20GB 版同样有效，理论上能拿到和 10GB 版接近的解锁收益（FP16 +76.6%、BF16 +67.8%），同时 20GB 对 14B／30B AWQ、长上下文 KV cache 更实用。 - 这样它的 CP 值会比 3080 10GB 高很多：同样的算力、多一倍 VRAM，价格只有 3090 的 40–50%。
但这是未验证的推论，不是我们实测：
- 20GB 魔改卡是灰色市场，无原厂保固，VBIOS、散热、blower 设计都可能与零售 3080 不同。
gpu-unlock官方只验证过 RTX 3090；20GB 版即使同为 GA102，也不保证走同一条 firmware 路径。- 要买的话，先确认：能 cold boot、
journalctl -b | grep gpu_unlock出现0000:xx:00.0: gpu_unlock: unlocked、跑 8192³ matmul 与 10GB 版对比、再看 Xid／掉卡。 - 若这些过不了，20GB 的「大显存」不值得拿稳定度去换。
5. 一句话总结
- 3080 10GB：真 A/B，FP16 +76.6%、BF16 +67.8%、TF32 +66.9%。
- 双 3090 + NVLink：解锁后 GPU0 68.19／75.79／48.26；对照本帖 locked 高 26–50%，但属跨机对照。
- 单 3090：解锁后 108.48／116.98／61.65；无自家 before。
- 3080 20GB 魔改卡：若 gpu_unlock 同样有效，CP 值理论上优于 10GB 版与 3090；但属未验证路径，先验卡再买。
给要试 3080 的人：官方未验证、要 cold boot、要看
journalctl -b | grep gpu_unlock，长期注意 Xid／掉卡。
版主审定：本帖设为精华，作者 +5 积分奖励，希望再接再厉！
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！