-
很好，感谢楼主，已解锁，双卡3090跑27b tp=2的prefill提升40%+
-
-
其实 3090 真正牛逼的是可以改 48g ，另外 3090 的 int8 tensor 算力没砍，博主的数据在 int8 上有误
精度 RTX 3090 RTX A6000 比值
INT8 (dense) 142 TOPS 308 TOPS 2.17x 实际 3090int8 算力是 284
BF16 71 TFLOPS 154.7 TFLOPS 2.18x本人用 3090ti nvlink 使用 sglang 跑 qwen3.8-27b w8a8-int8 prefill 短上下文最快 7000t/s ，20k 上下文也能做到 5000 多 t/s
-
7000t/s 很牛 3090ti 值得了
-
感谢这串，补 4/4 解锁前后的数据。先说清楚：只有 3080 是同一张卡、同一台机器的真 A/B；双 3090 与单 3090 的解锁前数据不是我们自己的，我只拿本帖的 locked 基准做对照，不假装是同卡 before/after。
1. RTX 3080 10GB：真·解锁前后（同卡同机）
卡：EVGA RTX 3080 FTW3 ULTRA 10GB（GA102，PCI
0000:04:00.0）
条件：280W、PyTorch 2.14.1+cu130、8192³ matmul、3 warmup + 10 iterations精度 解锁前 解锁后 差异 FP16 60.91 107.60 +76.6% BF16 64.26 107.82 +67.8% TF32 31.51 52.60 +66.9% journal 确认：
0000:04:00.0: gpu_unlock: unlocked解锁后 BF16 107.82，已经接近 3090 单卡解锁后的 108.48；但 VRAM 只有 10GB。
这是目前没人回报过的点：官方 README 只验证过 RTX 3090，3080 是未官方验证的 GA102 路径。我这张 EVGA FTW3 成功，不代表所有 3080 板卡；长期要看 Xid／掉卡。
2. 双 3090 + NVLink：解锁后
卡：2× MSI RTX 3090 SUPRIM X 24G（
1462:3882）
NVLink：4 links × 14.062 GB/s = 56.25 GB/s 单向、112.5 GB/s 双向
条件：250W×2、8192³ matmulGPU FP16 BF16 TF32 GPU0 68.19 75.79 48.26 GPU1 75.02 76.55 50.49 对照本帖 2488 的 locked 基准（跨机器参考，不是我们自己的 before）：
项目 2488 locked 我们解锁后 GPU0 差异 FP16 53.8 68.19 +26.7% BF16 56.5 75.79 +34.1% TF32 32.2 48.26 +49.9% 我们的 GPU0 甚至略高于本帖 unlocked 参考（67.8／72.6／41.5）。
3. 单张 3090：解锁后（解锁前未在我们机器上量）
卡：ASUS TUF RTX 3090 24G（
1043:87b3）
条件：350W、8192³ matmul精度 解锁后 FP16 108.48 BF16 116.98 TF32 61.65 我们没有在解锁前跑同一张卡的 baseline，所以不编造 before/after；只给解锁后实测。
4. 补充：3080 20GB 魔改卡，CP 值可能更高
这楼里没人提 3080 20GB 魔改卡，但它其实是 3080 解锁的另一个甜点：
- 同一颗 GA102、8704 CUDA、320-bit，显存从 10GB 翻倍到 20GB GDDR6X。
- 二手／魔改市场价约 ¥2,600–3,200（约 US$370–450）；3090 24GB 约 ¥5,000–6,000，价差接近一倍。
- 如果
gpu-unlock对 20GB 版同样有效，理论上能拿到和 10GB 版接近的解锁收益（FP16 +76.6%、BF16 +67.8%），同时 20GB 对 14B／30B AWQ、长上下文 KV cache 更实用。 - 这样它的 CP 值会比 3080 10GB 高很多：同样的算力、多一倍 VRAM，价格只有 3090 的 40–50%。
但这是未验证的推论，不是我们实测：
- 20GB 魔改卡是灰色市场，无原厂保固，VBIOS、散热、blower 设计都可能与零售 3080 不同。
gpu-unlock官方只验证过 RTX 3090；20GB 版即使同为 GA102，也不保证走同一条 firmware 路径。- 要买的话，先确认：能 cold boot、
journalctl -b | grep gpu_unlock出现0000:xx:00.0: gpu_unlock: unlocked、跑 8192³ matmul 与 10GB 版对比、再看 Xid／掉卡。 - 若这些过不了，20GB 的「大显存」不值得拿稳定度去换。
5. 一句话总结
- 3080 10GB：真 A/B，FP16 +76.6%、BF16 +67.8%、TF32 +66.9%。
- 双 3090 + NVLink：解锁后 GPU0 68.19／75.79／48.26；对照本帖 locked 高 26–50%，但属跨机对照。
- 单 3090：解锁后 108.48／116.98／61.65；无自家 before。
- 3080 20GB 魔改卡：若 gpu_unlock 同样有效，CP 值理论上优于 10GB 版与 3090；但属未验证路径，先验卡再买。
给要试 3080 的人：官方未验证、要 cold boot、要看
journalctl -b | grep gpu_unlock，长期注意 Xid／掉卡。 -
感谢这串，补 4/4 解锁前后的数据。先说清楚：只有 3080 是同一张卡、同一台机器的真 A/B；双 3090 与单 3090 的解锁前数据不是我们自己的，我只拿本帖的 locked 基准做对照，不假装是同卡 before/after。
1. RTX 3080 10GB：真·解锁前后（同卡同机）
卡：EVGA RTX 3080 FTW3 ULTRA 10GB（GA102，PCI
0000:04:00.0）
条件：280W、PyTorch 2.14.1+cu130、8192³ matmul、3 warmup + 10 iterations精度 解锁前 解锁后 差异 FP16 60.91 107.60 +76.6% BF16 64.26 107.82 +67.8% TF32 31.51 52.60 +66.9% journal 确认：
0000:04:00.0: gpu_unlock: unlocked解锁后 BF16 107.82，已经接近 3090 单卡解锁后的 108.48；但 VRAM 只有 10GB。
这是目前没人回报过的点：官方 README 只验证过 RTX 3090，3080 是未官方验证的 GA102 路径。我这张 EVGA FTW3 成功，不代表所有 3080 板卡；长期要看 Xid／掉卡。
2. 双 3090 + NVLink：解锁后
卡：2× MSI RTX 3090 SUPRIM X 24G（
1462:3882）
NVLink：4 links × 14.062 GB/s = 56.25 GB/s 单向、112.5 GB/s 双向
条件：250W×2、8192³ matmulGPU FP16 BF16 TF32 GPU0 68.19 75.79 48.26 GPU1 75.02 76.55 50.49 对照本帖 2488 的 locked 基准（跨机器参考，不是我们自己的 before）：
项目 2488 locked 我们解锁后 GPU0 差异 FP16 53.8 68.19 +26.7% BF16 56.5 75.79 +34.1% TF32 32.2 48.26 +49.9% 我们的 GPU0 甚至略高于本帖 unlocked 参考（67.8／72.6／41.5）。
3. 单张 3090：解锁后（解锁前未在我们机器上量）
卡：ASUS TUF RTX 3090 24G（
1043:87b3）
条件：350W、8192³ matmul精度 解锁后 FP16 108.48 BF16 116.98 TF32 61.65 我们没有在解锁前跑同一张卡的 baseline，所以不编造 before/after；只给解锁后实测。
4. 补充：3080 20GB 魔改卡，CP 值可能更高
这楼里没人提 3080 20GB 魔改卡，但它其实是 3080 解锁的另一个甜点：
- 同一颗 GA102、8704 CUDA、320-bit，显存从 10GB 翻倍到 20GB GDDR6X。
- 二手／魔改市场价约 ¥2,600–3,200（约 US$370–450）；3090 24GB 约 ¥5,000–6,000，价差接近一倍。
- 如果
gpu-unlock对 20GB 版同样有效，理论上能拿到和 10GB 版接近的解锁收益（FP16 +76.6%、BF16 +67.8%），同时 20GB 对 14B／30B AWQ、长上下文 KV cache 更实用。 - 这样它的 CP 值会比 3080 10GB 高很多：同样的算力、多一倍 VRAM，价格只有 3090 的 40–50%。
但这是未验证的推论，不是我们实测：
- 20GB 魔改卡是灰色市场，无原厂保固，VBIOS、散热、blower 设计都可能与零售 3080 不同。
gpu-unlock官方只验证过 RTX 3090；20GB 版即使同为 GA102，也不保证走同一条 firmware 路径。- 要买的话，先确认：能 cold boot、
journalctl -b | grep gpu_unlock出现0000:xx:00.0: gpu_unlock: unlocked、跑 8192³ matmul 与 10GB 版对比、再看 Xid／掉卡。 - 若这些过不了，20GB 的「大显存」不值得拿稳定度去换。
5. 一句话总结
- 3080 10GB：真 A/B，FP16 +76.6%、BF16 +67.8%、TF32 +66.9%。
- 双 3090 + NVLink：解锁后 GPU0 68.19／75.79／48.26；对照本帖 locked 高 26–50%，但属跨机对照。
- 单 3090：解锁后 108.48／116.98／61.65；无自家 before。
- 3080 20GB 魔改卡：若 gpu_unlock 同样有效，CP 值理论上优于 10GB 版与 3090；但属未验证路径，先验卡再买。
给要试 3080 的人：官方未验证、要 cold boot、要看
journalctl -b | grep gpu_unlock，长期注意 Xid／掉卡。 -
-
-
-
，
Y yangkang5303 引用了 此主题
-
其实 3090 真正牛逼的是可以改 48g ，另外 3090 的 int8 tensor 算力没砍，博主的数据在 int8 上有误
精度 RTX 3090 RTX A6000 比值
INT8 (dense) 142 TOPS 308 TOPS 2.17x 实际 3090int8 算力是 284
BF16 71 TFLOPS 154.7 TFLOPS 2.18x本人用 3090ti nvlink 使用 sglang 跑 qwen3.8-27b w8a8-int8 prefill 短上下文最快 7000t/s ，20k 上下文也能做到 5000 多 t/s
-
-
-
来交作业了，3090 实测，过程+前后对比。 环境：RTX 3090 24G / Ubuntu 24.04 / 内核 7.0.0-28 / 驱动 580.178.04，vLLM 跑 Qwen3.8-27B，128K 上下文常驻。 过程（全程不折腾 VBIOS）： 1. git clone https://github.com/Zagitta/gpu-unlock && cd gpu-unlock && make install（编译进 initramfs） 2. GRUB 加 gpu_unlock.targets=all，update-grub 3. 关机→再开机（注意：reboot 热重启不生效，必须断电源，这是唯一的坑） 4. 起来后 journalctl -k -b | grep gpu_unlock，看到 gpu_unlock: unlocked，整条 ROM/FWSEC 链（gsp_ga10x 84MB、v67-ga102 等 5 个固件）全部 error=0 前后对比（同机实测）： | 项目 | 装前(9月,250W) | 解锁后 250W | 解锁后 350W | |--------------|--------------------------------|------------------|------------------| | 128K prefill | 79~122s 首字（≈1050~1600 t/s） | 40.1s / 3195 t/s | 31.2s / 4108 t/s | | 64K prefill | - | 24.1s / 2651 t/s | 22.0s / 2911 t/s | 合计约 2.5~4×（其中纯"250W→350W"单变量贡献 +29%，长上下文提升比短上下文大，因为功耗墙卡的是持续算力，128K 满算时间久，250W 下反复撞墙降频；350W 满载 71°C/336W/SM 1890MHz，3090 压得住还有余量）。 体感：以前最大的痛点就是长上下文等首字，盯着空白等一分多钟。现在 31 秒出头，吐字一版一下出来。 -
我是Windows 提升不了了啊。
-
来交作业了，3090 实测，过程+前后对比。 环境：RTX 3090 24G / Ubuntu 24.04 / 内核 7.0.0-28 / 驱动 580.178.04，vLLM 跑 Qwen3.8-27B，128K 上下文常驻。 过程（全程不折腾 VBIOS）： 1. git clone https://github.com/Zagitta/gpu-unlock && cd gpu-unlock && make install（编译进 initramfs） 2. GRUB 加 gpu_unlock.targets=all，update-grub 3. 关机→再开机（注意：reboot 热重启不生效，必须断电源，这是唯一的坑） 4. 起来后 journalctl -k -b | grep gpu_unlock，看到 gpu_unlock: unlocked，整条 ROM/FWSEC 链（gsp_ga10x 84MB、v67-ga102 等 5 个固件）全部 error=0 前后对比（同机实测）： | 项目 | 装前(9月,250W) | 解锁后 250W | 解锁后 350W | |--------------|--------------------------------|------------------|------------------| | 128K prefill | 79~122s 首字（≈1050~1600 t/s） | 40.1s / 3195 t/s | 31.2s / 4108 t/s | | 64K prefill | - | 24.1s / 2651 t/s | 22.0s / 2911 t/s | 合计约 2.5~4×（其中纯"250W→350W"单变量贡献 +29%，长上下文提升比短上下文大，因为功耗墙卡的是持续算力，128K 满算时间久，250W 下反复撞墙降频；350W 满载 71°C/336W/SM 1890MHz，3090 压得住还有余量）。 体感：以前最大的痛点就是长上下文等首字，盯着空白等一分多钟。现在 31 秒出头，吐字一版一下出来。 -
-
-
我也做了,我把記錄加到我自己的貼子了
-
，系统 取消固定了此主题
-
，
G gao Gao 引用了 此主题
-
-
感谢这串，补 4/4 解锁前后的数据。先说清楚：只有 3080 是同一张卡、同一台机器的真 A/B；双 3090 与单 3090 的解锁前数据不是我们自己的，我只拿本帖的 locked 基准做对照，不假装是同卡 before/after。
1. RTX 3080 10GB：真·解锁前后（同卡同机）
卡：EVGA RTX 3080 FTW3 ULTRA 10GB（GA102，PCI
0000:04:00.0）
条件：280W、PyTorch 2.14.1+cu130、8192³ matmul、3 warmup + 10 iterations精度 解锁前 解锁后 差异 FP16 60.91 107.60 +76.6% BF16 64.26 107.82 +67.8% TF32 31.51 52.60 +66.9% journal 确认：
0000:04:00.0: gpu_unlock: unlocked解锁后 BF16 107.82，已经接近 3090 单卡解锁后的 108.48；但 VRAM 只有 10GB。
这是目前没人回报过的点：官方 README 只验证过 RTX 3090，3080 是未官方验证的 GA102 路径。我这张 EVGA FTW3 成功，不代表所有 3080 板卡；长期要看 Xid／掉卡。
2. 双 3090 + NVLink：解锁后
卡：2× MSI RTX 3090 SUPRIM X 24G（
1462:3882）
NVLink：4 links × 14.062 GB/s = 56.25 GB/s 单向、112.5 GB/s 双向
条件：250W×2、8192³ matmulGPU FP16 BF16 TF32 GPU0 68.19 75.79 48.26 GPU1 75.02 76.55 50.49 对照本帖 2488 的 locked 基准（跨机器参考，不是我们自己的 before）：
项目 2488 locked 我们解锁后 GPU0 差异 FP16 53.8 68.19 +26.7% BF16 56.5 75.79 +34.1% TF32 32.2 48.26 +49.9% 我们的 GPU0 甚至略高于本帖 unlocked 参考（67.8／72.6／41.5）。
3. 单张 3090：解锁后（解锁前未在我们机器上量）
卡：ASUS TUF RTX 3090 24G（
1043:87b3）
条件：350W、8192³ matmul精度 解锁后 FP16 108.48 BF16 116.98 TF32 61.65 我们没有在解锁前跑同一张卡的 baseline，所以不编造 before/after；只给解锁后实测。
4. 补充：3080 20GB 魔改卡，CP 值可能更高
这楼里没人提 3080 20GB 魔改卡，但它其实是 3080 解锁的另一个甜点：
- 同一颗 GA102、8704 CUDA、320-bit，显存从 10GB 翻倍到 20GB GDDR6X。
- 二手／魔改市场价约 ¥2,600–3,200（约 US$370–450）；3090 24GB 约 ¥5,000–6,000，价差接近一倍。
- 如果
gpu-unlock对 20GB 版同样有效，理论上能拿到和 10GB 版接近的解锁收益（FP16 +76.6%、BF16 +67.8%），同时 20GB 对 14B／30B AWQ、长上下文 KV cache 更实用。 - 这样它的 CP 值会比 3080 10GB 高很多：同样的算力、多一倍 VRAM，价格只有 3090 的 40–50%。
但这是未验证的推论，不是我们实测：
- 20GB 魔改卡是灰色市场，无原厂保固，VBIOS、散热、blower 设计都可能与零售 3080 不同。
gpu-unlock官方只验证过 RTX 3090；20GB 版即使同为 GA102，也不保证走同一条 firmware 路径。- 要买的话，先确认：能 cold boot、
journalctl -b | grep gpu_unlock出现0000:xx:00.0: gpu_unlock: unlocked、跑 8192³ matmul 与 10GB 版对比、再看 Xid／掉卡。 - 若这些过不了，20GB 的「大显存」不值得拿稳定度去换。
5. 一句话总结
- 3080 10GB：真 A/B，FP16 +76.6%、BF16 +67.8%、TF32 +66.9%。
- 双 3090 + NVLink：解锁后 GPU0 68.19／75.79／48.26；对照本帖 locked 高 26–50%，但属跨机对照。
- 单 3090：解锁后 108.48／116.98／61.65；无自家 before。
- 3080 20GB 魔改卡：若 gpu_unlock 同样有效，CP 值理论上优于 10GB 版与 3090；但属未验证路径，先验卡再买。
给要试 3080 的人：官方未验证、要 cold boot、要看
journalctl -b | grep gpu_unlock，长期注意 Xid／掉卡。
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！
