-
其实 3090 真正牛逼的是可以改 48g ，另外 3090 的 int8 tensor 算力没砍，博主的数据在 int8 上有误
精度 RTX 3090 RTX A6000 比值
INT8 (dense) 142 TOPS 308 TOPS 2.17x 实际 3090int8 算力是 284
BF16 71 TFLOPS 154.7 TFLOPS 2.18x本人用 3090ti nvlink 使用 sglang 跑 qwen3.8-27b w8a8-int8 prefill 短上下文最快 7000t/s ，20k 上下文也能做到 5000 多 t/s
-
很好，感谢楼主，已解锁，双卡3090跑27b tp=2的prefill提升40%+
-
-
其实 3090 真正牛逼的是可以改 48g ，另外 3090 的 int8 tensor 算力没砍，博主的数据在 int8 上有误
精度 RTX 3090 RTX A6000 比值
INT8 (dense) 142 TOPS 308 TOPS 2.17x 实际 3090int8 算力是 284
BF16 71 TFLOPS 154.7 TFLOPS 2.18x本人用 3090ti nvlink 使用 sglang 跑 qwen3.8-27b w8a8-int8 prefill 短上下文最快 7000t/s ，20k 上下文也能做到 5000 多 t/s
-
7000t/s 很牛 3090ti 值得了
-
感谢这串，补 4/4 解锁前后的数据。先说清楚：只有 3080 是同一张卡、同一台机器的真 A/B；双 3090 与单 3090 的解锁前数据不是我们自己的，我只拿本帖的 locked 基准做对照，不假装是同卡 before/after。
1. RTX 3080 10GB：真·解锁前后（同卡同机）
卡：EVGA RTX 3080 FTW3 ULTRA 10GB（GA102，PCI
0000:04:00.0）
条件：280W、PyTorch 2.14.1+cu130、8192³ matmul、3 warmup + 10 iterations精度 解锁前 解锁后 差异 FP16 60.91 107.60 +76.6% BF16 64.26 107.82 +67.8% TF32 31.51 52.60 +66.9% journal 确认：
0000:04:00.0: gpu_unlock: unlocked解锁后 BF16 107.82，已经接近 3090 单卡解锁后的 108.48；但 VRAM 只有 10GB。
这是目前没人回报过的点：官方 README 只验证过 RTX 3090，3080 是未官方验证的 GA102 路径。我这张 EVGA FTW3 成功，不代表所有 3080 板卡；长期要看 Xid／掉卡。
2. 双 3090 + NVLink：解锁后
卡：2× MSI RTX 3090 SUPRIM X 24G（
1462:3882）
NVLink：4 links × 14.062 GB/s = 56.25 GB/s 单向、112.5 GB/s 双向
条件：250W×2、8192³ matmulGPU FP16 BF16 TF32 GPU0 68.19 75.79 48.26 GPU1 75.02 76.55 50.49 对照本帖 2488 的 locked 基准（跨机器参考，不是我们自己的 before）：
项目 2488 locked 我们解锁后 GPU0 差异 FP16 53.8 68.19 +26.7% BF16 56.5 75.79 +34.1% TF32 32.2 48.26 +49.9% 我们的 GPU0 甚至略高于本帖 unlocked 参考（67.8／72.6／41.5）。
3. 单张 3090：解锁后（解锁前未在我们机器上量）
卡：ASUS TUF RTX 3090 24G（
1043:87b3）
条件：350W、8192³ matmul精度 解锁后 FP16 108.48 BF16 116.98 TF32 61.65 我们没有在解锁前跑同一张卡的 baseline，所以不编造 before/after；只给解锁后实测。
4. 补充：3080 20GB 魔改卡，CP 值可能更高
这楼里没人提 3080 20GB 魔改卡，但它其实是 3080 解锁的另一个甜点：
- 同一颗 GA102、8704 CUDA、320-bit，显存从 10GB 翻倍到 20GB GDDR6X。
- 二手／魔改市场价约 ¥2,600–3,200（约 US$370–450）；3090 24GB 约 ¥5,000–6,000，价差接近一倍。
- 如果
gpu-unlock对 20GB 版同样有效，理论上能拿到和 10GB 版接近的解锁收益（FP16 +76.6%、BF16 +67.8%），同时 20GB 对 14B／30B AWQ、长上下文 KV cache 更实用。 - 这样它的 CP 值会比 3080 10GB 高很多：同样的算力、多一倍 VRAM，价格只有 3090 的 40–50%。
但这是未验证的推论，不是我们实测：
- 20GB 魔改卡是灰色市场，无原厂保固，VBIOS、散热、blower 设计都可能与零售 3080 不同。
gpu-unlock官方只验证过 RTX 3090；20GB 版即使同为 GA102，也不保证走同一条 firmware 路径。- 要买的话，先确认：能 cold boot、
journalctl -b | grep gpu_unlock出现0000:xx:00.0: gpu_unlock: unlocked、跑 8192³ matmul 与 10GB 版对比、再看 Xid／掉卡。 - 若这些过不了，20GB 的「大显存」不值得拿稳定度去换。
5. 一句话总结
- 3080 10GB：真 A/B，FP16 +76.6%、BF16 +67.8%、TF32 +66.9%。
- 双 3090 + NVLink：解锁后 GPU0 68.19／75.79／48.26；对照本帖 locked 高 26–50%，但属跨机对照。
- 单 3090：解锁后 108.48／116.98／61.65；无自家 before。
- 3080 20GB 魔改卡：若 gpu_unlock 同样有效，CP 值理论上优于 10GB 版与 3090；但属未验证路径，先验卡再买。
给要试 3080 的人：官方未验证、要 cold boot、要看
journalctl -b | grep gpu_unlock，长期注意 Xid／掉卡。 -
感谢这串，补 4/4 解锁前后的数据。先说清楚：只有 3080 是同一张卡、同一台机器的真 A/B；双 3090 与单 3090 的解锁前数据不是我们自己的，我只拿本帖的 locked 基准做对照，不假装是同卡 before/after。
1. RTX 3080 10GB：真·解锁前后（同卡同机）
卡：EVGA RTX 3080 FTW3 ULTRA 10GB（GA102，PCI
0000:04:00.0）
条件：280W、PyTorch 2.14.1+cu130、8192³ matmul、3 warmup + 10 iterations精度 解锁前 解锁后 差异 FP16 60.91 107.60 +76.6% BF16 64.26 107.82 +67.8% TF32 31.51 52.60 +66.9% journal 确认：
0000:04:00.0: gpu_unlock: unlocked解锁后 BF16 107.82，已经接近 3090 单卡解锁后的 108.48；但 VRAM 只有 10GB。
这是目前没人回报过的点：官方 README 只验证过 RTX 3090，3080 是未官方验证的 GA102 路径。我这张 EVGA FTW3 成功，不代表所有 3080 板卡；长期要看 Xid／掉卡。
2. 双 3090 + NVLink：解锁后
卡：2× MSI RTX 3090 SUPRIM X 24G（
1462:3882）
NVLink：4 links × 14.062 GB/s = 56.25 GB/s 单向、112.5 GB/s 双向
条件：250W×2、8192³ matmulGPU FP16 BF16 TF32 GPU0 68.19 75.79 48.26 GPU1 75.02 76.55 50.49 对照本帖 2488 的 locked 基准（跨机器参考，不是我们自己的 before）：
项目 2488 locked 我们解锁后 GPU0 差异 FP16 53.8 68.19 +26.7% BF16 56.5 75.79 +34.1% TF32 32.2 48.26 +49.9% 我们的 GPU0 甚至略高于本帖 unlocked 参考（67.8／72.6／41.5）。
3. 单张 3090：解锁后（解锁前未在我们机器上量）
卡：ASUS TUF RTX 3090 24G（
1043:87b3）
条件：350W、8192³ matmul精度 解锁后 FP16 108.48 BF16 116.98 TF32 61.65 我们没有在解锁前跑同一张卡的 baseline，所以不编造 before/after；只给解锁后实测。
4. 补充：3080 20GB 魔改卡，CP 值可能更高
这楼里没人提 3080 20GB 魔改卡，但它其实是 3080 解锁的另一个甜点：
- 同一颗 GA102、8704 CUDA、320-bit，显存从 10GB 翻倍到 20GB GDDR6X。
- 二手／魔改市场价约 ¥2,600–3,200（约 US$370–450）；3090 24GB 约 ¥5,000–6,000，价差接近一倍。
- 如果
gpu-unlock对 20GB 版同样有效，理论上能拿到和 10GB 版接近的解锁收益（FP16 +76.6%、BF16 +67.8%），同时 20GB 对 14B／30B AWQ、长上下文 KV cache 更实用。 - 这样它的 CP 值会比 3080 10GB 高很多：同样的算力、多一倍 VRAM，价格只有 3090 的 40–50%。
但这是未验证的推论，不是我们实测：
- 20GB 魔改卡是灰色市场，无原厂保固，VBIOS、散热、blower 设计都可能与零售 3080 不同。
gpu-unlock官方只验证过 RTX 3090；20GB 版即使同为 GA102，也不保证走同一条 firmware 路径。- 要买的话，先确认：能 cold boot、
journalctl -b | grep gpu_unlock出现0000:xx:00.0: gpu_unlock: unlocked、跑 8192³ matmul 与 10GB 版对比、再看 Xid／掉卡。 - 若这些过不了，20GB 的「大显存」不值得拿稳定度去换。
5. 一句话总结
- 3080 10GB：真 A/B，FP16 +76.6%、BF16 +67.8%、TF32 +66.9%。
- 双 3090 + NVLink：解锁后 GPU0 68.19／75.79／48.26；对照本帖 locked 高 26–50%，但属跨机对照。
- 单 3090：解锁后 108.48／116.98／61.65；无自家 before。
- 3080 20GB 魔改卡：若 gpu_unlock 同样有效，CP 值理论上优于 10GB 版与 3090；但属未验证路径，先验卡再买。
给要试 3080 的人：官方未验证、要 cold boot、要看
journalctl -b | grep gpu_unlock，长期注意 Xid／掉卡。 -
-
-
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！
