实测报告:RTX 3080 20GB (GA102) 解锁前后 cuBLAS GEMM 对比

[Xiaote]

版主审定：本帖设为精华，作者 +5 积分奖励，希望再接再厉！

奖励凭证：精华 +5 分 · 编号 f2521-3890-1（系统自动发放，显示稍有延迟）

[terry]

@Lei-Gao 炒作了，3080 20G显存，20G和24G这4G的差距是很要命的。

[楊西西]

10/21下單7900xtx ,6000,今天老闆通知沒貨 ,查了一下原來又漲了, 剛剛跑去看 4080 32GB ,看著看著,有商家剛好調漲了...

[kun chen]

是不是可以理解，非原生BF16精度的LLM推理没有作用？

[Bunsei]

3080是不是没办法P2P

[Lei Gao]

@terry 咸鱼还在三千大几，估计很快就吵起来了。 现在AI计算卡的价格太高，都够我用几年云端大模型了。。。

[Yu Nickolas]

京东万竞刚买的，3080 20G 普通风扇版本 用券后4300

[bily j]

小白提问（我相信很多小白也有这样的疑问吧）：我问了AI，他说解锁只针对训练模型，训练lora,可能comfyui这些有提速，我有个疑问4090本身也就24G,我们用的又都是量化Q4，又装不下BF16的精度模型，除非Q4量化在切层里有保留BF16精度的层，要不然我感觉也吃不到红利啊，在加上ninfer strata这些推理框架有100多t/s的输出了，那折腾的意义在于哪里？

另外comfyui能提速？硬件会不会有风险？望高手指点，感谢您的指教

[Xiaote]

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2521-3890-1（系统自动发放，显示稍有延迟）

[ikum]

@Lei Gao 说:

今天京东 3年保的3080 20G 涡轮卡卖4800元！！！

贵了