【實測】RTX 3080 20GB 解鎖 FP16 +81%、BF16 +86%
-
一、測試環境與使用版本
項目 環境 CPU Intel Xeon E5-2666 v3 主板 華南金牌 X99 BD3 記憶體 128GB DDR3 1833 拆機條 目標顯卡 RTX 3080 20GB,GA102,PCI ID 10de:2206VBIOS 94.02.27.00.14系統 Ubuntu 24.04.5 核心 6.8.0-147-genericNVIDIA 驅動 595.99.02,open kernel module功耗上限 解鎖前後均為 320W 矩陣測試 CUDA 13.0 runtime/cuBLAS 二、解鎖前後數據
運算 解鎖前 解鎖後 提升 FP32,pedantic 21.7603 21.7622 +0.01% FP16 輸入/FP32 累加 61.0683 110.4815 +80.91% BF16 輸入/FP32 累加 61.1053 113.9369 +86.46% 在這個測試條件下,半精度矩陣吞吐約提高到原本的 1.8 倍。
三、Ubuntu 6.8 實際有跑起來
這個作業系統在解鎖時有些問題,github上已經有人回報了,具體修正給agent看這就能解決。
四、strata實際使用
應該比原本快個20%,原本單卡3080 decode平均大約6X,現在平均大約7X,以上給壇友們參考
