抡锤者

Eric Seto

好勁呀 ! 等我都抄一抄先, 以下係雙7900 xtx嘅測試:

硬件

項目	配置
主機板	華南金牌 HUANANZHI X99-F8D PLUS，V1.33
作業系統	Ubuntu 26.04.1 LTS，64 位元
CPU	2 × Intel Xeon E5-2673 v4，標稱基礎時脈 2.30 GHz
系統記憶體	已安裝 224 GiB：7 × 32 GiB Samsung DDR4 ECC( 本來買咗八條但係有兩條壞嘅,換貨後仍然係有一條係壞嘅 )
)
CPU0 記憶體	已安裝 96 GiB，三個記憶體通道有插 DIMM；Linux 可見約 94.0 GiB
CPU1 記憶體	已安裝 128 GiB，四個記憶體通道均有插 DIMM；Linux 可見約 122.0 GiB
GPU0，連接 CPU0	Sapphire Nitro+ RX 7900 XTX，24 GB 顯存；PCI 0000:07:00.0
GPU1，連接 CPU1	XFX MERC 310 RX 7900 XTX，24 GB 顯存；PCI 0000:86:00.0
電源供應器	Great Wall 2000 W，型號由使用者提供

項目	設定
引擎	實際使用 RDNA3 Fork，原生引擎版本 0.1.43
原始碼	nicejunjie/Strata-rdna3 PR #1，commit：`309f0c8f8cef010f62746f80caf677c68e7141f9`
GPU 運作模式	單一請求使用兩張卡；24／24 分層，Nitro+ 處理第 0–23 層，MERC 處理第 24–47 層
專家資料的記憶體配置	各 GPU 階段使用其所連接 CPU 的本地記憶體
Expert workers	合共 8 個，每顆 CPU 分配 4 個；綁定邏輯 CPU 1、2、3、4、20、21、22、23
上下文上限	262,144 tokens
Prefill	自動選擇，每個區塊上限 32,768 tokens；啟用雙 GPU DP prefill
Prefill ring／CPU 分工	384 個槽位；CPU-share 為 auto，上限 1,024
KV cache	INT8；32,768 個常駐 KV cells
推測解碼	Spec 3，最低機率 0.5；MTP Q4 all；MTP window 4,096
Pipeline windows	2
預留顯存	每張卡 2,048 MiB
對話快取	16,384 MiB，8 個槽位
HIP 硬件佇列	`GPU_MAX_HW_QUEUES=8`
視覺功能	透過現有 CPU 視覺編碼器啟用；本次效能測試只輸入文字

單位：tokens／秒。