新手的AI 5090*2

[Jamison Chen]

@terry 謝謝版主
也感謝 網友提供AI 相關資訊,讓我這個新手可以多多學習

[kos or]

新手一言不合 就買了兩張5090 ~ 暴力顯卡

[perter]

@Jamison-Chen
我别的不关心，就关心什么样的电源能带动两张5090

[Jamison Chen]

@perter

這次跟朋友約定產品都用msi 所以這顆電源是MEG Ai1600T PCIES

[Jamison Chen]

@kos-or 目前另外一台r9700 也準備開始測試,所以將會多多觀察一下 此論壇的前輩關於安裝上的問題

[williamlouis]

@Di-Di 为了拍摄，放快递箱子上了。

[Jamison Chen]

兩張疊在一起溫度太高了,又弄了一張水冷,溫度降了10度,整個世界安靜下來了.

[kos or]

@Jamison-Chen

有嘗試過Strata Qwen3.8-Flash-Next了嗎？ 雙卡5090 layer-split 跑可能會高達 decode 280~320 tok/s

[Jamison Chen]

@kos-or 沒錯 不過有建議的工作流嗎?目前跑起來有點不太聰明.

[johnnybegood]

@Jamison-Chen 看我的帖子，嫌不太聪明的话，也可本地把。GLM 5.3 FLASH跑起来，告诉我你的结果

[kos or]

@Jamison-Chen said:

目前跑起來有點不太聰明

Qwen Flash 用什麼精度的呢？ 可以試試高精度的 Q4或者 NVFP4;
或者如Johnny所建議的跑線下的GLM 5.3(比Qwen Flash聰明) 看能不能跑得動