技嘉Z890主板 256G DDR5内存 两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行
-
@b9704037 有一个问题请教下: 在某一个 VRAM 尺寸限制下, 是选用参数量大的模型, 还是选用量化精度高的模型, 效果更好? 其实我的问题就是, 你的配置有足够的 vram, 为什么还停留在 27B 的模型? 谢谢
沒有固定準則吧, 不過通常以量化過的大模型為主
舉個同系列的模型例子, Qwen 3有8B跟32B的模型, 假設VRAM能放得下, 8B原形BF16大約16GB權重, 32B的Q4 IQ4_XS GGUF大約17GB權重, 然而32B對比8B來說這個性能8B是怎麼都跟不上的
不過之前問好像有跑Qwen3.5 122B A10B
-
CPU这么不重要吗?都不值得提一下名字,intel哭晕在厕所
-
CPU这么不重要吗?都不值得提一下名字,intel哭晕在厕所
@Yu-Nickolas 他沒有常駐服務CPU 不要太爛就沒差吧,頂多編譯/解碼久一點,但我猜老哥是攻頂了
-
沒有固定準則吧, 不過通常以量化過的大模型為主
舉個同系列的模型例子, Qwen 3有8B跟32B的模型, 假設VRAM能放得下, 8B原形BF16大約16GB權重, 32B的Q4 IQ4_XS GGUF大約17GB權重, 然而32B對比8B來說這個性能8B是怎麼都跟不上的
不過之前問好像有跑Qwen3.5 122B A10B
@566656661 问了下 whichllm, 它也推荐 qwen3.6-27b, 这个模型真能打呀

-
我發現日本平台還有一張可以便宜的 NVIDIA RTX PRO 6000 Blackwell 96G ....35萬台幣
可惜我湊不出錢,分享給各位勇者
https://item.fril.jp/15eb5fb9b4137fe548d109e021d93eb6?_gl=1*1ria98d*Rakuma_gcl_au*MTM4MTc2MzQxNC4xNzgxMDAzODYx*_gcl_au*MTgzMjk3ODI3My4xNzgxMDAzODYx*_ga*OTcyNzI1MTI3LjE3ODEwMDM4NjA.*_ga_7KV9PBS698*czE3ODEwMDM4NjAkbzEkZzEkdDE3ODEwMDM4NzkkajQxJGwwJGgw -
我發現日本平台還有一張可以便宜的 NVIDIA RTX PRO 6000 Blackwell 96G ....35萬台幣
可惜我湊不出錢,分享給各位勇者
https://item.fril.jp/15eb5fb9b4137fe548d109e021d93eb6?_gl=1*1ria98d*Rakuma_gcl_au*MTM4MTc2MzQxNC4xNzgxMDAzODYx*_gcl_au*MTgzMjk3ODI3My4xNzgxMDAzODYx*_ga*OTcyNzI1MTI3LjE3ODEwMDM4NjA.*_ga_7KV9PBS698*czE3ODEwMDM4NjAkbzEkZzEkdDE3ODEwMDM4NzkkajQxJGwwJGgw -
重点有问题怎样搞
-
只怪我荷包太浅... -
我發現日本平台還有一張可以便宜的 NVIDIA RTX PRO 6000 Blackwell 96G ....35萬台幣
可惜我湊不出錢,分享給各位勇者
https://item.fril.jp/15eb5fb9b4137fe548d109e021d93eb6?_gl=1*1ria98d*Rakuma_gcl_au*MTM4MTc2MzQxNC4xNzgxMDAzODYx*_gcl_au*MTgzMjk3ODI3My4xNzgxMDAzODYx*_ga*OTcyNzI1MTI3LjE3ODEwMDM4NjA.*_ga_7KV9PBS698*czE3ODEwMDM4NjAkbzEkZzEkdDE3ODEwMDM4NzkkajQxJGwwJGgw我發現日本平台還有一張可以便宜的 NVIDIA RTX PRO 6000 Blackwell 96G ....35萬台幣
可惜我湊不出錢,分享給各位勇者
https://item.fril.jp/15eb5fb9b4137fe548d109e021d93eb6?_gl=1*1ria98d*Rakuma_gcl_au*MTM4MTc2MzQxNC4xNzgxMDAzODYx*_gcl_au*MTgzMjk3ODI3My4xNzgxMDAzODYx*_ga*OTcyNzI1MTI3LjE3ODEwMDM4NjA.*_ga_7KV9PBS698*czE3ODEwMDM4NjAkbzEkZzEkdDE3ODEwMDM4NzkkajQxJGwwJGgw我这几天也一直云我这边二手网站~看到有人出去年买的两张。。单张1750万韩币,一张折合人民币大约7万7

-
我發現日本平台還有一張可以便宜的 NVIDIA RTX PRO 6000 Blackwell 96G ....35萬台幣
可惜我湊不出錢,分享給各位勇者
https://item.fril.jp/15eb5fb9b4137fe548d109e021d93eb6?_gl=1*1ria98d*Rakuma_gcl_au*MTM4MTc2MzQxNC4xNzgxMDAzODYx*_gcl_au*MTgzMjk3ODI3My4xNzgxMDAzODYx*_ga*OTcyNzI1MTI3LjE3ODEwMDM4NjA.*_ga_7KV9PBS698*czE3ODEwMDM4NjAkbzEkZzEkdDE3ODEwMDM4NzkkajQxJGwwJGgw我这几天也一直云我这边二手网站~看到有人出去年买的两张。。单张1750万韩币,一张折合人民币大约7万7

-
@williamlouis 好奇大大為何這樣說? 我看他也沒什麼數據不是嗎?
-
我發現日本平台還有一張可以便宜的 NVIDIA RTX PRO 6000 Blackwell 96G ....35萬台幣
可惜我湊不出錢,分享給各位勇者
https://item.fril.jp/15eb5fb9b4137fe548d109e021d93eb6?_gl=1*1ria98d*Rakuma_gcl_au*MTM4MTc2MzQxNC4xNzgxMDAzODYx*_gcl_au*MTgzMjk3ODI3My4xNzgxMDAzODYx*_ga*OTcyNzI1MTI3LjE3ODEwMDM4NjA.*_ga_7KV9PBS698*czE3ODEwMDM4NjAkbzEkZzEkdDE3ODEwMDM4NzkkajQxJGwwJGgw我这几天也一直云我这边二手网站~看到有人出去年买的两张。。单张1750万韩币,一张折合人民币大约7万7

@Q-maria 这价格好 没人去下手么 快递到国内 不知道靠不靠谱
-
@Q-maria 这价格好 没人去下手么 快递到国内 不知道靠不靠谱
就只能說變數太多
-
@Q-maria 这价格好 没人去下手么 快递到国内 不知道靠不靠谱
@Grayson-Ren 要带也只能人肉来回在保价运送。。要我肯定不会邮寄。
-
@b9704037 有一个问题请教下: 在某一个 VRAM 尺寸限制下, 是选用参数量大的模型, 还是选用量化精度高的模型, 效果更好? 其实我的问题就是, 你的配置有足够的 vram, 为什么还停留在 27B 的模型? 谢谢
@laobenxiong 因為我們同時還要跑comfyUI, 一個卡一個工作流希望留60GB的空間給comfyUI, 27B全速運算的感覺很好, 搭配Hermes真的很好用, 35B A3B我們真的用不習慣, 太卡了
@Yu-Nickolas Utral 5 225 就能用就行便宜有內顯可以不吃我顯卡就行了
-
我發現日本平台還有一張可以便宜的 NVIDIA RTX PRO 6000 Blackwell 96G ....35萬台幣
可惜我湊不出錢,分享給各位勇者
https://item.fril.jp/15eb5fb9b4137fe548d109e021d93eb6?_gl=1*1ria98d*Rakuma_gcl_au*MTM4MTc2MzQxNC4xNzgxMDAzODYx*_gcl_au*MTgzMjk3ODI3My4xNzgxMDAzODYx*_ga*OTcyNzI1MTI3LjE3ODEwMDM4NjA.*_ga_7KV9PBS698*czE3ODEwMDM4NjAkbzEkZzEkdDE3ODEwMDM4NzkkajQxJGwwJGgw