抡锤者

活动价 3000不到 是3080 20g 嗎 有網址嗎

有人買過 https://space.bilibili.com/641503267 出的3080 20g嗎 鹹魚評價看起來還可以
用起來如何

@Eric-HO
是用 https://github.com/TheTom/llama-cpp-turboquant 嗎
能跑多少 t/s
能給我llama.cpp的參數嗎 我想參考

你覺得我現在只有一張3070ti 8g 如果再加一張3060 12g能順跑3.6-27B-Q4KM嗎

我現在用
cpu 5900x
ram 64g
gpu 3070ti 8g

-ngl 9 -c 87475 -np 1 -t 12 -b 1024
-ctk turbo4 -ctv turbo4 -fa on
--jinja --cache-reuse 1024
--slot-save-path cache --spec-type ngram-mod
--spec-ngram-size-n 6 `
--draft-min 16 --draft-max 96

qwen3.6-27b-q4_k_m.gguf 2.84 t/s 左右
Qwen3.6-35B-A3B-IQ4_XS.gguf 35 t/s 左右

只跑 Qwen3.6 27b Qwen3.6-35B-A3B a660 16g X2 能跑嗎 鹹魚 2000多能買到
或是其他 2000-3000 能買到什麼能跑的嗎?