@terry
好的,我來試試,謝謝
怪物
-
關於本地版的模型 -
關於本地版的模型@terry
好的,是找QWEN3.6:35B-FP8
或是QWEN3.6:70B-FP8的模型嗎?
謝謝 -
關於本地版的模型@terry
好的,不好意思,我再研究看看,謝謝 -
關於本地版的模型@老茶
我買的時候不知道它的差異,這個max-Q的便宜1萬塊,我就買了
實際使用上感覺很不錯,70~122B的模型都能順跑,ComfyUI生成一張普通圖片只要6~10秒,
而且高效運轉時約75~85度C,電腦後方它的渦輪風扇排出的熱氣比機殼本身14CM的風扇還強,
我就在想,如果是一般版的600W,一定會熱爆。 -
關於本地版的模型@terry
我的122B是千問3.5的,它只可以讀文檔跟圖片,
至於千問3.6,這是昨天我按照ChatGPT的只是安裝後他給的答案:這次錯誤已經很明確:
failed to initialize model: qwen3next:
layer 40 missing attn_qkv/attn_gate projections
結論:你的 Q6、Q8 檔案不是壞掉;是目前 Ollama 無法正確載入這種 Qwen3.6 / Qwen3Next 架構。
你已經用「HF 直接 pull」和「本機 GGUF + Modelfile」兩種方式都測過,Q6、Q8 都同樣失敗,所以不是下載問題。
這個錯誤和 Ollama 對 Qwen3-Next / Qwen3.5 類 MoE / hybrid 架構支援不完整有關。GitHub 上也有人回報同類錯誤,例如 qwen3next: layer 0 missing attn_qkv/attn_gate projections,在不同 Ollama 版本都出現過。
現在該怎麼做
你如果堅持「不用 llama.cpp、只用 Ollama 給 Hermes」,目前這個 Qwen3.6-35B-A3B 暫時不能用。不是你的操作錯,而是 Ollama 後端不支援或有 bug。
先把不能跑的 Q6 / Q8 從 Ollama 清單移除,保留實體 GGUF 檔案在 C 碟:不過我今天問了hermes,他自己主動幫我下在新的千問3.6模型,並且已經可以使用了,
而且可以自動利用我電腦裡的ComfyUI幫我生成圖片,現在正在測試生成視頻
謝謝 -
關於本地版的模型各位前輩大家好:
我是一個看不懂英文的電腦外行人,
看了版主的視頻後,剛從openclaw龍蝦改換到HERMES,
我的電腦是U9 285K CPU,192G DDR5記憶體,
NVIDIA RTX PRO
6000 Blackwell Max-Q Workstation Edition 96G顯示卡
現在安裝了本地版的hermes,用了qwen3-vl:32B跟qwen3.5:122B的模型
但是122B的模型無法讀取視訊,32B的模型雖然能讀取視訊,但回應都很簡略(有點笨),
我查了ChatGPT等AI然後下載了幾個qwen3.6的模型,但是hermes都不能正常使用,
想請問各位前輩,可以推薦幾個能讀取圖片跟視訊,而且能讓hernes使用的多模態模型,
有70B以上的,體積在80G以內的更好,
謝謝大家