<![CDATA[在Mac Mini M4 Pro 64GB 上部署本地模型]]>各位大神好, 我在用Mac Mini M4 Pro 64GB, 想在本地跑大模型和AI Agent, 方案如下

  1. llama.cpp + Qwen3.6-35B-A3B Q4 + Hermes / Pi

  2. rapid-mlx + Qwen3.6-35B-A3B Q4 + Hermes / Pi

以上都試過, 性能方面方案2較快, 但方案1就比較穩定, 而且也想過再跑comfyUI, 但64GB 不夠用, 有沒有大神有好建議, 如何調整大模型的大小.

主要想打做個人助理, 能自動化和基礎生圖改圖, 謝謝

]]>https://lcz.me/topic/986/在mac-mini-m4-pro-64gb-上部署本地模型RSS for NodeTue, 11 Aug 2026 13:47:01 GMTFri, 31 Jul 2026 12:46:56 GMT60<![CDATA[Reply to 在Mac Mini M4 Pro 64GB 上部署本地模型 on Fri, 31 Jul 2026 13:00:09 GMT]]>明白了, 就想著小玩一下, 分開放是可以有輸出的, 視頻確實不現實, 看來還是deepseek + nano banana, 就是燒一點錢LOL

]]>https://lcz.me/post/11108https://lcz.me/post/11108Fri, 31 Jul 2026 13:00:09 GMT<![CDATA[Reply to 在Mac Mini M4 Pro 64GB 上部署本地模型 on Fri, 31 Jul 2026 12:55:13 GMT]]>Mac跑ComfyUI不仅仅是内存不够，而是芯片算力拉垮，带宽也不够，画图，音频可以玩玩，视频就想多了。即便是画图也比较慢，但肯定可以玩的。有限自己画图的话可以安装draw things门槛很低，不过没有API，无法自动化。
分开跑，一起跑根本不现实，这小主机AI性能很拉垮。

]]>https://lcz.me/post/11107https://lcz.me/post/11107Fri, 31 Jul 2026 12:55:13 GMT